SuperServer Supermicro SYS-821GE-TNHR 8 NVIDIA H100 GPU Servidor de inteligencia artificial enfriado por aire
H100 Supermicro 8 GPU Server Descripción:
El Supermicro SYS-821GE-TNHR es un servidor avanzado de IA enfriado por aire diseñado para ofrecer un rendimiento excepcional para cargas de trabajo exigentes, especialmente en el ámbito de las aplicaciones de IA y aprendizaje automático.
Combina potentes capacidades de procesamiento con opciones de almacenamiento escalables, lo que permite una integración perfecta en las infraestructuras de TI existentes.El SYS-821GE-TNHR también cuenta con sistemas de gestión térmica mejorados que garantizan un funcionamiento confiable incluso bajo cargas computacionales intensasLas características clave incluyen soporte multi-GPU, configuraciones de memoria extensas y ranuras de expansión flexibles, todas destinadas a optimizar la eficiencia del centro de datos.
Las características críticas del Supermicro SYS-821GE-TNHR incluyen su arquitectura escalable, que permite la integración flexible de GPU adicionales u opciones de almacenamiento.El servidor también ofrece una mayor capacidad de memoria y soporte para múltiples ranuras de expansión PCIeAdemás, su robusto sistema de alimentación asegura un funcionamiento ininterrumpido incluso bajo cargas pesadas.
Servidor de GPU H100 Supermicro 8Especificación:
| Marca del producto |
SuperMicro |
| Modelo |
Servidor de GPU SYS-821GE-TNHR |
| Procesador |
SPR 8468 2P 48C2.1G 350W 105MB BI ((1000) E5 4677 |
| La GPU |
NVIDIA DELTA-NEXT HGX GPU Baseboard. 8 H100 SXM5 de 80 GB |
| Memoria |
64 GB DDR5-4800 2Rx4 LP ((16Gb) ECC RDIMM |
| Disco duro (SSD) |
Micron 7450 PRO 960GB NVMe PCle 4.0 M.2 22x80mm 3D TLC |
| El DCMS |
Licencia de nodo de la suite de software de gestión del sistema SMC |
| NIC1 |
Nvidia 900-9X766-003N-500 PCle 1-puerto 1B 400GE OSPFP Gen5 |
| NIC2 |
Std LP 2 puertos 10G R45, Intel X550 (paquete de venta al por menor) |
| El TPM |
SPI TPM 2.0 utilizando el SLB9670 (paquete de venta al por menor) |
H100 Supermicro 8 GPU Servidor Detalles:
La primera gran característica de este servidor es que es una plataforma 8U. Vemos muchos sistemas 6U y algunos sistemas 7U en la industria, pero la plataforma 8U es en realidad por una buena razón.Con un chasis más alto Supermicro puede utilizar grandes ventiladores y extender la I / O en un factor de forma más grande.
Supermicro construyó esta plataforma de 8U porque es lo suficientemente densa para la mayoría de los racks que entregan menos de 60kW de energía incluso con la altura adicional.Obtuvo una facilidad de servicio líder en su clase junto con un consumo de energía un par de por ciento menor en comparación con un chasis 6U más corto.
Tenemos alrededor de 4,22Tbps de ancho de banda de red que proviene de este servidor, o más de lo que un switch de 32 puertos 100GbE puede manejar.Esa es una de las fuerzas motrices detrás de la demanda de la red en este momento en la industria.
Las CPU de este sistema son Intel Xeon, específicamente las CPU Intel Xeon escalables de cuarta y quinta generación.Mientras que la plataforma DGX de referencia de NVIDIA utiliza CPU Intel Xeon, algunas personas prefieren AMD EPYC, y Supermicro tiene este mismo servidor en EPYC también.
Las CPUs son un poco diferentes aquí ya que han ventilado los disipadores de calor.pero estos módulos de ventilador son bastante fáciles de reemplazar ya que se mantienen en su lugar por un solo tornillo.
Una de las razones por las que, incluso con las CPU de 12 canales en el mercado tanto de AMD e Intel, la gente como las CPU de memoria de 8 canales es que con los pequeños enchufes de ancho uno puede obtener 2 DIMM por canal.Eso significa 16 DIMM por CPU o 32 DIMM en total.
