Computação de alto desempenho, formação e inferência em IA/aprendizagem profunda, modelos linguísticos de grande dimensão (LLM) e IA generativa,
Caraterísticas principais
NVIDIA Grace™ Hopper Superchip (CPU Grace e GPU H100);
Interconexão NVLink® Chip-2-Chip (C2C) de alta largura de banda e baixa latência entre CPU e GPU a 900 GB/s;
Até 624 GB de memória coerente por nó, incluindo 480 GB de LPDDR5X e 144 GB de HBM3e para aplicações LLM;
3x PCIe 5.0 X16 para suporte de uma placa NVIDIA Bluefield 3 e duas placas connectX-7 e 1x ranhura PCIe 5.0 x8 por nó para suporte de uma placa LP NIC de 10GB;
6 ventoinhas de serviço pesado de troca a quente com controlo de velocidade opcional;
Fator de forma
Caixa: 438,4 x 87 x 900 mm (17,3" x 3,43" x 35,43")
Pacote: 700 x 280 x 1200 mm (27,56" x 11,02" x 47,24")
GPU suportada: NVIDIA: GPU H100 Tensor Core no superchip GH200 Grace Hopper™ (arrefecido a ar)
Interconexão CPU-GPU: NVLink®-C2C
Interconexão GPU-GPU: NVIDIA® NVLink®
Contagem de slots de memória do sistema: Memória onboard
Memória adicional da GPU: Até 144 GB ECC HBM3
Configuração padrão das baias de unidade: Total de 3 compartimentos
3 compartimentos de unidade NVMe E1.S frontais de troca em tensão
M.2: 2 ranhuras M.2 NVMe (chave M)
Ranhuras de expansão Predefinição
3 ranhuras PCIe 5.0 x16 (em x16) FHFL
Dispositivos a bordo Sistema em chip
Entrada / Saída LAN: 1 RJ45 1 GbE Porta(s) LAN BMC dedicada(s)
Vídeo: 1 porta(s) mini-DP
Ventoinhas de arrefecimento do sistema: 6 ventoinhas amovíveis de 6 cm para trabalhos pesados
Fonte de alimentação 4x 2000W Redundante (2 + 2) Fontes de alimentação de nível Titanium (96%)
BIOS do sistema Tipo de BIOS: AMI 64MB SPI Flash EEPROM
Monitorização do estado do PC CPU: Monitores para núcleos de CPU, tensões de chipset, memória
VENTILADOR: Ventoinhas com monitorização de tacómetro
Monitor de estado para controlo de velocidade
Conectores de ventoinhas com modulação por largura de pulso (PWM)
Temperatura: Monitorização do ambiente da CPU e do chassis
---