NVIDIA H100 NVL

Подробное описание

H100 NVL объединяет пару GPU H100 прямым мостом NVLink, предоставляя 188 ГБ суммарной памяти HBM3 для моделей, не помещающихся в одном ускорителе. Формат PCIe 5.0 обеспечивает совместимость со стандартными серверными платформами без инфраструктуры SXM. TDP — до 400 Вт на GPU. Подходит для инференса LLM, рекомендательных систем и задач, чувствительных к объёму памяти.

NVIDIA H100 NVL — серверный ускоритель H100 с 94 ГБ памяти HBM3 и подключением NVLink через мост. Оптимален для инференса крупных языковых моделей в двух-GPU конфигурациях.

Ключевые характеристики

Типовые применения