NVIDIA H200 Tensor Core

H200 — это графический процессор (Graphics Processing Unit – GPU) последнего поколения в линейке процессоров Nvidia с тензорными ядрами (Tensor Core). Созданные для расширения графических и вычислительных возможностей современных суперкомпьютеров, эти GPU задают повышенный уровень стандартов в части производительности и функциональности вычислительных и аналитических инструментов.

В H200 используется усовершенствованный (третий) вариант успешной архитектуры Nvidia Hopper с тензорными ядрами для ускорения вычислений в системах с ИИ. H200 обеспечивают повышенную в 18 раз производительность, относительно A100 (базового варианта этой архитектуры).

Благодаря использованию технологий NVSwitch и NVLink обеспечивается повышенная пропускная способность при распределенных между графическими процессорами вычислительных операциях. Что особенно важно при моделировании сложных процессов с множеством исходных данных в научных исследованиях.

Основные характеристики

Обновленный модуль H200 имеет 141 ГБ памяти типа HBM3e, обладающей повышенной пропускной способностью около 6,25 Гбит/с. Общая пропускная способность GPU составляет 4,8 ТБ/с. Это значительно больше по сравнению с версией H100, которая при 80 ГБ HBM3 имеет пропускную способность 3,35 ТБ/с.

Общая производительность для восьми GPU HGX 200 составляет 32 PFLOPS в формате вычислений FP8.

Применение

GPU H200 позволяет бесшовно реализовать операция в форматах различной точности FP8, FP16, FP32). Таким образом ускоряются процессы обучения алгоритмов ИИ, повышается производительность используемого оборудования.

Продукты на основе NVIDIA H200 Tensor Core способны повысить эффективность решения многих прикладных задач (приложений), включая самые сложные и ресурсоемкие игры, системы профессиональной визуализации и виртуальной реальности, моделирование в формате CAD/CAM. Для решения подобных задач используют несколько модулей H200, объединенных на платформе таких суперкомпьютеров, как NVIDIA DGX H200.