Аренда NVIDIA H200: ранний доступ

Характеристики NVIDIA H200

Архитектура

Hopper

Год анонса

2023

Память

141 ГБ

Тип памяти

HBM3e

Скорость памяти

4,8 ТБ/с

FP32

67 TFLOPS

FP16/BF16 без разреженности

989,4 TFLOPS

FP8 без разреженности

1 978,9 TFLOPSFP16/BF16 и FP8 без разреженности — из столбца H100 SXM5 в whitepaper NVIDIA: для H200 NVIDIA приводит только значения с разреженностью, и они те же, что у H100 SXM.

FP4 без разреженности

нет

FP64

34 TFLOPS

FP64 на тензорных ядрах

67 TFLOPS

RT-ядра

нет

NVENC/NVDEC

NVENC 0, NVDEC 7NVENC по строке H100 в таблице кодеров и декодеров NVIDIA: строки H200 в ней нет, а на странице H200 названы только декодеры.

MIG

до 7 экземпляров

Связь между картами

NVLink 900 ГБ/с

Мощность (TDP/TGP)

до 700 Вт

Исполнение

SXM (уточняется)

Память указана для одного GPU. У нескольких GPU память раздельная: для большой модели нужны совместимое ПО и распределение модели между картами. NVLink не превращает их в один GPU.

Другие исполнения: H200 NVL (открывается в новой вкладке)

Исполнение H200 уточняем. Характеристики по официальным материалам NVIDIA, проверены 26 сентября 2026.

H200 по задачам

• Инференс: LLM до 70 млрд в FP8 на одной карте
• Дообучение: QLoRA до 123 млрд, LoRA до 32 млрд на одной карте
• Обучение с нуля: модель до 3 млрд на одной карте
• Рендер: нет RT-ядер
• Расчёты FP64: 34 TFLOPS, на тензорных ядрах 67 TFLOPS

Оценка по открытым формулам, не замер и не счёт.

Сервер с NVIDIA H200

Конфигурация сервера (процессор, память, диск, сеть) уточняется.

Допущение расчёта: до 8 GPU на сервер. Фактическую конфигурацию подтвердим в ответе.

Источники

• NVIDIA H200 (открывается в новой вкладке)
• NVIDIA H100 Tensor Core GPU Architecture (whitepaper V1.04) (открывается в новой вкладке)
• NVIDIA Video Encode and Decode Support Matrix (открывается в новой вкладке)
• NVIDIA Omniverse Developer Guide: Technical Requirements (открывается в новой вкладке)
• NVIDIA Newsroom, November 13, 2023 (открывается в новой вкладке)

Похожие GPU

• NVIDIA H100

  80 ГБ HBM3 · 3,35 ТБ/с · NVLink

  H200 впереди по 2 из 7 параметров. У H200 больше памяти (141 против 80 ГБ) и выше скорость памяти (4,8 против 3,35 ТБ/⁠с). Одинаково: FP32, FP16/BF16, FP8, FP64 на тензорных ядрах, NVLink.

• NVIDIA B200

  180 ГБ HBM3e · 7,7 ТБ/с · NVLink

  B200 впереди по 6 из 7 параметров, H200 — по 1. У B200 выше FP16/BF16 (2 250 против 989,4 TFLOPS) и выше FP8 (4 500 против 1 978,9 TFLOPS). Но у H200 выше FP64 на тензорных ядрах (67 против 37 TFLOPS). Без тензорных ядер FP64 выше у B200: 37 против 34 TFLOPS.

• NVIDIA RTX PRO 6000 Blackwell

  96 ГБ GDDR7 · 1,6 ТБ/с · PCIe 5

  H200 впереди по 4 из 5 параметров, RTX PRO 6000 — по 1. У H200 выше скорость памяти (4,8 против 1,6 ТБ/⁠с) и выше FP8 (1 978,9 против 935,6 TFLOPS). Но у RTX PRO 6000 выше FP32 (120 против 67 TFLOPS). FP64: у H200 — 34 TFLOPS, у RTX PRO 6000 не указано в спецификации карты NVIDIA (по whitepaper NVIDIA у чипа GB202 — 1/64 от FP32).

FP16/BF16 и FP8 без разреженности — из столбца H100 SXM5 в whitepaper NVIDIA: для H200 NVIDIA приводит только значения с разреженностью, и они те же, что у H100 SXM.

FP16, FP8 и FP4 у RTX PRO 6000 — расчётные значения. Расчёт: скорость тензорных ядер на SM из whitepaper NVIDIA × частота 2 430 МГц из product brief. Для Server Edition NVIDIA приводит FP16/FP8/FP4 только округлёнными пиками 1/2/4 PFLOPS — это уровень значений с разреженностью; значений без разреженности не публикует.