Аренда NVIDIA B200: ранний доступ

Характеристики NVIDIA B200

Архитектура

Blackwell

Год анонса

2024

Память

180 ГБДоступная память по данным NVIDIA. Максимальный объём памяти чипа — 192 ГБ.

Тип памяти

HBM3e

Скорость памяти

7,7 ТБ/сПо Technical Brief NVIDIA (HGX B200); в материалах NVIDIA о DGX B200 — до 8 ТБ/с.

FP32

75 TFLOPS

FP16/BF16 без разреженности

2 250 TFLOPS

FP8 без разреженности

4 500 TFLOPS

FP4 без разреженности

9 000 TFLOPS

FP64

37 TFLOPS

FP64 на тензорных ядрах

37 TFLOPS

RT-ядра

нет

NVENC/NVDEC

NVENC 0, NVDEC 7

MIG

до 7 экземпляров

Связь между картами

NVLink 1,8 ТБ/с

Мощность (TDP/TGP)

до 1 000 Вт

Исполнение

SXM (уточняется)

Память указана для одного GPU. У нескольких GPU память раздельная: для большой модели нужны совместимое ПО и распределение модели между картами. NVLink не превращает их в один GPU.

Исполнение B200 уточняем. Характеристики по официальным материалам NVIDIA, проверены 26 сентября 2026.

B200 по задачам

• Инференс: LLM до 123 млрд в FP8 на одной карте
• Дообучение: QLoRA до 235 млрд, LoRA до 32 млрд на одной карте
• Обучение с нуля: модель до 8 млрд на одной карте
• Рендер: нет RT-ядер
• Расчёты FP64: 37 TFLOPS

Оценка по открытым формулам, не замер и не счёт.

Сервер с NVIDIA B200

Конфигурация сервера (процессор, память, диск, сеть) уточняется.

Допущение расчёта: до 8 GPU на сервер. Фактическую конфигурацию подтвердим в ответе.

Источники

• NVIDIA Blackwell Technical Brief (открывается в новой вкладке)
• NVIDIA HGX Platform (открывается в новой вкладке)
• NVIDIA DGX B200 (открывается в новой вкладке)
• NVIDIA Multi-Instance GPU User Guide (открывается в новой вкладке)
• NVIDIA Video Encode and Decode Support Matrix (открывается в новой вкладке)
• NVIDIA Omniverse Developer Guide: Technical Requirements (открывается в новой вкладке)
• NVIDIA Newsroom, March 18, 2024 (открывается в новой вкладке)

Похожие GPU

• NVIDIA H200

  141 ГБ HBM3e · 4,8 ТБ/с · NVLink

  B200 впереди по 6 из 7 параметров, H200 — по 1. У B200 выше FP16/BF16 (2 250 против 989,4 TFLOPS) и выше FP8 (4 500 против 1 978,9 TFLOPS). Но у H200 выше FP64 на тензорных ядрах (67 против 37 TFLOPS). Без тензорных ядер FP64 выше у B200: 37 против 34 TFLOPS.

• NVIDIA B300

  270 ГБ HBM3e · 7,7 ТБ/с · NVLink

  B300 впереди по 2 из 8 параметров, B200 — по 1. У B300 выше FP4 (14 000 против 9 000 TFLOPS) и больше памяти (270 против 180 ГБ). Но у B200 выше FP64 (37 против 1,2 TFLOPS). Одинаково: скорость памяти, FP32, FP16/BF16, FP8, NVLink.

• NVIDIA RTX PRO 6000 Blackwell

  96 ГБ GDDR7 · 1,6 ТБ/с · PCIe 5

  B200 впереди по 5 из 6 параметров, RTX PRO 6000 — по 1. У B200 выше скорость памяти (7,7 против 1,6 ТБ/⁠с) и выше FP16/BF16 (2 250 против 467,8 TFLOPS). Но у RTX PRO 6000 выше FP32 (120 против 75 TFLOPS). FP64: у B200 — 37 TFLOPS, у RTX PRO 6000 не указано в спецификации карты NVIDIA (по whitepaper NVIDIA у чипа GB202 — 1/64 от FP32).

FP16/BF16 и FP8 без разреженности — из столбца H100 SXM5 в whitepaper NVIDIA: для H200 NVIDIA приводит только значения с разреженностью, и они те же, что у H100 SXM.

FP16, FP8 и FP4 у RTX PRO 6000 — расчётные значения. Расчёт: скорость тензорных ядер на SM из whitepaper NVIDIA × частота 2 430 МГц из product brief. Для Server Edition NVIDIA приводит FP16/FP8/FP4 только округлёнными пиками 1/2/4 PFLOPS — это уровень значений с разреженностью; значений без разреженности не публикует.