NVIDIA B200 ijarasi: dastlabki kirish

NVIDIA B200 xususiyatlari

Arxitektura

Blackwell

E’lon qilingan yil

2024

Xotira

180 GBNVIDIA ma’lumotlariga ko‘ra foydalanish mumkin bo‘lgan xotira. Chip xotirasining eng katta hajmi — 192 GB.

Xotira turi

HBM3e

Xotira o‘tkazuvchanligi

7,7 TB/sNVIDIA Blackwell Technical Brief hujjati bo‘yicha (HGX B200); NVIDIA’ning DGX B200 materiallarida — 8 TB/s gacha.

FP32

75 TFLOPS

FP16/BF16 siyrakliksiz

2 250 TFLOPS

FP8 siyrakliksiz

4 500 TFLOPS

FP4 siyrakliksiz

9 000 TFLOPS

FP64

37 TFLOPS

Tenzor yadrolarida FP64

37 TFLOPS

RT yadrolari

yo‘q

NVENC/NVDEC

NVENC 0, NVDEC 7

MIG

ko‘pi bilan 7 ta MIG bo‘linmasi

Kartalar orasidagi aloqa

NVLink 1,8 TB/s

Quvvat (TDP/TGP)

1 000 Vt gacha

Form-faktor

SXM (aniqlanmoqda)

Xotira har bir GPU uchun ko‘rsatilgan. Bir nechta GPU xotirasi alohida: katta model uchun mos dasturiy ta’minot va modelni kartalar orasida taqsimlash kerak. NVLink ularni bitta GPU qilmaydi.

B200 form-faktori aniqlashtirilmoqda. Xususiyatlar NVIDIA rasmiy materiallari bo‘yicha, 26-⁠sentabr, 2026 sanasida tekshirilgan.

B200 vazifalar bo‘yicha

• Inferens: 123 mlrd parametrgacha LLM (FP8), bitta kartada
• Qo‘shimcha o‘qitish: QLoRA 235 mlrd parametrgacha, LoRA 32 mlrd parametrgacha, bitta kartada
• Noldan o‘qitish: 8 mlrd parametrgacha model, bitta kartada
• Render: RT yadrolari yo‘q
• FP64 hisob-kitoblari: 37 TFLOPS

Ochiq formulalar asosidagi taxminiy hisob: bu amaliy sinov natijasi yoki hisob-faktura emas.

NVIDIA B200 o‘rnatilgan server

Server konfiguratsiyasi (protsessor, xotira, disk, tarmoq) aniqlanmoqda.

Hisob farazi: bitta serverda 8 tagacha GPU. Haqiqiy konfiguratsiyani javobda tasdiqlaymiz.

Manbalar

• NVIDIA Blackwell Technical Brief (yangi varaqda ochiladi)
• NVIDIA HGX Platform (yangi varaqda ochiladi)
• NVIDIA DGX B200 (yangi varaqda ochiladi)
• NVIDIA Multi-Instance GPU User Guide (yangi varaqda ochiladi)
• NVIDIA Video Encode and Decode Support Matrix (yangi varaqda ochiladi)
• NVIDIA Omniverse Developer Guide: Technical Requirements (yangi varaqda ochiladi)
• NVIDIA Newsroom, March 18, 2024 (yangi varaqda ochiladi)

O‘xshash GPU modellari

• NVIDIA H200

  141 GB HBM3e · 4,8 TB/s · NVLink

  B200 7 ta ko‘rsatkichdan 6 tasida oldinda, H200 esa 1 tasida. B200 modelida FP16/BF16 (2 250 va 989,4 TFLOPS) hamda FP8 (4 500 va 1 978,9 TFLOPS) yuqoriroq. Biroq H200 modelida tenzor yadrolaridagi FP64 unumdorligi yuqoriroq (67 va 37 TFLOPS). Tenzor yadrolarisiz FP64 unumdorligi B200 modelida yuqoriroq: 37 va 34 TFLOPS.

• NVIDIA B300

  270 GB HBM3e · 7,7 TB/s · NVLink

  B300 8 ta ko‘rsatkichdan 2 tasida oldinda, B200 esa 1 tasida. B300 modelida FP4 (14 000 va 9 000 TFLOPS) hamda xotira hajmi (270 va 180 GB) yuqoriroq. Biroq B200 modelida FP64 yuqoriroq (37 va 1,2 TFLOPS). Bir xil: xotira o‘tkazuvchanligi, FP32, FP16/BF16, FP8, NVLink.

• NVIDIA RTX PRO 6000 Blackwell

  96 GB GDDR7 · 1,6 TB/s · PCIe 5

  B200 6 ta ko‘rsatkichdan 5 tasida oldinda, RTX PRO 6000 esa 1 tasida. B200 modelida xotira o‘tkazuvchanligi (7,7 va 1,6 TB/⁠s) hamda FP16/BF16 (2 250 va 467,8 TFLOPS) yuqoriroq. Biroq RTX PRO 6000 modelida FP32 yuqoriroq (120 va 75 TFLOPS). FP64: B200 modelida 37 TFLOPS, RTX PRO 6000 uchun NVIDIA karta spetsifikatsiyasida ko‘rsatilmagan (NVIDIA texnik hujjatiga ko‘ra GB202 chipida FP32 ning 1/64 qismi).

Siyrakliksiz FP16/BF16 va FP8 — NVIDIA texnik hujjatidagi H100 SXM5 ustunidan: H200 uchun NVIDIA faqat siyraklik bilan olingan qiymatlarni beradi, ular H100 SXM qiymatlari bilan bir xil.

RTX PRO 6000 uchun FP16, FP8 va FP4 — hisoblangan qiymatlar. Hisob: NVIDIA texnik hujjatidagi har bir SM uchun tenzor yadrolari unumdorligi × mahsulot tavsifidagi 2 430 MHz Boost chastotasi. Server Edition uchun NVIDIA FP16/FP8/FP4 ko‘rsatkichlarini faqat yaxlitlangan 1/2/4 PFLOPS maksimal qiymatlari sifatida keltiradi. Bu siyraklikdan foydalanilgandagi qiymatlar darajasiga mos; siyrakliksiz qiymatlar e’lon qilinmagan.