NVIDIA B300 ijarasi: dastlabki kirish

NVIDIA B300 xususiyatlari

Arxitektura

Blackwell

E’lon qilingan yil

2025

Xotira

270 GBNVIDIA ma’lumotlariga ko‘ra foydalanish mumkin bo‘lgan xotira. Chip xotirasining eng katta hajmi — 288 GB.

Xotira turi

HBM3e

Xotira o‘tkazuvchanligi

7,7 TB/s

FP32

75 TFLOPS

FP16/BF16 siyrakliksiz

2 250 TFLOPS

FP8 siyrakliksiz

4 500 TFLOPS

FP4 siyrakliksiz

14 000 TFLOPS

FP64

1,2 TFLOPS

Tenzor yadrolarida FP64

1,2 TFLOPS

RT yadrolari

yo‘q

NVENC/NVDEC

NVENC 0, NVDEC 7

MIG

ko‘pi bilan 7 ta MIG bo‘linmasi

Kartalar orasidagi aloqa

NVLink 1,8 TB/s

Quvvat (TDP/TGP)

1 100 Vt gacha

Form-faktor

SXM (aniqlanmoqda)

Xotira har bir GPU uchun ko‘rsatilgan. Bir nechta GPU xotirasi alohida: katta model uchun mos dasturiy ta’minot va modelni kartalar orasida taqsimlash kerak. NVLink ularni bitta GPU qilmaydi.

B300 form-faktori aniqlashtirilmoqda. Xususiyatlar NVIDIA rasmiy materiallari bo‘yicha, 26-⁠sentabr, 2026 sanasida tekshirilgan.

B300 vazifalar bo‘yicha

• Inferens: 123 mlrd parametrgacha LLM (FP8), bitta kartada
• Qo‘shimcha o‘qitish: QLoRA 235 mlrd parametrgacha, LoRA 70 mlrd parametrgacha, bitta kartada
• Noldan o‘qitish: 8 mlrd parametrgacha model, bitta kartada
• Render: RT yadrolari yo‘q
• FP64 hisob-kitoblari: bu karta mos emas

Ochiq formulalar asosidagi taxminiy hisob: bu amaliy sinov natijasi yoki hisob-faktura emas.

NVIDIA B300 o‘rnatilgan server

Server konfiguratsiyasi (protsessor, xotira, disk, tarmoq) aniqlanmoqda.

Hisob farazi: bitta serverda 8 tagacha GPU. Haqiqiy konfiguratsiyani javobda tasdiqlaymiz.

Manbalar

• NVIDIA Blackwell Ultra Datasheet (yangi varaqda ochiladi)
• NVIDIA Technical Blog: Inside NVIDIA Blackwell Ultra (yangi varaqda ochiladi)
• NVIDIA DGX B300 User Guide (yangi varaqda ochiladi)
• NVIDIA Video Encode and Decode Support Matrix (yangi varaqda ochiladi)
• NVIDIA Omniverse Developer Guide: Technical Requirements (yangi varaqda ochiladi)
• NVIDIA Newsroom, March 18, 2025 (yangi varaqda ochiladi)

O‘xshash GPU modellari

• NVIDIA B200

  180 GB HBM3e · 7,7 TB/s · NVLink

  B300 8 ta ko‘rsatkichdan 2 tasida oldinda, B200 esa 1 tasida. B300 modelida FP4 (14 000 va 9 000 TFLOPS) hamda xotira hajmi (270 va 180 GB) yuqoriroq. Biroq B200 modelida FP64 yuqoriroq (37 va 1,2 TFLOPS). Bir xil: xotira o‘tkazuvchanligi, FP32, FP16/BF16, FP8, NVLink.

• NVIDIA H200

  141 GB HBM3e · 4,8 TB/s · NVLink

  B300 7 ta ko‘rsatkichdan 6 tasida oldinda, H200 esa 1 tasida. B300 modelida FP16/BF16 (2 250 va 989,4 TFLOPS) hamda FP8 (4 500 va 1 978,9 TFLOPS) yuqoriroq. Biroq H200 modelida tenzor yadrolaridagi FP64 unumdorligi yuqoriroq (67 va 1,2 TFLOPS).

• NVIDIA RTX PRO 6000 Blackwell

  96 GB GDDR7 · 1,6 TB/s · PCIe 5

  B300 6 ta ko‘rsatkichdan 5 tasida oldinda, RTX PRO 6000 esa 1 tasida. B300 modelida FP4 (14 000 va 1 871,2 TFLOPS) hamda xotira o‘tkazuvchanligi (7,7 va 1,6 TB/⁠s) yuqoriroq. Biroq RTX PRO 6000 modelida FP32 yuqoriroq (120 va 75 TFLOPS).

Siyrakliksiz FP16/BF16 va FP8 — NVIDIA texnik hujjatidagi H100 SXM5 ustunidan: H200 uchun NVIDIA faqat siyraklik bilan olingan qiymatlarni beradi, ular H100 SXM qiymatlari bilan bir xil.

RTX PRO 6000 uchun FP16, FP8 va FP4 — hisoblangan qiymatlar. Hisob: NVIDIA texnik hujjatidagi har bir SM uchun tenzor yadrolari unumdorligi × mahsulot tavsifidagi 2 430 MHz Boost chastotasi. Server Edition uchun NVIDIA FP16/FP8/FP4 ko‘rsatkichlarini faqat yaxlitlangan 1/2/4 PFLOPS maksimal qiymatlari sifatida keltiradi. Bu siyraklikdan foydalanilgandagi qiymatlar darajasiga mos; siyrakliksiz qiymatlar e’lon qilinmagan.