NVIDIA RTX A6000 ijarasi: dastlabki kirish

NVIDIA RTX A6000 xususiyatlari

Arxitektura

Ampere

E’lon qilingan yil

2020

Xotira

48 GB

Xotira turi

GDDR6

Xotira o‘tkazuvchanligi

0,77 TB/s

FP32

38,7 TFLOPS

FP16/BF16 siyrakliksiz

154,8 TFLOPS

FP8 siyrakliksiz

yo‘q

FP4 siyrakliksiz

yo‘q

FP64

NVIDIA karta spetsifikatsiyasida ko‘rsatilmaganNVIDIA texnik hujjatiga ko‘ra GA102 chipida FP64 — FP32 ning 1/64 qismi.

Tenzor yadrolarida FP64

yo‘qNVIDIA texnik hujjatiga ko‘ra GA102 tenzor yadrolarida FP64 tezlashtirilmaydi.

RT yadrolari

ha

NVENC/NVDEC

NVENC 1, NVDEC 2

MIG

yo‘q

Kartalar orasidagi aloqa

2 ta karta uchun NVLink ko‘prigini qo‘llab-quvvatlaydi

Quvvat (TDP/TGP)

300 Vt

Form-faktor

Workstation (aniqlanmoqda)

Xotira har bir GPU uchun ko‘rsatilgan. Bir nechta GPU xotirasi alohida: katta model uchun mos dasturiy ta’minot va modelni kartalar orasida taqsimlash kerak. NVLink ularni bitta GPU qilmaydi.

RTX A6000 form-faktori aniqlashtirilmoqda. Xususiyatlar NVIDIA rasmiy materiallari bo‘yicha, 26-⁠sentabr, 2026 sanasida tekshirilgan.

RTX A6000 vazifalar bo‘yicha

• Inferens: 14 mlrd parametrgacha LLM (BF16), bitta kartada
• Qo‘shimcha o‘qitish: QLoRA 32 mlrd parametrgacha, LoRA 14 mlrd parametrgacha, bitta kartada
• Noldan o‘qitish: 1 mlrd parametrgacha model, bitta kartada
• Render: ko‘pi bilan 32 GB hajmdagi sahnalar
• FP64 hisob-kitoblari: bu karta mos emas

Ochiq formulalar asosidagi taxminiy hisob: bu amaliy sinov natijasi yoki hisob-faktura emas.

NVIDIA RTX A6000 o‘rnatilgan server

Server konfiguratsiyasi (protsessor, xotira, disk, tarmoq) aniqlanmoqda.

Hisob farazi: bitta serverda 8 tagacha GPU. Haqiqiy konfiguratsiyani javobda tasdiqlaymiz.

Manbalar

• NVIDIA RTX PRO Blackwell GPU Architecture (v1.1), Table 4 (yangi varaqda ochiladi)
• NVIDIA RTX A6000 Datasheet (yangi varaqda ochiladi)
• NVIDIA Ampere GA102 GPU Architecture (yangi varaqda ochiladi)
• NVIDIA Video Encode and Decode Support Matrix (yangi varaqda ochiladi)
• NVIDIA Newsroom, November 18, 2020 (Q3 FY2021 results) (yangi varaqda ochiladi)

O‘xshash GPU modellari

• NVIDIA RTX 6000 Ada Generation

  48 GB GDDR6 · 0,96 TB/s · PCIe 4

  RTX 6000 Ada 4 ta ko‘rsatkichdan 3 tasida oldinda. RTX 6000 Ada modelida FP32 (91,1 va 38,7 TFLOPS) hamda FP16/BF16 (364 va 154,8 TFLOPS) yuqoriroq. Bir xil: xotira hajmi.

• NVIDIA L40S

  48 GB GDDR6 · 0,86 TB/s · PCIe 4

  L40S 4 ta ko‘rsatkichdan 3 tasida oldinda. L40S modelida FP32 (91,6 va 38,7 TFLOPS) hamda FP16/BF16 (362,05 va 154,8 TFLOPS) yuqoriroq. Bir xil: xotira hajmi.