NVIDIA L40S ijarasi: dastlabki kirish
Ada Lovelace · PCIe (aniqlanmoqda)
Dastlabki kirish uchun arizalar qabul qilinmoqda. Quvvatlarni O‘zbekistonda joylashtirmoqdamiz. Narxlarni hozircha e’lon qilmaymiz. Mavjudligini javobda aniqlab beramiz.
L40S
L40S uchun arizaVazifangizga mos ijara shartlarini yuboramiz. Shartnoma tuzilguncha to‘lov talab qilinmaydi.
Yuklamani hisoblash- Har bir GPU xotirasi
- 48 GB GDDR6
- Xotira o‘tkazuvchanligi
- 0,86 TB/s
- Kartalar orasidagi aloqa
- PCIe 4, NVLink yo‘q
NVIDIA L40S xususiyatlari
- Arxitektura
- Ada Lovelace
- E’lon qilingan yil
- 2023
- Xotira
- 48 GB
- Xotira turi
- GDDR6
- Xotira o‘tkazuvchanligi
- 0,86 TB/s
- FP32
- 91,6 TFLOPS
- FP16/BF16 siyrakliksiz
- 362,05 TFLOPS
- FP8 siyrakliksiz
- 733 TFLOPS
- FP4 siyrakliksiz
- yo‘q
- FP64
- NVIDIA karta spetsifikatsiyasida ko‘rsatilmagan
- RT yadrolari
- ha
- NVENC/NVDEC
- NVENC 3, NVDEC 3
- MIG
- yo‘q
- Kartalar orasidagi aloqa
- PCIe 4, NVLink yo‘q
- Quvvat (TDP/TGP)
- 350 Vt
- Form-faktor
- PCIe (aniqlanmoqda)
Xotira har bir GPU uchun ko‘rsatilgan. Bir nechta GPU xotirasi alohida: katta model uchun mos dasturiy ta’minot va modelni kartalar orasida taqsimlash kerak. NVLink ularni bitta GPU qilmaydi.
L40S form-faktori aniqlashtirilmoqda. Xususiyatlar NVIDIA rasmiy materiallari bo‘yicha, 26-sentabr, 2026 sanasida tekshirilgan.
L40S vazifalar bo‘yicha
- Inferens: 32 mlrd parametrgacha LLM (FP8), bitta kartada
- Qo‘shimcha o‘qitish: QLoRA 32 mlrd parametrgacha, LoRA 14 mlrd parametrgacha, bitta kartada
- Noldan o‘qitish: 1 mlrd parametrgacha model, bitta kartada
- Render: ko‘pi bilan 32 GB hajmdagi sahnalar
- FP64 hisob-kitoblari: bu karta mos emas
Ochiq formulalar asosidagi taxminiy hisob: bu amaliy sinov natijasi yoki hisob-faktura emas.
NVIDIA L40S o‘rnatilgan server
Server konfiguratsiyasi (protsessor, xotira, disk, tarmoq) aniqlanmoqda.
Hisob farazi: bitta serverda 8 tagacha GPU. Haqiqiy konfiguratsiyani javobda tasdiqlaymiz.
8 tadan ortiq GPU? Klasterni muhokama qilishManbalar
O‘xshash GPU modellari
- NVIDIA RTX 6000 Ada Generation
48 GB GDDR6 · 0,96 TB/s · PCIe 4
RTX 6000 Ada 5 ta ko‘rsatkichdan 1 tasida oldinda. RTX 6000 Ada modelida xotira o‘tkazuvchanligi yuqoriroq (0,96 va 0,86 TB/s). Bir xil: xotira hajmi. Deyarli bir xil (farq 1 % dan kam): FP32, FP16/BF16, FP8.
- NVIDIA L4
24 GB GDDR6 · 0,3 TB/s · PCIe 4
L40S barcha 5 ta ko‘rsatkichda oldinda. L40S modelida FP8 (733 va 242 TFLOPS) hamda FP32 (91,6 va 30,3 TFLOPS) yuqoriroq.
Vazifangizga mos ijara shartlarini yuboramiz. Shartnoma tuzilguncha to‘lov talab qilinmaydi.