Аренда NVIDIA RTX A5000: ранний доступ

Характеристики NVIDIA RTX A5000

Архитектура

Ampere

Год анонса

2021

Память

24 ГБ

Тип памяти

GDDR6

Скорость памяти

0,77 ТБ/с

FP32

27,8 TFLOPS

FP16/BF16 без разреженности

111,1 TFLOPSРасчёт: половина значения FP16 с разреженностью, которое NVIDIA указывает для RTX A5000 (222,2 TFLOPS); значения без разреженности NVIDIA не приводит.

FP8 без разреженности

нет

FP4 без разреженности

нет

FP64

не указано в спецификации карты NVIDIA

RT-ядра

да

NVENC/NVDEC

NVENC 1, NVDEC 2

MIG

нет

Связь между картами

поддерживает NVLink-мост на 2 карты

Мощность (TDP/TGP)

230 Вт

Исполнение

Workstation (уточняется)

Память указана для одного GPU. У нескольких GPU память раздельная: для большой модели нужны совместимое ПО и распределение модели между картами. NVLink не превращает их в один GPU.

Исполнение RTX A5000 уточняем. Характеристики по официальным материалам NVIDIA, проверены 26 сентября 2026.

RTX A5000 по задачам

• Инференс: LLM до 8 млрд в BF16 на одной карте
• Дообучение: QLoRA до 14 млрд, LoRA до 8 млрд на одной карте
• Обучение с нуля: модель до 1 млрд на одной карте
• Рендер: сцены до 16 ГБ
• Расчёты FP64: не для этой карты

Оценка по открытым формулам, не замер и не счёт.

Сервер с NVIDIA RTX A5000

Конфигурация сервера (процессор, память, диск, сеть) уточняется.

Допущение расчёта: до 8 GPU на сервер. Фактическую конфигурацию подтвердим в ответе.

Источники

• NVIDIA RTX A5000 Datasheet (открывается в новой вкладке)
• NVIDIA Professional Graphics Solutions Line Card (открывается в новой вкладке)
• NVIDIA Video Encode and Decode Support Matrix (открывается в новой вкладке)
• NVIDIA Newsroom, April 12, 2021 (открывается в новой вкладке)

Похожие GPU

• NVIDIA L4

  24 ГБ GDDR6 · 0,3 ТБ/с · PCIe 4

  L4 впереди по 2 из 4 параметров, RTX A5000 — по 1. У L4 выше FP32 (30,3 против 27,8 TFLOPS) и выше FP16/BF16 (121 против 111,1 TFLOPS). Но у RTX A5000 выше скорость памяти (0,77 против 0,3 ТБ/⁠с). Одинаково: объём памяти.

• NVIDIA RTX A6000

  48 ГБ GDDR6 · 0,77 ТБ/с · NVLink-мост

  RTX A6000 впереди по 3 из 5 параметров. У RTX A6000 больше памяти (48 против 24 ГБ) и выше FP16/BF16 (154,8 против 111,1 TFLOPS). Одинаково: скорость памяти, NVLink.

Расчёт: половина значения FP16 с разреженностью, которое NVIDIA указывает для RTX A5000 (222,2 TFLOPS); значения без разреженности NVIDIA не приводит.