Аренда NVIDIA A100: ранний доступ

Характеристики NVIDIA A100

Архитектура

Ampere

Год анонса

2020

Память

80 ГБ

Тип памяти

HBM2e

Скорость памяти

2,04 ТБ/с

FP32

19,5 TFLOPS

FP16/BF16 без разреженности

312 TFLOPS

FP8 без разреженности

нет

FP4 без разреженности

нет

FP64

9,7 TFLOPS

FP64 на тензорных ядрах

19,5 TFLOPS

RT-ядра

нет

NVENC/NVDEC

NVENC 0, NVDEC 5

MIG

до 7 экземпляров

Связь между картами

NVLink 600 ГБ/с

Мощность (TDP/TGP)

400 Вт

Исполнение

SXM (уточняется)

Память указана для одного GPU. У нескольких GPU память раздельная: для большой модели нужны совместимое ПО и распределение модели между картами. NVLink не превращает их в один GPU.

Другие исполнения: A100 80GB PCIe (открывается в новой вкладке), A100 40GB SXM (открывается в новой вкладке)

Исполнение A100 уточняем: от него зависят память, её скорость и другие характеристики. Характеристики по официальным материалам NVIDIA, проверены 26 сентября 2026.

A100 по задачам

• Инференс: LLM до 32 млрд в BF16 на одной карте
• Дообучение: QLoRA до 70 млрд, LoRA до 14 млрд на одной карте
• Обучение с нуля: модель до 3 млрд на одной карте
• Рендер: нет RT-ядер
• Расчёты FP64: 9,7 TFLOPS, на тензорных ядрах 19,5 TFLOPS

Оценка по открытым формулам, не замер и не счёт.

Сервер с NVIDIA A100

Конфигурация сервера (процессор, память, диск, сеть) уточняется.

Допущение расчёта: до 8 GPU на сервер. Фактическую конфигурацию подтвердим в ответе.

Источники

• NVIDIA A100 Datasheet (открывается в новой вкладке)
• NVIDIA A100 (открывается в новой вкладке)
• NVIDIA A100 Tensor Core GPU Architecture (открывается в новой вкладке)
• NVIDIA Video Encode and Decode Support Matrix (открывается в новой вкладке)
• NVIDIA Newsroom, May 14, 2020 (открывается в новой вкладке)

Похожие GPU

• NVIDIA H100

  80 ГБ HBM3 · 3,35 ТБ/с · NVLink

  H100 впереди по 5 из 6 параметров. У H100 выше FP32 (67 против 19,5 TFLOPS) и выше FP64 на тензорных ядрах (67 против 19,5 TFLOPS). Одинаково: объём памяти.

• NVIDIA RTX PRO 6000 Blackwell

  96 ГБ GDDR7 · 1,6 ТБ/с · PCIe 5

  RTX PRO 6000 впереди по 3 из 4 параметров, A100 — по 1. У RTX PRO 6000 выше FP32 (120 против 19,5 TFLOPS) и выше FP16/BF16 (467,8 против 312 TFLOPS). Но у A100 выше скорость памяти (2,04 против 1,6 ТБ/⁠с). FP64: у A100 — 9,7 TFLOPS, у RTX PRO 6000 не указано в спецификации карты NVIDIA (по whitepaper NVIDIA у чипа GB202 — 1/64 от FP32).

FP16, FP8 и FP4 у RTX PRO 6000 — расчётные значения. Расчёт: скорость тензорных ядер на SM из whitepaper NVIDIA × частота 2 430 МГц из product brief. Для Server Edition NVIDIA приводит FP16/FP8/FP4 только округлёнными пиками 1/2/4 PFLOPS — это уровень значений с разреженностью; значений без разреженности не публикует.