---
title: "RTX 4090 или L40S: какую GPU арендовать для AI | UZ Dynamics"
description: "Сравните RTX 4090 24 GB и L40S 48 GB для LLM, генерации изображений и дообучения: память, ограничения, проверка скорости и стоимость результата."
url: "https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s"
lang: "ru"
image: "https://uzdynamics.ai/ru/opengraph-image/card?1237d0f845bd82b9"
alternates:
  ru: "https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s"
  uz: "https://uzdynamics.ai/uz/guides/rtx-4090-vs-l40s"
  en: "https://uzdynamics.ai/en/guides/rtx-4090-vs-l40s"
---

> For an index of this site's pages, see [llms.txt](https://uzdynamics.ai/llms.txt). A markdown copy of each page is at its address with `.md` appended.

# RTX 4090 или L40S: какую GPU арендовать для AI

Начните с памяти: у RTX 4090 её 24 GB, у L40S — 48 GB. Если задача помещается на обеих, сравните скорость и стоимость одного результата. Если 24 GB не хватает, проверьте конфигурацию на L40S. Дополнительная память расширяет варианты запуска, но сама по себе не делает GPU быстрее.

Автор: [UZ Dynamics](https://uzdynamics.ai/ru#company)

Источники проверены: 12 октября 2026

Обновлено: 12 октября 2026

## Чем отличаются RTX 4090 и L40S

RTX 4090 — GeForce GPU, а L40S — GPU для центров обработки данных. Обе относятся к архитектуре NVIDIA Ada Lovelace. Для арендатора важнее не название класса, а память, поддержка нужного ПО и состав всего сервера.

В каталоге UZ Dynamics есть L40S, а RTX 4090 нет. Характеристики RTX 4090 NVIDIA приводит для Founders Edition или эталонного дизайна; у карт других производителей они могут отличаться. Конфигурацию сервера, доступ и условия поддержки уточняйте для конкретного предложения.

**Характеристики одной GPU по документации NVIDIA**

| Характеристика | RTX 4090 | L40S | Что это значит для выбора |
| --- | --- | --- | --- |
| Архитектура | Ada Lovelace | Ada Lovelace | Тензорные ядра одного поколения: обе GPU поддерживают FP8 |
| Номинальная память | 24 GB | 48 GB | У L40S больше места для модели и рабочих данных |
| Тип памяти | GDDR6X | GDDR6 с ECC | ECC исправляет однобитовые ошибки памяти; включённый ECC может занять несколько процентов объёма |
| Пропускная способность памяти | 1 008 GB/s | 864 GB/s | Генерация токенов LLM часто ограничена скоростью чтения из памяти |
| BF16 на тензорных ядрах без разреженности | 165,2 TFLOPS | 362,05 TFLOPS | Пиковое значение NVIDIA; важно для обучения и обработки длинного входа |
| Интерфейс | PCIe Gen 4 | PCIe Gen 4 | Для нескольких GPU важна конфигурация связей в сервере |
| NVLink | Нет | Нет | Несколько GPU могут работать вместе, но память не объединяется автоматически |

Источники к разделу:

- [NVIDIA GeForce RTX 4090](https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/)
- [NVIDIA Ada GPU Architecture (v2.02)](https://images.nvidia.com/aem-dam/Solutions/geforce/ada/nvidia-ada-gpu-architecture.pdf)
- [NVIDIA L40S](https://www.nvidia.com/en-us/data-center/l40s/)
- [NVIDIA System Management Interface: FB Memory Usage](https://docs.nvidia.com/deploy/nvidia-smi/index.html)
- [NVIDIA: Mastering LLM Techniques — Inference Optimization](https://developer.nvidia.com/blog/mastering-llm-techniques-inference-optimization/)
- [vLLM: Parallelism and Scaling](https://docs.vllm.ai/en/stable/serving/parallelism_scaling/)

## 24 или 48 GB: поместится ли задача

Размер файла модели не равен пику потребления видеопамяти. Помимо весов нужны рабочие данные и буферы, а при обучении — ещё градиенты и состояние оптимизатора. Номинальные 24 или 48 GB также не означают, что весь этот объём свободен для вашего кода: часть памяти может быть занята средой или зарезервирована.

Для первого приближения можно посчитать только веса. Если ровно 8 миллиардов параметров хранятся по 2 байта каждый, это 16 миллиардов байт: 16 GB, или примерно 14,9 GiB. В этом примере нет KV cache, активаций, служебных данных и других расходов, поэтому он не доказывает, что запуск поместится на RTX 4090.

Сравнивайте пик памяти при нужных настройках. Если он близок к доступному объёму, короткого успешного запуска недостаточно: проверьте длинные входы и ожидаемую нагрузку. Если памяти не хватает, варианты включают изменение настроек, подходящее квантование, перенос части данных в RAM или другую конфигурацию. Каждый вариант требует новой проверки качества и времени работы.

Только веса в примере: 8 000 000 000 × 2 байта = 16 GB ≈ 14,9 GiB

На одной L40S вдвое больше номинальной памяти

- **RTX 4090:** 24 GB
- **L40S:** 48 GB

Что занимает память во время работы

- Веса модели
  Зависят от модели, точности и формата хранения
- Данные задачи
  KV cache и активации, а при обучении — ещё градиенты и состояние оптимизатора
- Среда выполнения
  Рабочие буферы, служебные расходы и резерв памяти

Номинальный объём по данным NVIDIA; приложению доступна не вся эта память.

### Сравните предварительную оценку памяти

Выберите сценарий и размер модели: оценка по формулам нашего подборщика сравнивается с памятью одной RTX 4090 и одной L40S.

Без JavaScript интерактивная оценка недоступна. В полном подборщике доступны методика и готовые примеры расчёта.

Длина контекста, параллельные запросы и batch size отдельно не учитываются, поэтому реальное потребление может быть выше.

**Методика и единицы памяти**

Потребность считается в десятичных GB (10⁹ байт), а память карты указана в двоичных гигабайтах NVIDIA — без пересчёта, как в подборщике. Поэтому у оценки есть запас около 7 %, а у L40S с включённым ECC — меньше 1 %. Свободную память конкретного сервера оценка не измеряет.

«Впритык» — расчётный остаток меньше 10 % оценки потребности.

Поддержку выбранной точности и способа квантования проверьте в модели и программном стеке.

[Продолжить в полном подборщике](https://uzdynamics.ai/ru/sizing)

Источники к разделу:

- [NVIDIA GeForce RTX 4090](https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/)
- [NVIDIA L40S](https://www.nvidia.com/en-us/data-center/l40s/)
- [Hugging Face Transformers: GPU memory usage](https://huggingface.co/docs/transformers/en/model_memory_anatomy)
- [NVIDIA System Management Interface: FB Memory Usage](https://docs.nvidia.com/deploy/nvidia-smi/index.html)
- [Hugging Face Accelerate: Loading big models into memory](https://huggingface.co/docs/accelerate/en/concept_guides/big_model_inference)
- [Hugging Face Transformers: Bitsandbytes](https://huggingface.co/docs/transformers/en/quantization/bitsandbytes)

* [Разобрать VRAM и KV cache подробнее](https://uzdynamics.ai/ru/guides/vram-kv-cache)

## Для LLM учитывайте контекст и параллельные запросы

Для генерации текста важно не только загрузить веса. KV cache хранит промежуточные данные внимания, а его объём зависит от архитектуры модели, длины последовательностей, числа обрабатываемых запросов и реализации. Одна и та же модель может работать с коротким диалогом и упираться в память на более длинном контексте или большей нагрузке.

RTX 4090 стоит включить в тест, если выбранная модель с нужной точностью и нагрузкой укладывается в доступную память. L40S стоит проверить, если ограничением стали память под модель, контекст или параллельные запросы. При запуске vLLM пишет в журнал размер KV cache в токенах и оценку того, сколько запросов максимальной длины из настроек (max\_model\_len) можно обслуживать одновременно. Сравните эти строки на обеих GPU при одинаковых настройках.

Для сравнения зафиксируйте модель и её версию, формат весов, длины входа и ответа, движок и число одновременных запросов. Измеряйте время до первого токена, скорость продолжения ответа и общую пропускную способность. Один показатель tokens/s без условий не описывает удобство диалога или поведение сервиса под нагрузкой.

Источники к разделу:

- [Hugging Face Transformers: Cache strategies](https://huggingface.co/docs/transformers/en/kv_cache)
- [NVIDIA: Mastering LLM Techniques — Inference Optimization](https://developer.nvidia.com/blog/mastering-llm-techniques-inference-optimization/)
- [vLLM: Parallelism and Scaling](https://docs.vllm.ai/en/stable/serving/parallelism_scaling/)

* [Выбрать конфигурацию для LLM inference](https://uzdynamics.ai/ru/guides/llm-inference)

## Генерация изображений и дообучение требуют разных проверок

Для Stable Diffusion, FLUX и других генераторов укажите точную модель, версию пайплайна (процесса генерации), разрешение, число изображений за запуск, точность и дополнительные компоненты. Сравните одинаковые шаги генерации и требования к результату. Успешная генерация одного изображения не подтверждает работу того же сценария с большим разрешением или дополнительными моделями.

Например, FLUX.1 \[schnell\] — трансформер на 12 миллиардов параметров: только его веса в BF16 занимают около 24 GB, почти всю номинальную память RTX 4090. Текстовые энкодеры и VAE добавляют ещё около 10 GB. Поэтому на одной RTX 4090 такой пайплайн в BF16 целиком не поместится без переноса компонентов на CPU или квантования. На L40S около 34 GB весов оставляют запас; хватит ли его для нужного разрешения и числа изображений, покажет тест.

В Diffusers есть способы снизить расход памяти, включая перенос компонентов на CPU и обработку изображения частями. По документации Diffusers, перенос на CPU по частям модели (sequential CPU offloading) сильно экономит память, но работает очень медленно и часто непрактичен; перенос моделей целиком быстрее, но экономит меньше. Поэтому RTX 4090 с такими настройками и L40S без них — два разных варианта запуска: разницу в скорости нельзя приписывать только GPU.

Дообучение оценивайте отдельно от inference. При полном дообучении обновляются веса модели; LoRA обучает дополнительные адаптеры, а QLoRA сочетает адаптеры с квантованной базовой моделью. Эти подходы меняют потребность в памяти, но не отменяют расходы на активации и обучение. Проверьте длину примера, batch size, оптимизатор и настройки экономии памяти. То, что модель отвечает на RTX 4090, ещё не означает, что её можно дообучить там же с нужными параметрами.

Источники к разделу:

- [Hugging Face Diffusers: Reduce memory usage](https://huggingface.co/docs/diffusers/optimization/memory)
- [Hugging Face: black-forest-labs/FLUX.1-schnell](https://huggingface.co/black-forest-labs/FLUX.1-schnell)
- [Hugging Face Transformers: GPU memory usage](https://huggingface.co/docs/transformers/en/model_memory_anatomy)
- [Hugging Face Transformers: Bitsandbytes](https://huggingface.co/docs/transformers/en/quantization/bitsandbytes)

* [Посмотреть требования LoRA и QLoRA](https://uzdynamics.ai/ru/guides/lora-qlora)

## Почему больше памяти не означает быстрее

Время выполнения зависит не только от объёма памяти, но и от вычислений, обмена данными и программной реализации. Паспортные TFLOPS или число CUDA-ядер не превращаются напрямую в tokens/s, изображения в минуту или время обучения.

Паспортные характеристики двух GPU тянут в разные стороны. У RTX 4090 выше пропускная способность памяти: 1 008 GB/s против 864 GB/s у L40S. У L40S выше пиковая производительность тензорных ядер в BF16 без разреженности: 362,05 TFLOPS против 165,2. NVIDIA описывает обработку входа (prefill) как хорошо распараллеливаемую операцию, которая фактически полностью загружает GPU, а генерацию токенов — как операцию, ограниченную памятью: её задержку в основном определяет скорость передачи весов, KV cache и активаций из памяти, а не скорость вычислений. Поэтому длинные входы, большой batch и обучение скорее выиграют от вычислительного запаса L40S, а длинные ответы на одиночные запросы — от пропускной способности памяти RTX 4090. Это гипотезы для теста: итог зависит от модели, точности, движка и нагрузки.

Если задача свободно помещается на обеих GPU, преимущество нужно измерять. NVIDIA называет batching самым простым способом лучше загрузить GPU и поднять пропускную способность: запросы используют одну модель, и затраты памяти на её веса делятся между ними. Запас памяти L40S позволяет проверить batch крупнее; это может изменить и пропускную способность, и задержку ответа. Для пакетной обработки и интерактивного сервиса подходящие настройки могут различаться.

Проверяйте весь арендуемый ресурс. CPU, оперативная память, диск и сеть участвуют в подготовке и подаче данных. Если время уходит на загрузку модели или чтение набора данных, другая GPU это время не сократит. Сохраняйте версии ПО и параметры теста вместе с замерами.

Источники к разделу:

- [NVIDIA Ada GPU Architecture (v2.02)](https://images.nvidia.com/aem-dam/Solutions/geforce/ada/nvidia-ada-gpu-architecture.pdf)
- [NVIDIA L40S](https://www.nvidia.com/en-us/data-center/l40s/)
- [NVIDIA: Mastering LLM Techniques — Inference Optimization](https://developer.nvidia.com/blog/mastering-llm-techniques-inference-optimization/)

## Две RTX 4090 не становятся одной GPU на 48 GB

У двух RTX 4090 суммарно 48 GB номинальной памяти, но у каждой остаются собственные 24 GB. Программа должна уметь распределять модель или работу между устройствами. Если запустить две независимые копии модели целиком на GPU, без переноса данных на CPU, каждая должна помещаться на своём устройстве.

NVLink нет ни у RTX 4090, ни у L40S. Работать с несколькими GPU это не мешает, но способ разделения модели влияет на результат. Документация vLLM для GPU одного сервера без NVLink, например L40S, советует pipeline parallelism вместо tensor parallelism: так выше пропускная способность и меньше накладные расходы на обмен данными. А если разбить большую модель по нескольким GPU через device\_map в Accelerate, в каждый момент будет работать только одна из них. Сравнивайте конкретную многокарточную конфигурацию с одной L40S, включая её стоимость и поддержку в вашем ПО, а не только сумму памяти.

Источники к разделу:

- [NVIDIA GeForce RTX 4090](https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/)
- [NVIDIA L40S](https://www.nvidia.com/en-us/data-center/l40s/)
- [Hugging Face Accelerate: Loading big models into memory](https://huggingface.co/docs/accelerate/en/concept_guides/big_model_inference)
- [vLLM: Parallelism and Scaling](https://docs.vllm.ai/en/stable/serving/parallelism_scaling/)

## Сравните стоимость результата, а не только часа

Возьмите одинаковое задание: например, один набор изображений с заданными настройками или обработку одного набора запросов. После проверки качества сравните длительность и начисления. Более низкий часовой тариф может сопровождаться более долгой работой; более дорогой час не доказывает, что задача обойдётся дороже.

В смете учитывайте всю конфигурацию, оплачиваемую подготовку и ожидание, хранение и передачу данных. Для постоянно работающей модели добавьте ожидаемую нагрузку и требования к времени ответа. Актуальные тарифы и наличие GPU проверяйте в конкретном предложении.

- [Рассчитать расходы по своим тарифам](https://uzdynamics.ai/ru/guides/gpu-rental-cost)

## Как проверить выбор на своей задаче

Подготовьте небольшой набор, похожий на будущую работу, и заранее задайте приемлемое качество и время выполнения. Условия теста должны позволять повторить результат.

- Зафиксируйте модель, версии ПО, точность, настройки и состав сервера. Проверьте применимые условия использования модели и программного обеспечения.
- Отделите запуск среды и загрузку модели от прогретого выполнения. Повторите тест несколько раз и запишите пик памяти, время и ошибки.
- Проверьте ожидаемую нагрузку: длинные запросы, параллельность, нужное разрешение или размер batch. Для сервиса измерьте задержки под этой нагрузкой.
- Сопоставьте результат с полной стоимостью. До длительной аренды подтвердите наличие конфигурации, доступ, правила оплаты, хранения и поддержки.

* [Оценить требования своей задачи к GPU](https://uzdynamics.ai/ru/sizing)

## GPU для сравнения

В карточке приведены характеристики модели NVIDIA. Состав сервера, доступность и условия аренды нужно подтвердить отдельно; выбор проверяют на вашей задаче.

- [L40S](https://uzdynamics.ai/ru/gpus/l40s)

## Перейти к расчёту и запросу

UZ Dynamics — ранний доступ. Эти материалы помогают описать задачу; они не подтверждают наличие GPU, готовность среды или скорость выполнения. Наличие, конкретная конфигурация, цены и условия доступа уточняются при обсуждении заявки.

[Открыть калькулятор GPU](https://uzdynamics.ai/ru/sizing) [Все модели GPU](https://uzdynamics.ai/ru/gpus) [Все материалы](https://uzdynamics.ai/ru/guides)

[Запросить ранний доступ](https://uzdynamics.ai/ru/request?source=guide%3Artx-4090-vs-l40s)

```json
{"@context":"https://schema.org","@type":"BreadcrumbList","itemListElement":[{"@type":"ListItem","position":1,"name":"UZ Dynamics","item":"https://uzdynamics.ai/ru"},{"@type":"ListItem","position":2,"name":"Практика выбора GPU","item":"https://uzdynamics.ai/ru/guides"},{"@type":"ListItem","position":3,"name":"RTX 4090 или L40S: какую GPU арендовать для AI","item":"https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s"}]}
{"@context":"https://schema.org","@type":"Article","@id":"https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s#article","headline":"RTX 4090 или L40S: какую GPU арендовать для AI","description":"Сравните RTX 4090 24 GB и L40S 48 GB для LLM, генерации изображений и дообучения: память, ограничения, проверка скорости и стоимость результата.","inLanguage":"ru","dateModified":"2026-10-12","author":{"@type":"Organization","@id":"https://uzdynamics.ai/#organization","name":"UZ Dynamics","url":"https://uzdynamics.ai/"},"publisher":{"@type":"Organization","@id":"https://uzdynamics.ai/#organization","name":"UZ Dynamics","url":"https://uzdynamics.ai/"},"mainEntityOfPage":{"@type":"WebPage","@id":"https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s"},"url":"https://uzdynamics.ai/ru/guides/rtx-4090-vs-l40s"}
```