Какой GPU нужен для локального ИИ: от десктопа до сервера — и когда H200 это перебор

В этой статье разберём, какой GPU нужен для локального запуска ИИ-моделей — от Qwen, Gemma и DeepSeek до gpt-oss, FLUX и видеогенерации. Материал будет полезен тем, кто выбирает видеокарту, компьютер, рабочую станцию или GPU-сервер и не хочет ни переплачивать за H200, ни получить систему, которой не хватит памяти. Вы узнаете, сколько VRAM требуется моделям разных классов, когда достаточно одной RTX 5060 Ti или RTX 5090, в каких задачах нужна RTX PRO 6000, Multi-GPU или сервер и по каким признакам понять, что H200 действительно оправдана.

Частые ошибки при выборе GPU для ИИ

Запрос «какая видеокарта нужна для нейросети» обычно приводит к двум крайностям. Одни сразу смотрят на NVIDIA H200, хотя их задачу закроет одна десктопная карта. Другие считают, что локальный ИИ начинается только с серверной стойки, и откладывают проект, который можно запустить на обычном компьютере.

Обе ошибки стоят денег. В первом случае компания переплачивает за ресурс, который не сможет загрузить. Во втором — продолжает отправлять данные во внешние сервисы, платить за API или месяцами обсуждать пилот вместо запуска.

На практике видеокарту для локальной нейросети выбирают не по принципу «чем дороже, тем лучше». Сначала нужно ответить на пять вопросов:

1. Какую модель нужно запускать?
2. Это инференс, дообучение или обучение с нуля?
3. В какой точности будут храниться веса?
4. Сколько пользователей обращаются к модели одновременно?
5. Какая задержка ответа допустима?

Главная мысль проста: для одиночного запуска модели чаще всего важнее объём видеопамяти и пропускная способность памяти, чем пиковый вычислительный TOPS. H200 становится оправданной не тогда, когда хочется «самый мощный GPU для ИИ», а когда есть крупная модель, высокий поток запросов, длинный контекст, обучение или требование к серверной эксплуатации 24/7.

Чтобы выбрать компьютер для нейросетей без переплаты, нужно двигаться снизу вверх: сначала проверить десктопную карту, затем рабочую станцию и только после нагрузочного теста переходить к серверу.

Сначала определите задачу: запуск, дообучение или обучение

Слово «работа с нейросетью» скрывает три очень разных сценария.

Инференс — готовая модель отвечает на запросы, пишет код, анализирует документы, создаёт изображения или видео. Это самый доступный сценарий. Квантизованные LLM на 7–14 млрд параметров можно запускать на GPU с 12–16 ГБ VRAM, а модели класса 24–35B — на карте с 24–32 ГБ.

Дообучение через LoRA или QLoRA требует больше памяти, потому что кроме весов появляются адаптеры, активации и служебные данные. Однако это всё ещё не обязательно серверный уровень: авторы QLoRA показали возможность дообучения модели класса 65B на одном GPU с 48 ГБ памяти. Реальный расход зависит от архитектуры, длины последовательности, размера батча и настроек обучения.

Полное обучение — другой масштаб. Здесь нужно хранить не только веса, но и градиенты, состояния оптимизатора и активации. Для обучения крупных LLM с нуля одной RTX 5090 или даже одной H200 недостаточно: проект требует нескольких GPU, быстрой связи между ними, серверной платформы и продуманного хранилища.

Поэтому фраза «хочу работать с Llama или Qwen» ещё ничего не говорит о конфигурации. Запуск Qwen 14B для одного аналитика и обучение собственной модели на десятках миллиардов параметров — это разные классы оборудования.

Сколько VRAM нужно для локальной нейросети

Грубую оценку памяти для весов можно получить по формуле:

Объём весов ≈ число параметров × разрядность / 8.

Модель на 14 млрд параметров занимает около 28 ГБ в BF16, около 14 ГБ в 8-битном формате и примерно 7–10 ГБ в распространённых 4-битных квантизациях. Но это только веса.

Дополнительно видеопамять расходуют:

• KV-кэш;
• контекст пользователя;
• временные буферы;
• активации;
• служебные данные фреймворка;
• параллельные запросы.

Поэтому покупать карту «впритык» нельзя. Чем длиннее контекст и больше одновременных пользователей, тем больше нужен запас VRAM.

Это не паспортные требования, а безопасные ориентиры для подбора. Одна и та же модель может занимать разный объём памяти в Ollama, LM Studio, llama.cpp, Transformers или vLLM. На итог также влияют квантизация, длина контекста, размер батча и использование CPU offload.

Уровень 1. 16 ГБ VRAM: локальный ИИ без серверной стойки

16 ГБ видеопамяти — не «игрушечный» уровень. Для персонального ассистента, анализа документов, локального RAG, генерации текста, кода и изображений этого часто достаточно.

На одной карте с 16 ГБ можно ориентироваться на:

• Qwen 7–14B в 4-битной квантизации;
• Gemma 3 12B или Gemma 4 12B;
• DeepSeek-R1-Distill-Qwen-7B/14B;
• gpt-oss-20b;
• Stable Diffusion 3.5;
• облегчённые и квантизованные сборки FLUX;
• Wan2.1 T2V-1.3B.

OpenAI указывает, что gpt-oss-20b в штатном MXFP4-формате требует около 16 ГБ памяти. Модель оптимизирована в том числе для локального инференса на потребительском оборудовании.

Для Wan2.1 T2V-1.3B разработчики указывают расход около 8,2 ГБ VRAM. Более тяжёлая Wan2.1 T2V-14B рассчитана уже на заметно более производительные конфигурации.

Для такого сценария подойдут игровые компьютеры DigitalRazor из категории ПК с RTX 5060 Ti, включая CORE X7 PLUS, SHIFT X1 и PROGAMING X1. В актуальном каталоге представлены конфигурации с RTX 5060 Ti 16 ГБ.

[ Игровые ПК С RTX 5060 Ti 16ГБ ]

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

Core X6

i5-12400F · RTX 5060 Ti 16ГБ · 16ГБ DDR4 · 1 ТБ

134 900 ₽

10 118 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

SHIFT

i5-12400F · RTX 5060 Ti 16ГБ · 16ГБ DDR4 · 1 ТБ

144 900 ₽

10 868 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

Core X7 PLUS

i5-12400F · RTX 5060 Ti 16ГБ · 32ГБ DDR4 · 1 ТБ

146 900 ₽

11 018 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

Core X7

R5 7500F · RTX 5060 Ti 16ГБ · 16ГБ DDR5 · 1 ТБ

149 900 ₽

11 243 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

Core X7 SNOW

R5 7500F · RTX 5060 Ti 16ГБ · 16ГБ DDR5 · 1 ТБ

158 900 ₽

11 918 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 152

2K 114

4K 73

SHIFT X1

R5 7500F · RTX 5060 Ti SLIM 16ГБ · 16ГБ DDR5 · 1 ТБ

163 500 ₽

12 263 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Конфигурацию лучше сразу дополнить 32–64 ГБ оперативной памяти: стандартных 16 ГБ ОЗУ для загрузки моделей, индексации документов и параллельной работы приложений быстро становится мало. Пример: при 16 ГБ ОЗУ некоторые модели не успевают загрузиться перед переносом в видеопамять.

Здесь важно не попасть в маркетинговую ловушку. RTX 5080 быстрее RTX 5060 Ti, но обе карты доступны с 16 ГБ VRAM. Поэтому PROGAMING X5 с RTX 5080 быстрее генерирует токены или изображения, но не позволяет загрузить принципиально более крупную LLM.

Для локального ИИ объём памяти задаёт потолок, а вычислительная мощность определяет, насколько быстро вы до него доберётесь.

Кому достаточно 16 ГБ:

• разработчику, который запускает локального кодового ассистента;
• маркетологу или дизайнеру, работающему с генерацией изображений;
• специалисту, который анализирует внутренние документы через RAG;
• небольшой команде на этапе пилота;
• пользователю, которому важна приватность, но не нужны десятки параллельных запросов.

Уровень 2. RTX 5090 32 ГБ: самый универсальный десктопный GPU для ИИ

RTX 5090 получила 32 ГБ GDDR7 и пропускную способность памяти 1792 ГБ/с. Это позволяет перейти от небольших моделей к классу 24–35B без CPU offload и заметно ускорить генеративные задачи.

На RTX 5090 разумно запускать:

• Mistral Small 3.2 24B;
• Gemma 3 27B;
• DeepSeek-R1-Distill-Qwen-32B;
• Qwen 35B-A3B;
• FLUX.1 dev в BF16, FP8 или квантизированном формате;
• несколько небольших моделей и сервисов одновременно;
• локальных агентов с инструментами, RAG и увеличенным контекстом.

Mistral Small 3.2 построена на модели с 24 млрд параметров, а DeepSeek предлагает отдельную дистиллированную версию R1 на базе Qwen 32B. Семейство Qwen также включает актуальные MoE-модели класса 35B-A3B.

Для сценария «игры, контент и ИИ на одном компьютере» подходят PERFORMANCE X3 и PERFORMANCE X5 с RTX 5090. В актуальных конфигурациях используются RTX 5090 32 ГБ и 64–96 ГБ оперативной памяти.

[ Компьютеры с RTX 5090 ]

Средние показатели FPS в играх

Full HD 372

2K 310

4K 223

PERFORMANCE X3

R7 9800X3D · RTX 5090 32ГБ · 32ГБ DDR5 · 1 ТБ

780 000 ₽

58 500 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 372

2K 310

4K 223

PERFORMANCE X5

R7 9850X3D · RTX 5090 32ГБ · 32ГБ DDR5 RGB · 1 ТБ

789 000 ₽

59 175 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Средние показатели FPS в играх

Full HD 372

2K 310

4K 223

Signature Jinx

R7 9800X3D · RTX 5090 32ГБ · 32ГБ DDR5 RGB · 1 ТБ

789 500 ₽

59 213 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Для постоянной рабочей нагрузки логичнее PERFORMANCE PRO 350R. Эта платформа поддерживает одну видеокарту от RTX 5060 Ti до RTX PRO 6000 Blackwell и до 128 ГБ оперативной памяти.

RTX 5090 — сильный ответ на запрос «какая видеокарта для нейросетей нужна небольшой команде». Она закрывает разработку, прототипирование, генерацию графики, локальный чат, кодинг и инференс моделей среднего размера.

Но 32 ГБ не превращаются в 48 или 96 ГБ за счёт высокой скорости. Llama 3.3 70B содержит 70 млрд параметров, поэтому полный перенос качественной 4-битной версии на одну RTX 5090 не стоит закладывать как основной рабочий режим.

CPU offload (перенос части модели или вычислений из видеопамяти GPU в обычную оперативную память компьютера, где с ними работает процессор) позволит запустить больше, чем помещается в VRAM, но часть вычислений уйдёт в системную память. Для эксперимента это допустимо, для ежедневной работы с требованиями к задержке — уже компромисс.

Уровень 3. 48–96 ГБ VRAM: рабочая станция вместо H200

Именно здесь чаще всего находится правильный ответ для бизнеса.

Рабочая станция для ИИ с NVIDIA RTX PRO 6000 Blackwell получает 96 ГБ GDDR7 и пропускную способность памяти около 1,8 ТБ/с. NVIDIA прямо позиционирует эту карту для локального дообучения LLM, генеративного ИИ и автономных агентов.

Такой объём позволяет локально запускать модели, для которых 32 ГБ уже мало:

• Llama 3.3 70B с хорошей квантизацией и запасом под контекст;
• gpt-oss-120b;
• крупные VLM;
• несколько параллельных сервисов;
• более тяжёлые сценарии QLoRA;
• пакетную генерацию изображений и видео.

Компания OpenAI указывает, что gpt-oss-120b требует от 60 ГБ памяти в оптимизированной локальной конфигурации и укладывается в 80 ГБ в штатном MXFP4-формате. Следовательно, для одиночного или умеренно нагруженного инференса H200 не является обязательной: одна RTX PRO 6000 96 ГБ уже даёт нужную ёмкость.

Для одной профессиональной карты подходит PERFORMANCE PRO 350R.

Если нужна модель больше одной карты, параллельные процессы или запас под рост, PERFORMANCE PRO 750R поддерживает две RTX PRO 6000 и до 192 ГБ суммарной видеопамяти, а также до 1024 ГБ ECC RAM.

Для нескольких RTX 5090 или двух профессиональных GPU можно рассматривать PERFORMANCE PRO HYDRO. В линейке доступны конфигурации с несколькими RTX 5090 и RTX PRO 6000.

[ Рабочие станции с RTX PRO 6000 Blackwell ]

750R RACK

W9-3595X · RTX PRO 6000 96GB · 512GB DDR5 ECC · 2 ТБ NVMe 5.0

6 536 000 ₽

490 200 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

900D Tower

2 x Platinum 8480+ · RTX PRO 6000 96GB · 1024GB DDR5 ECC · 2 ТБ NVMe 5.0

9 968 000 ₽

747 600 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Custom Hydro

7995WX · 2 x RTX PRO 6000 96GB · 1024GB DDR5 ECC · 1 ТБ NVME 5.0

12 653 000 ₽

948 975 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Однако две видеокарты не складывают память автоматически, как две планки ОЗУ. Модель между ускорителями должен уметь распределять фреймворк. Например, vLLM поддерживает tensor parallel и pipeline parallel для разделения инференса между GPU.

Кроме объёма памяти начинают влиять:

• пропускная способность PCIe;
• топология системы;
• скорость обмена между картами;
• поддержка Multi-GPU конкретной моделью;
• эффективность фреймворка.

Рабочая станция с 96 ГБ рациональнее H200, когда:

• модель помещается в одну RTX PRO 6000;
• пользователей немного;
• система стоит рядом с командой, а не в ЦОД;
• важны низкий шум и привычный форм-фактор;
• нет необходимости делить GPU на изолированные инстансы;
• главная задача — разработка, RAG, агенты, генерация контента или периодическое дообучение.

Уровень 4. Multi-GPU: когда одной карты уже мало

Multi-GPU нужен в двух случаях: модель физически не помещается в память одной карты или одного экземпляра модели недостаточно для требуемого потока запросов.

Это разные архитектуры.

Tensor parallel делит одну модель между несколькими GPU. Он нужен для крупных LLM, но создаёт постоянный обмен данными между ускорителями. Чем чаще карты синхронизируются, тем важнее топология и межсоединение.

Data parallel запускает копию модели на каждой карте и распределяет независимые запросы. Такой вариант эффективен, когда модель помещается в один GPU, но нужно обслуживать больше пользователей. vLLM поддерживает оба подхода.

Для локальной команды, студии или R&D-отдела можно использовать DEVBOX AI с четырьмя RTX 5090 либо до шести RTX PRO 6000. Платформа также допускает установку H200 NVL.

Для высоконагруженного сервиса и дальнейшего масштабирования доступен SCALE с поддержкой до восьми RTX 5090 или RTX PRO 6000 Blackwell.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Multi-GPU не стоит покупать «на будущее» без теста. Иногда одна карта с 96 ГБ оказывается быстрее, проще и стабильнее двух потребительских GPU с сопоставимой суммарной памятью.

В других задачах четыре RTX 5090 дают лучшую экономику, потому что можно обрабатывать четыре независимые очереди генерации. Выбор определяется профилем нагрузки, а не только суммой VRAM.

Уровень 5. H200 141 ГБ: когда это уже не перебор

NVIDIA H200 оснащена 141 ГБ HBM3e с пропускной способностью 4,8 ТБ/с. Это в 2,7 раза выше пропускной способности памяти RTX PRO 6000 Blackwell. Важное уточнение: H200 существует в двух форм-факторах — SXM (для HGX-платформ, 700 Вт) и NVL (PCIe, для стоечных станций). В DigitalRazor RACKSTATION AI стоит NVL-версия.

И H200, и RTX PRO 6000 умеют делиться на изолированные инстансы через технологию MIG (Multi-Instance GPU) — но у H200 их до семи против четырёх у PRO 6000, и это важно при большем числе изолированных команд.

Но эти преимущества раскрываются не в локальном чате одного пользователя. H200 нужна, когда система упирается не только в размер весов, но и в:

• пропускную способность памяти;
• KV-кэш;
• большой размер пакетов (batch size);
• длинный контекст;
• число одновременных запросов;
• требования к изоляции ресурсов;
• круглосуточную серверную эксплуатацию.

H200 оправдана, если

• один сервер обслуживает десятки или сотни пользователей;
• модель работает с длинным контекстом и большим KV-кэшем;
• нужна высокая пропускная способность, а не просто возможность загрузить веса;
• используются крупные LLM и VLM в FP8, BF16 или с минимальной квантизацией;
• проводится регулярное дообучение крупных моделей;
• GPU делится между изолированными командами через MIG;
• оборудование работает в стойке 24/7;
• проект масштабируется до нескольких связанных GPU или кластера.

Для одной или двух H200 NVL подходят конфигурации RACKSTATION AI. В каталоге доступны варианты с одной H200 на 141 ГБ и двумя ускорителями с суммарными 282 ГБ VRAM.

HPC 4000 и HPC 8000 поддерживают до четырёх или восьми H200/L40S и рассчитаны на плотную установку в стойке.

HGX H200 объединяет восемь H200 SXM через NVLink и NVSwitch. Это уже платформа для обучения больших моделей, R&D-центров и AI-кластеров, а не просто очень мощный сервер для нейросетей.

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U

Когда H200 — явный перебор

H200 почти наверняка НЕ нужна, если вы:

• запускаете Qwen 14B, Gemma 12B или gpt-oss-20b для одного пользователя;
• строите пилот RAG на внутренних документах;
• генерируете изображения в FLUX или Stable Diffusion;
• тестируете DeepSeek-R1-Distill-Qwen-32B;
• хотите локального кодового ассистента;
• периодически дообучаете модель 7–14B через LoRA;
• не знаете ожидаемое число запросов в секунду;
• щё не проводили нагрузочный тест.

В этих сценариях десктоп с 16–32 ГБ или рабочая станция с RTX PRO 6000 обычно даст лучший баланс цены, простоты и полезной производительности.

Когда даже одна H200 может быть лишь промежуточным решением

Одна H200 даёт много памяти и огромную пропускную способность, но не заменяет кластер. Полное обучение большой LLM, работа с моделями на сотни миллиардов параметров или жёсткий SLA при большой аудитории могут потребовать 4–8 GPU.

Тогда выбор смещается к HPC 4000/8000 или HGX H200, где важна уже не карта сама по себе, а вся архитектура узла.

Какой GPU выбрать под популярные локальные модели

Таблица показывает уровень, с которого стоит начинать тестирование. Реальный подбор нужно проверять на конкретной сохранённой версии модели с определённым набором весов (checkpoint), длине контекста, числе параллельных запросов и используемом ПО.

Изображения и видео: почему размер LLM не даёт полного ответа

Запрос «сколько видеопамяти нужно для нейросети» часто относится не к тексту, а к ComfyUI, FLUX, Stable Diffusion или локальной генерации видео.

FLUX.1 dev — модель на 12 млрд параметров. В BF16 только её основные веса занимают 22–24 ГБ, поэтому RTX 5090 32 ГБ заметно удобнее 16-гигабайтной карты. На 16 ГБ модель тоже можно запускать через FP8, квантизацию и выгрузку частей пайплайна в ОЗУ.

Stable Diffusion 3.5 существует в версиях Medium, Large и Large Turbo. Модели рассчитаны на локальные генеративные пайплайны, включая оптимизированные и квантизированные варианты.

Видеомодели тяжелее. Wan2.1 существует в версиях 1.3B и 14B, а HunyuanVideo 1.5 использует 8,3 млрд параметров и позиционируется как облегчённая модель для потребительских GPU.

При генерации видео расход памяти растёт из-за:

• количества кадров;
• разрешения;
• вариационного автоэнкодера (VAE);
• текстовых энкодеров;
• ControlNet и других модулей;
• одновременной обработки нескольких роликов.

Практический выбор выглядит так:

• 16 ГБ — изображения, облегчённые видеомодели, короткие тесты;
• 32 ГБ — полноценный ComfyUI-пайплайн, FLUX, более тяжёлые видео-задачи;
• 48–96 ГБ — пакетная генерация, высокое разрешение и несколько моделей;
• несколько GPU — студийный batch-процессинг и параллельная генерация.

Здесь H200 тоже не является автоматическим победителем. Для четырёх независимых очередей изображений четыре RTX 5090 могут быть рациональнее одной H200. Для одного тяжёлого пайплайна, большого батча и круглосуточного сервиса преимущество H200 и HBM3e становится заметнее.

Что кроме GPU должно быть в компьютере для нейросетей

Слабая остальная платформа способна свести пользу дорогой видеокарты к минимуму.

Оперативная память

Большой объём ОЗУ нужен для CPU offload, загрузки и преобразования датасетов, индексации документов, работы нескольких сервисов и подготовки моделей.

Процессор

Для генерации токенов основную работу выполняет GPU, поэтому покупать самый дорогой CPU только ради инференса не всегда нужно.

Но многоядерный процессор важен для:

• токенизации;
• подготовки данных;
• генерации с дополнением из внешних источников (RAG);
• работы баз данных;
• компиляции;
• препроцессинга изображений;
• обслуживания нескольких GPU.

Накопитель

Одна модель вместе с несколькими квантизациями может занимать десятки или сотни гигабайт. Добавьте датасеты, векторную базу, Docker-образы, кэш и результаты генерации — 1 ТБ заканчивается быстро.

Для рабочей станции разумно начинать с NVMe на 2 ТБ.

Питание и охлаждение

RTX 5090 и Multi-GPU нельзя рассматривать отдельно от блока питания, воздушного потока и длительной нагрузки.

Игровой ПК рассчитан на переменный профиль, а рабочая станция или GPU-сервер — на многочасовую загрузку. Для постоянного инференса и обучения важна не пиковая скорость в коротком тесте, а стабильность без троттлинга.

Десктоп, рабочая станция или GPU-сервер

Выбирайте игровой десктоп, если система нужна одному человеку, совмещает игры и ИИ, а целевые модели укладываются в 16–32 ГБ VRAM. Это самый быстрый вход в локальный ИИ без лишней инфраструктуры.

Выбирайте рабочую станцию для ИИ, если нагрузка постоянная, нужна RTX PRO 6000 96 ГБ, много ОЗУ, две видеокарты, тихая работа рядом с командой или периодическое дообучение.

Выбирайте GPU-сервер для ИИ, если к модели обращаются несколько сотрудников или клиентов, требуется круглосуточная работа, удалённое администрирование, масштабирование до 4–8 GPU, изоляция ресурсов и интеграция в корпоративную инфраструктуру.

Выбирайте H200 или HGX H200, если нагрузочные тесты показывают, что RTX PRO 6000 или Multi-GPU на RTX 5090 не дают нужного throughput, модель требует 141 ГБ быстрой памяти, нужен MIG либо проект включает обучение больших LLM и VLM.

Быстрый алгоритм выбора

1. Выберите конкретную сборку модели, которую собираетесь запускать.
2. Определите формат весов: BF16, FP8, INT8, Q5 или Q4.
3. Посчитайте память весов и добавьте запас под KV-кэш и фреймворк.
4. кажите контекст: 8K, 32K, 128K или больше.
5. Оцените число одновременных пользователей и запросов в секунду.
6. Проведите тест на одной карте.
7. Только после теста решайте, нужна ли профессиональная GPU, Multi-GPU или H200.

Если модель помещается в 32 ГБ и сервисом пользуются несколько человек, начинайте с RTX 5090. Если нужна модель класса 70–120B, смотрите на RTX PRO 6000 96 ГБ.

Если узкое место — массовый инференс, длинный контекст, обучение и серверная эксплуатация, тогда H200 перестаёт быть перебором.

FAQ

Заключение

Лучшая видеокарта для нейросетей — не самая дорогая, а та, которая вмещает в себя нужную модель и обеспечивает требуемую скорость при реальном числе пользователей.

Для персонального локального ИИ разумная точка входа — 16 ГБ VRAM. Для моделей 24–35B, FLUX и серьёзной разработки — RTX 5090 32 ГБ. Для Llama 70B, gpt-oss-120b и профессиональных локальных сервисов — RTX PRO 6000 96 ГБ.

H200 нужна тогда, когда проект уже стал инфраструктурой: много запросов, длинный контекст, обучение, эксплуатация 24/7 и масштабирование.

Начинать выбор нужно не с вопроса «сколько стоит H200», а с теста модели, квантизации и нагрузки. Так вы не купите сервер ради пилота и не попытаетесь построить корпоративный ИИ на компьютере, который годится только для экспериментов.

DigitalRazor проектирует игровые компьютеры, рабочие станции и GPU-серверы под конкретные модели и сценарии. Перед конфигурацией мы проверим конкретную сборку модели, формат весов, ожидаемый контекст и число пользователей, а затем подберём уровень системы без лишнего запаса и скрытых узких мест.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U