DigitalRazor Scale с RTX 5090: как построить ИИ-ферму дешевле, чем на профессиональных ускорителях

Профессиональные ускорители хороши всем, кроме цены. Большая видеопамять с ECC, виртуализация, серверные функции и корпоративный программный стек действительно нужны большим инфраструктурным проектам. Но если задача упирается прежде всего в вычислительную мощность GPU, платить за весь этот набор необязательно.

DigitalRazor Scale позволяет установить до восьми GeForce RTX 5090 по 32 ГБ. Такая конфигурация получает 256 ГБ суммарно установленной видеопамяти и превращается в мощный узел для обучения моделей, генеративного ИИ, компьютерного зрения, исследований и параллельного инференса.

Главная идея здесь простая: если рабочая нагрузка не требует 96 ГБ VRAM на каждой карте и функций профессионального GPU, RTX 5090 позволяет направить большую часть бюджета непосредственно в вычислительную мощность.

Что представляет собой Scale с RTX 5090

Scale — стоечная платформа для восьми GPU. В актуальных конфигурациях используются два AMD EPYC или Intel Xeon, от 512 ГБ оперативной памяти DDR5 и восемь RTX 5090 по 32 ГБ.

Платформа поддерживает до 256 процессорных ядер и несколько терабайт оперативной памяти в старших конфигурациях. Корпус рассчитан на установку в стандартную 19-дюймовую стойку и длительную работу под высокой нагрузкой.

То есть мы не пытаемся собрать «восемь игровых видеокарт в обычном сервере». Scale проектируется именно как многопроцессорный GPU-узел с соответствующим питанием, охлаждением, линиями PCI Express и серверной платформой.

Зачем восемь RTX 5090

Одна RTX 5090 получила 32 ГБ GDDR7 и уже подходит для локального запуска моделей класса 24–35B, генеративного ИИ и различных задач машинного обучения.

Восемь карт открывают два основных сценария.

Первый — параллельные задачи. Можно распределить несколько моделей, экспериментов или пользовательских запросов между разными GPU. Один ускоритель занят генерацией изображений, другой — инференсом, ещё несколько — обучением.

Второй — распределённые вычисления. Современные фреймворки позволяют разделить данные или модель между несколькими GPU. Именно так работают крупные задачи, которые уже невозможно эффективно выполнить на одной видеокарте.

В нашем материале «Multi-GPU в 2026 году: когда нужны несколько видеокарт» мы демонстрировали масштабирование RTX 5090 в ResNet50:

Восемь карт здесь дают производительность примерно 6,97 в сравнении с одиночной RTX 5090. Масштабирование не идеально линейное: часть времени уходит на обмен и синхронизацию данных. Но прирост всё равно огромный.

Конкретный результат зависит от модели, фреймворка, размера пакета, схемы параллелизма и топологии системы.

Почему RTX 5090 дешевле профессионального варианта

GeForce RTX 5090 и RTX PRO 6000 Blackwell построены на одном поколении архитектуры NVIDIA, но ориентированы на разные рынки.

RTX PRO 6000 получила 96 ГБ GDDR7 с ECC, поддержку профессиональной виртуализации и MIG. Один физический ускоритель можно разделять между несколькими изолированными рабочими нагрузками — важная возможность для корпоративного ЦОД.

RTX 5090 этого набора не предлагает. Зато пользователь не оплачивает функции, которыми может вообще не воспользоваться.

Поэтому восемь RTX 5090 особенно интересны:

• исследовательским командам;
• ИИ-стартапам;
• студиям генеративного контента;
• внутренним R&D-отделам;
• разработчикам собственных моделей;
• проектам, где каждый GPU постоянно загружен одной конкретной задачей.

Если компании не нужна аппаратная нарезка GPU между десятками виртуальных машин и каждая задача помещается в 32 ГБ памяти либо нормально распределяется между несколькими картами, потребительские ускорители позволяют заметно снизить входной бюджет.

Но 256 ГБ — это не одна видеокарта на 256 ГБ

Это ключевое ограничение, про которое нельзя забывать. Восемь RTX 5090 дают 8 × 32 ГБ, а не единый прозрачный пул памяти на 256 ГБ.

Чтобы модель использовала память нескольких ускорителей, программный стек должен разделять её между GPU через тензорный или конвейерный параллелизм либо другую схему распределения.

Поэтому размер памяти на одной карте всё ещё имеет большое значение.

Например, 70B-модель даже в 4-битном формате может требовать около 35 ГБ только под веса. В одну RTX 5090 она уже не помещается. Её можно разделить между несколькими ускорителями, но это усложняет конфигурацию и добавляет обмен данными между GPU. Подробнее требования моделей к видеопамяти мы разбирали в статье «Какой GPU нужен для локального ИИ».

Когда лучше сразу взять RTX PRO 6000

Экономить на GPU нужно до тех пор, пока ограничения не начинают мешать самой работе.

RTX PRO 6000 Blackwell получила 96 ГБ GDDR7 ECC — втрое больше, чем RTX 5090. Восемь таких карт дают 768 ГБ установленной видеопамяти.

Профессиональный вариант рациональнее, если:

• модели регулярно не помещаются в 32 ГБ;
• нужен большой контекст или крупные пакеты данных;
• требуется ECC для видеопамяти;
• инфраструктура использует vGPU или MIG;
• один ускоритель нужно делить между несколькими изолированными пользователями;
• сервер становится критически важным производственным узлом;
• важнее простота размещения больших моделей, чем минимальная стоимость вычислений.

В нашем обзоре RTX PRO 6000 Blackwell хорошо видно, где начинает работать преимущество 96 ГБ: на небольших LLM RTX 5090 способна идти практически вровень с профессиональной картой, а с ростом модели ограничение в 32 ГБ становится всё заметнее.

Поэтому RTX PRO 6000 — не просто «дорогая RTX 5090». Дополнительные деньги покупают прежде всего больше памяти на одном GPU и серверные возможности.

Где Scale с RTX 5090 особенно выгоден

Лучший сценарий — когда задача хорошо масштабируется на несколько карт, но не требует огромной VRAM на каждом ускорителе.

Например

Дообучение небольших и средних моделей. Данные и вычисления можно распределить по нескольким RTX 5090.

Параллельный инференс. Восемь GPU можно разделить между несколькими моделями или сервисами.

Генерация изображений и видео. Независимые задания удобно отправлять на отдельные карты.

Компьютерное зрение. Обучение и обработка больших наборов изображений хорошо распараллеливаются.

Исследовательские эксперименты. Несколько специалистов могут одновременно использовать разные ускорители вместо ожидания одной общей очереди.

То есть экономический эффект возникает не потому, что RTX 5090 во всём заменяет профессиональный GPU. Она этого не делает. Эффект появляется, когда профессиональные возможности конкретному проекту просто не нужны.

Цена GPU — только часть ИИ-фермы

Восьмикарточный сервер нельзя оценивать только по стоимости видеокарт.

Восемь RTX 5090 могут потреблять до нескольких киловатт только на GPU, поэтому инфраструктуре нужны соответствующее электропитание и охлаждение. Важны и процессоры, объём системной памяти, хранилище, пропускная способность PCI Express и сеть.

Если потом несколько Scale объединяются в кластер, требования к инфраструктуре становятся ещё выше.

Поэтому перед покупкой мы рекомендуем сначала проверить реальную нагрузку: модель, точность вычислений, размер пакета, объём данных и эффективность масштабирования на несколько GPU.

Для Scale доступно тестирование перед покупкой — можно проверить собственный программный стек и понять, действительно ли восемь RTX 5090 дают нужный результат.

Не платить за PRO, если PRO не нужен

DigitalRazor Scale с восемью RTX 5090 — решение для проектов, которым нужна большая вычислительная мощность, но необязательно нужен весь набор возможностей профессиональных ускорителей.

32 ГБ на одну карту остаются главным ограничением. Если модель помещается в этот объём или нормально распределяется между несколькими GPU, RTX 5090 позволяет собрать очень производительный ИИ-узел и направить бюджет именно в количество ускорителей.

Если же проекту нужны 96 ГБ на каждый GPU, ECC, MIG, vGPU и корпоративный сценарий эксплуатации, экономия заканчивается — здесь RTX PRO 6000 становится правильным инструментом.

Мы подберём конфигурацию Scale под конкретную модель и проверим её на вашей нагрузке до покупки — чтобы восемь видеокарт действительно работали как ИИ-ферма, а не просто красиво выглядели в спецификации.

SCALE S64-256-512

Для каких задач Высокопроизводительный сервер инференса, локальная лаборатория для разработки AI, сервисная стойка под параллельные API-запросы.

Подробнее

Видеокарты

8 x NVIDIA RTX 5090 32GB

Объем видеопамяти 256 ГБ

Процессоры

2 x Xeon Gold 6430

Количество ядер 64

RAM 512GB DDR5

Форм-фактор 6U

SCALE S96-576-1536

Для каких задач Корпоративный AI-сервер, закрывающий полный цикл от обработки данных и векторного поиска до обучений специализированных LLM под задачи бизнеса.

Подробнее

Видеокарты

8 x NVIDIA RTX PRO 5000 72GB

Объем видеопамяти 576 ГБ

Процессоры

2 x Xeon Platinum 8558P

Количество ядер 96

RAM 1536GB DDR5

Форм-фактор 6U

SCALE S120-768-1536

Для каких задач Научно-исследовательские R&D лаборатории, Data Science кластеры, тяжелые мультимодальные генеративные задачи и масштабный Deep Learning.

Подробнее

Видеокарты

8 x NVIDIA RTX PRO 6000 96GB

Объем видеопамяти 768 ГБ

Процессоры

2 x Intel Xeon Platinum 8580

Количество ядер 120

RAM 1536GB DDR5

Форм-фактор 6U