Как выбрать поставщика GPU-сервера или рабочей станции

В этой статье разберём, как выбрать поставщика GPU-сервера или рабочей станции и что проверить помимо списка комплектующих и итоговой цены. Покажем пять важных критериев: понимание вашей нагрузки, качество архитектуры, тестирование готовой системы, контроль сборки и поддержку после поставки. В конце — пять вопросов, с которыми можно сравнивать коммерческие предложения до момента оплаты.

Почему это важно? Объясним на нашем личном опыте. В одном из тестов рабочей станции с двумя RTX PRO 6000 Workstation Edition обе видеокарты корректно определялись системой, а конфигурация проходила базовые проверки. Но длительная нагрузка показала, что соседние GPU влияют на тепловой режим друг друга, из-за чего работа становится нестабильной. Отдел технического контроля (ОТК) остановил отгрузку, конструкцию доработали и повторили испытания.

Этот пример хорошо показывает разницу между набором совместимых компонентов и готовым инженерным решением. Две системы могут быть собраны на одинаковых процессорах и видеокартах, но заметно отличаться по цене. На этапе сравнения коммерческих предложений это часто выглядит просто: если комплектующие те же, зачем платить больше?

Проблема в том, что спецификация показывает только состав оборудования. Она ничего не говорит о том, насколько хорошо компоненты работают вместе, как система ведёт себя после нескольких часов нагрузки, кто проверял её перед отгрузкой и что произойдёт, если после запуска возникнет нестабильность.

Формально совместимые комплектующие ещё не образуют готовое инженерное решение. Именно поэтому при выборе поставщика важно сравнивать не только модели CPU и GPU, но и то, как систему проектируют, тестируют и сопровождают после запуска.

Ниже — пять критериев, которые стоит проверить перед покупкой дорогой рабочей станции или GPU-сервера.

1. Поставщик разбирается в вашей задаче, а не просто пересчитывает спецификацию

Самый простой сценарий выглядит так: заказчик отправляет список компонентов, а через несколько часов получает тот же список с ценами. Для типовой системы этого иногда достаточно. Для оборудования стоимостью в несколько миллионов рублей такой подход уже создаёт риск.

Выбор конфигурации должен начинаться не с конкретной модели видеокарты, а с понимания нагрузки.

Например:

• какое программное обеспечение будет использоваться;
• что ограничивает производительность текущей системы;
• сколько пользователей будут работать одновременно;
• предполагается ли круглосуточная нагрузка;
• какие объёмы данных используются в реальных проектах;
• насколько важны шум, энергопотребление и место установки;
• как может измениться нагрузка через два-три года.

Для разных задач одинаково дорогие компоненты могут давать совершенно разный эффект.

В некоторых САПР интерактивные операции особенно чувствительны к производительности отдельных ядер, тогда как рендеринг, симуляции и отдельные расчётные модули могут лучше масштабироваться по потокам.

Для локальных языковых моделей объём видеопамяти — один из главных ограничителей размера модели, контекста и числа параллельных запросов.

В случае с рендером, если выбранный рендер-движок поддерживает несколько GPU, важны масштабирование между ускорителями, объём сцены и требования самого движка.

Поэтому хороший результат первичной консультации — не просто спецификация. Поставщик должен уметь объяснить:

почему выбрана именно эта архитектура, какие у неё ограничения и какие альтернативы рассматривались.

Что стоит спросить

Попросите объяснить назначение самых дорогих компонентов конфигурации и их влияние именно на вашу задачу.

Если вместо этого вы получаете только фразу «это самый мощный вариант», архитектура, вероятно, ещё не проработана.

2. Архитектура рассчитана целиком или компоненты только совместимы по каталогам

Совместимость по спецификациям производителя — необходимое, но недостаточное условие.

Мощные CPU и GPU могут работать ниже своих возможностей из-за ограничений остальных подсистем:

• количества и распределения линий PCIe;
• пропускной способности памяти;
• конфигурации накопителей;
• сетевого интерфейса;
• блока питания;
• физического размещения видеокарт;
• охлаждения.

Особенно внимательно стоит относиться к системам с несколькими GPU.

При переходе от одной видеокарты к двум, четырём или восьми ускорителям меняются требования сразу к нескольким подсистемам: PCIe, питанию, конструкции корпуса и воздушному потоку.

Есть и ещё одна распространённая ошибка — механически складывать объём видеопамяти.

Две видеокарты по 96 ГБ дают 192 ГБ физически установленной VRAM, но это не означает, что приложение автоматически получает единый пул памяти объёмом 192 ГБ.

У каждого GPU остаётся собственная память. Возможность использовать память нескольких ускорителей зависит от конкретного приложения и способа распределения модели, сцены или данных между GPU.

Поэтому надпись «192 ГБ GPU-памяти» сама по себе мало что говорит о том, какую задачу сможет решить система. Подробнее об использовании нескольких GPU в одной системе мы рассказывали в этом материале.

Что стоит спросить

Для сложной конфигурации поставщик должен быть способен объяснить:

• как распределены линии PCIe;
• как организована память;
• какое питание требуется под полной нагрузкой;
• какие ограничения есть у multi-GPU;
• какие накопители и сетевые интерфейсы используются;
• что можно будет добавить позднее без замены платформы.

В идеале часть этих решений должна существовать не только в голове инженера, но и в виде схемы или технического описания.

3. Проверена ли реальная система после прогрева

Материнская плата может поддерживать две видеокарты. Корпус может позволять их физически установить. Блок питания может иметь достаточную номинальную мощность.

Но это ещё не отвечает на вопрос:

что произойдёт после нескольких часов реальной нагрузки?

Для производительной GPU-системы важны не только максимальные температуры.

Нужно смотреть:

• сохраняются ли рабочие частоты;
• не возникает ли троттлинг;
• как распределяется температура между GPU;
• что происходит при одновременной нагрузке CPU и GPU;
• откуда видеокарты получают холодный воздух;
• куда уходит горячий;
• не возникают ли зоны рециркуляции;
• насколько изменяется шум системы.

Именно здесь начинают проявляться проблемы, которые нельзя увидеть в таблице совместимости.

История с двумя RTX PRO 6000 — пример именно такой ситуации. Система работала, но испытания показали, что её тепловой режим требует доработки.

То есть вопрос при тестировании звучит не: «Запускается ли компьютер?». И даже не: «Не перегревается ли GPU?». Правильнее: «Сохраняет ли система рассчитанную производительность при длительной нагрузке в том режиме, в котором будет работать у заказчика?».

Для рабочей станции рядом с человеком дополнительно важен шум. Сервер в отдельном помещении и рабочая станция инженера могут использовать похожие компоненты, но требования к профилю охлаждения у них будут совершенно разными.

Поэтому максимальная скорость вентиляторов — не решение сама по себе. Задача состоит в том, чтобы найти устойчивый режим: необходимая производительность, приемлемые температуры и допустимый уровень шума.

Вот, например, ещё один кейс из нашей практики, в котором нам удалось собрать систему с четырьмя ускорителями RTX 5090 в одном корпусе без перегрева.

Что стоит спросить

Не ограничивайтесь вопросом «сколько часов вы тестируете».

Гораздо важнее узнать:

• какие нагрузки используются;
• какие подсистемы проверяются;
• что измеряется во время теста;
• какие температуры и частоты считаются допустимыми;
• при каких отклонениях система не проходит испытание.

Для нестандартной multi-GPU-системы особенно ценны результаты проверки именно этой компоновки, а не похожей станции.

4. Есть ли у производителя воспроизводимый процесс сборки и контроля

Даже правильно спроектированную систему можно плохо собрать. Новый компонент также не обязательно исправен только потому, что приехал в запечатанной коробке. Поэтому результат зависит не только от квалификации инженера, который подобрал конфигурацию, но и от того, как устроено производство.

Для профессиональной системы процесс может включать несколько последовательных этапов: контроль компонентов → сборка → настройка BIOS/UEFI и обновление прошивок → настройка охлаждения → тестирование → ОТК → подготовка к перевозке.

На каждом этапе могут возникнуть собственные ошибки.

Например:

• нестабильная память;
• дефект накопителя;
• некорректная версия прошивки;
• плохо зафиксированный силовой кабель GPU;
• неправильная установка тяжёлой видеокарты;
• слишком агрессивный или слишком тихий профиль вентиляторов;
• ошибка комплектации.

Кабель-менеджмент здесь тоже не вопрос красоты. Кабели влияют на воздушный поток, нагрузку на разъёмы и возможность обслуживания системы.

Для тяжёлых видеокарт отдельно важна фиксация при транспортировке.

Поэтому у поставщика должен существовать понятный критерий: в какой момент изделие считается готовым к отгрузке, а в какой возвращается на доработку.

Хорошо, когда финальную приёмку выполняет отдельный ОТК, который не занимается самой сборкой и может вернуть систему на доработку.

Важно не то, какой именно сотрудник поставил подпись. Важны формализованные критерии приёмки и возможность не пропустить систему дальше по процессу.

Что стоит спросить

Попросите показать:

• основные этапы производства;
• что проверяется до длительного тестирования;
• какие параметры фиксируются после испытаний;
• по каким причинам система возвращается на доработку;
• какие результаты контроля может получить заказчик.

Для сложного оборудования хороший признак — наличие паспорта конкретного изделия: серийного номера, фактической комплектации, версий прошивок, результатов испытаний и ОТК.

5. Кто отвечает за результат после поставки

Ещё одно важное различие между поставкой компонентов и готовым решением проявляется уже после отгрузки.

Допустим, рабочая станция или сервер становится нестабильным.

Причиной может оказаться:

• GPU;
• оперативная память;
• блок питания;
• BIOS;
• драйвер;
• CUDA;
• контейнер;
• операционная система;
• приложение.

Заказчику не должно требоваться самостоятельно доказывать, какой именно компонент виноват.

При покупке готовой системы особенно важна единая точка ответственности за диагностику.

Поэтому перед заказом стоит разделить два вопроса.

Первый вопрос: что именно поставляется?

Для обычной рабочей станции это может быть настроенная ОС и проверенные драйверы.

Для GPU-сервера под задачи ИИ состав может быть значительно шире: CUDA, библиотеки, Docker, доступ контейнеров к GPU, фреймворк, сервер инференса, мониторинг и другие компоненты.

Фраза «установим всё необходимое» здесь бесполезна. Программный состав и его версии лучше фиксировать заранее.

Второй вопрос: где заканчивается ответственность поставщика после запуска?

Стоит заранее уточнить:

• куда обращаться при проблеме;
• как проходит удалённая диагностика;
• кто определяет неисправный компонент;
• как организована доставка в сервис;
• какие сроки реакции предусмотрены;
• какие условия входят в базовую гарантию;
• какие доступны расширенные сервисные пакеты.

Срок гарантии важен, но сам по себе ещё мало говорит о качестве поддержки.

Гораздо важнее понимать, что произойдёт в понедельник утром, если оборудование перестанет выполнять рабочую задачу.

Что в итоге сравнивать

Сравнивать две конфигурации только по стоимости комплектующих имеет смысл, если вместе с ними вы покупаете одинаковый объём работ и одинаковую ответственность.

На практике это бывает не всегда.

Одна компания может поставить оборудование, после чего настройка, проверка и запуск останутся на стороне заказчика.

Другая — разобрать задачу, спроектировать архитектуру, настроить и протестировать систему, а затем отвечать за поставленное решение в заранее зафиксированных границах.

Обе модели имеют право на существование.

Главное — понимать, какую именно из них вы покупаете.

Поэтому перед сравнением цен полезно привести предложения к общему знаменателю: архитектура → настройка → испытания → приёмка → программная готовность → гарантия и сервис.

И только после этого сравнивать итоговую стоимость.

Пять вопросов перед оплатой

Если нужно быстро проверить предложение, достаточно начать с пяти вопросов:

• Почему выбрана именно эта архитектура и какие ограничения моей задачи вы учитывали?
• Какие ограничения платформы проверены: PCIe, память, питание, охлаждение и расширение?
• Как ведёт себя именно эта конфигурация после длительной нагрузки?
• По каким критериям система проходит тестирование и ОТК?
• Кто отвечает за диагностику всей системы после запуска?

Если поставщик способен дать на них конкретные технические ответы, показать измерения и объяснить границы своей ответственности, сравнивать предложения дальше уже значительно проще.

Если вместо этого остаются только названия дорогих компонентов и обещание «всё будет работать», низкая цена может оказаться далеко не главным риском.

Нужна проверка готовой конфигурации?

Если у вас уже есть спецификация или коммерческое предложение, инженеры DigitalRazor могут проверить архитектуру до покупки: PCIe, питание, охлаждение, масштабирование и план испытаний. Если конфигурация ещё не определена — сначала разберём нагрузку и только после этого предложим рабочую станцию или GPU-сервер. Просто напишите нам.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U