MSI G4201-HE: восемь ускорителей и два Xeon в 4U

MSI показала G4201-HE — сервер под ИИ-инференс и дообучение моделей на паре процессоров Intel Xeon Emerald Rapids. В корпус высотой 4U помещается до восьми ускорителей на полноразмерных картах PCIe 5.0 и до 8 терабайт оперативной памяти. Для тех, кто строит собственный ИИ-кластер, а не арендует облако, — это готовая база на привычной x86-платформе.

Краткое содержание

• два процессора Intel Xeon Emerald Rapids, сокет LGA 4677, до 350 Вт каждый;
• до восьми ускорителей на слотах PCIe 5.0 x16 FHFL, до 600 Вт на карту;
• 32 слота DDR5-5600, до 8 ТБ памяти на сервер;
• резервированное питание — четыре блока по 2700 Вт (80 PLUS Titanium).

Начинка: два Xeon и восемь ускорителей на PCIe 5.0

MSI построила G4201-HE вокруг пары Xeon Emerald Rapids в сокетах LGA 4677 — платформа даёт достаточно линий PCIe 5.0, чтобы прокормить восемь полноразмерных ускорителей без обходных коммутаторов. Тепловой пакет процессоров — до 350 ватт каждый, ускорителей — до 600 ватт на карту. Итоговая мощность сервера легко переваливает за 6 киловатт, и это без памяти и накопителей. Память — 32 слота DDR5-5600 с поддержкой модулей 3DS, общий объём до 8 терабайт. Запас солидный: веса модели и состояние оптимизатора при дообучении съедают память кратно объёму самой модели. MSI сама называет сферу применения — дообучение и инференс больших языковых моделей, прицел на облачных провайдеров и CDN-платформы, а не на разовую покупку под один проект.

PCIe-карты вместо HGX-платы — компромисс на плотность

Восемь ускорителей в G4201-HE — это полноразмерные карты в слотах PCIe 5.0 x16, а не модули на общей плате формата SXM или HGX, как в топовых 8-GPU системах NVIDIA. У такой схемы есть и цена, и выигрыш. Проигрыш — пропускная способность между картами: без выделенной шины NVLink обмен данными между ускорителями идёт через PCIe и процессор, и на задачах, где карты активно общаются между собой в рамках одного узла, это становится узким местом. Выигрыш — гибкость и цена входа: в PCIe-слот можно ставить совместимые ускорители разных поколений и производителей, апгрейдить машину по одной карте, а не менять всю плату целиком. Для инференса, где каждая карта чаще работает со своей копией модели, разница почти не заметна.

Сеть покупать придётся отдельно

На борту у G4201-HE только один порт на 1 Гбит/с — для управления, не для трафика между узлами кластера. Восемь ускорителей на одной машине без быстрой сети наружу — это половина задачи. Обучение и инференс крупных моделей почти всегда распределены между несколькими серверами: без карт на 100–400 Гбит/с (или InfiniBand) восемь GPU не смогут работать как единая ферма. В базовой спецификации таких адаптеров нет — их придётся считать отдельной строкой бюджета вместе с коммутаторами верхнего уровня. С хранилищем проще: два отсека U.2 на PCIe 4.0 плюс десять SATA-накопителей, два внутренних M.2 под систему. Этого хватит для локального кэша моделей и логов, но не для датасетов на десятки терабайт.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U