AMD Instinct MI350P: 144 ГБ HBM3E без OAM-платформы

AMD Instinct MI350P официально вышел ещё в мае, но настоящая новость — сейчас: карта пошла в серийные серверы партнёров и всё лето мелькает на профильных выставках, от Dell Technologies World до Computex. Это PCIe-ускоритель на 144 гигабайта HBM3E, который ставится в обычный сервер с воздушным охлаждением — без дорогой платформы OAM.

Краткое содержание

• 144 ГБ HBM3E и 4 ТБ/с пропускной способности, до 2,3 ПФлопс в MXFP8;
• тепловой пакет 600 Вт (есть щадящий режим на 450 Вт), пассивное охлаждение, форм-фактор PCIe CEM;
• до восьми карт в одном сервере — без платформы OAM и жидкостного контура;
• уже встречается в готовых серверах партнёров на выставках, включая Gigabyte G294-Z22-AAP2.

MI350P против MI350X: тот же чип, другая упаковка

MI350P — это половина MI350X по кремнию, но с принципиальной разницей в упаковке.

• 128 вычислительных блоков (Compute Units) и 512 матричных ядер против 256 CU и 1024 ядер у MI350X;
• 144 ГБ HBM3E и 4 ТБ/с пропускной способности — против 288 ГБ и 8 ТБ/с у старшей модели;
• пиковая матричная производительность до 2,3 ПФлопс в MXFP8 против 4,6 ПФлопс у MI350X;
• тепловой пакет 600 Вт, с урезанным режимом на 450 Вт для шасси со стеснённым питанием, против 1000 Вт;
• форм-фактор PCIe CEM 10,5 дюйма с пассивным охлаждением — вместо модуля OAM, которому нужна отдельная плата с прямым жидкостным контуром.

Карта вставляется в обычный сервер со слотами PCIe Gen5 x16, который уже стоит в вашей стойке. До восьми карт в одной системе — и не нужно закупать отдельную платформу под OAM с жидкостным охлаждением, как для MI350X.

Что это даёт по сравнению с NVIDIA

В том же классе у NVIDIA — H200 NVL на 144 ГБ и RTX Pro 6000 Blackwell на 96 ГБ. По теоретической производительности в FP16 и FP8 MI350P опережает H200 NVL примерно на 40% — так заявляет AMD. А по объёму памяти карта обходит RTX Pro 6000 на треть: 144 гигабайта против 96. Для инференса больших моделей это прямая выгода: модель влезает в одну карту без разбиения между ускорителями, а любое разбиение добавляет накладные расходы на связь между чипами.

Цена и сроки — AMD пока не говорит

На момент анонса в мае AMD не назвала ни цену, ни дату начала поставок — и спустя два с половиной месяца эта информация всё ещё не раскрыта официально. Карты уже показывают на выставках в готовых серверах партнёров, включая Gigabyte G294-Z22-AAP2, но это пока лишь демонстрационные образцы, а не финальный прайс-лист. Второй нюанс — тепловой пакет 600 Вт в пассивном исполнении: карте нужен серьёзный поток воздуха от вентиляторов сервера, и не каждое шасси, рассчитанное на ускорители меньшей мощности, потянет восемь таких карт без пересчёта охлаждения.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U