ASRock NUC BOX-358H: 180 TOPS под локальный ИИ

ASRock Industrial выпустила NUC BOX-358H — мини-ПК размером с толстую книгу на новой платформе Intel Panther Lake. Внутри шестнадцать ядер, графика Arc B390 и нейромодуль, а суммарная производительность под ИИ заявлена на уровне 180 TOPS. Памяти — до 128 гигабайт обычными модулями DDR5. Идея понятная: локальный ИИ-инференс прямо на рабочем столе или на краю сети, без оглядки на облако.

Краткое содержание

• процессор Intel Core Ultra X7 358H: шестнадцать ядер (4P + 8E + 4 LPE) до 4,8 ГГц при тепловом пакете всего 25 ватт;
• графика Arc B390 даёт 122 TOPS, нейромодуль — ещё 50 TOPS, вместе с процессором это 180 TOPS под ИИ;
• до 128 ГБ памяти DDR5-7200 сменными модулями SO-DIMM плюс слот M.2 с PCIe Gen5;
• два порта 2,5GbE, Thunderbolt 4 и Wi-Fi 7, питание от внешнего адаптера на 120 ватт.

Что внутри коробки

Платформа Panther Lake — свежее поколение мобильных чипов Intel, и здесь оно в максимальной конфигурации. Четыре производительных ядра, восемь экономичных и ещё четыре сверхэкономичных — шестнадцать в сумме. Плюс графика Arc нового поколения и отдельный нейромодуль под ИИ. Всё это в корпусе чуть больше ладони, с тепловым пакетом 25 ватт.

• процессор: Intel Core Ultra X7 358H, 16 ядер (4P + 8E + 4 LPE), до 4,8 ГГц, 18 МБ кэша;
• графика: Intel Arc B390, 12 ядер Xe3, 122 TOPS;
• нейромодуль: 50 TOPS; суммарно с процессором и графикой — 180 TOPS;
• память: до 128 ГБ DDR5-7200, два слота SO-DIMM (в комплект не входит);
• накопители: два слота M.2 — один PCIe Gen5 x4, один PCIe Gen4 x4;
• сеть и порты: два 2,5GbE, Thunderbolt 4, USB на 10 и 20 Гбит/с, два HDMI 2.1, Wi-Fi 7.

ИИ на краю сети без облака

Связка графики и нейромодуля на 180 TOPS плюс крупный пул памяти — это заявка на локальный инференс. Модель-ассистент, распознавание на видеопотоке, обработка документов на месте: данные не уходят в облако, задержка минимальна, абонентской платы нет. До 128 гигабайт системной памяти, которую делит и графика, позволяют держать модели заметно крупнее, чем влезает в видеокарту начального уровня.

Сценарии понятны: узел на краю сети в магазине или на производстве, киоск с распознаванием, локальный помощник в офисе, рабочее место разработчика, который гоняет модели на месте. Сменная память DDR5 — плюс к ремонтопригодности и апгрейду. У станций с распаянной памятью так не выйдет: здесь модули можно поменять или нарастить.

Где подвох: пропускная способность памяти

Главный нюанс прячется в памяти. DDR5 в формате SO-DIMM — это два канала и умеренная пропускная способность. Для инференса крупных языковых моделей скорость памяти важнее объёма: именно она задаёт потолок по числу токенов в секунду. Конкуренты вроде AMD Ryzen AI Max+ 395 ставят распаянную LPDDR5X с заметно более широкой шиной — там те же 128 гигабайт работают быстрее, пусть и без возможности замены.

Второй момент — сеть. Только два порта 2,5GbE, десятигигабитного нет. Для настольного ИИ это терпимо, но как узел кластера или хранилище машина уже ограничена. Тепловой пакет 25 ватт держит габариты и шум небольшими, зато тяжёлые модели быстрыми на нём не будут. И главное для нашего рынка: цена и сроки поставки в Россию пока не объявлены.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U