AIC F2032: 32 SSD Gen6 и DPU вместо сервера

AIC показала флеш-полку F2032-01-G6: 32 отсека E3 с PCIe Gen6 в корпусе 2U — и ни одного привычного сервера-контроллера. В качестве обвязки DPU NVIDIA BlueField-4, до четырёх на машину. Задача полки — хранить KV-кэш, обработанный контекст языковых моделей, и отдавать его инференс-кластерам по сети 800 Гбит/с, чтобы ускорители не пересчитывали один и тот же контекст заново.

Краткое содержание

• корпус 2U на 32 накопителя E3.S/E3.L с PCIe Gen6, внутренняя фабрика — коммутатор Broadcom PEX90144 на 144 линии;
• два независимых узла, в каждом до двух DPU NVIDIA BlueField-4 — ядра Grace, контроллер ConnectX-9 и сеть 800 Гбит/с;
• главный сценарий — узел KV-кэша для инференс-кластеров NVIDIA Vera Rubin; с дисками на 256 ТБ — до 8 петабайт на полку;
• цену и сроки AIC не назвала, а серийных Gen6-накопителей на рынке пока два.

Как устроена полка: два узла и фабрика Gen6

F2032-01-G6 — это JBOF, «просто пачка флеша»: корпус с дисками, который отдаёт их наружу напрямую, без собственного x86-сервера. Прежняя модель AIC строилась на PCIe Gen5, новая переходит на Gen6 целиком.

• 32 отсека под накопители E3.S и E3.L — «длинный» формат рассчитан на самые ёмкие QLC-диски;
• внутренняя фабрика — коммутатор Broadcom PEX90144: 144 линии PCIe Gen6 между дисками и контроллерами;
• два автономных узла с раздельным питанием: отказ одного не останавливает полку;
• в каждом узле — до двух NVIDIA BlueField-4, а в каждом таком DPU — ядра Grace и сетевой контроллер ConnectX-9 с портами на 800 Гбит/с.

Зачем инференсу склад обработанного контекста

Когда модель читает длинный документ или историю диалога, она сначала превращает текст во внутреннее представление — кэш внимания, он же KV-кэш. Держать его в видеопамяти жалко: HBM нужна под саму модель. Пересчитывать при каждом обращении дорого вдвойне — это повторный прогон самой тяжёлой фазы инференса. Остаётся третий путь: выгружать кэш на быстрый флеш и поднимать по Сети, когда контекст снова понадобится.

NVIDIA встроила работу с KV-кэшем прямо в BlueField-4, а AIC собрала полку, где этот сценарий главный: F2032 позиционируется как узел контекстной памяти для кластеров на платформе Vera Rubin. Запасные роли тоже есть — объектное хранилище, распределённые файловые системы, флеш-ярус поверх дисковых массивов.

DPU вместо сервера: что меняется в СХД

Обычный all-flash-узел — это сервер: два процессора, память, сетевые карты. Большую часть времени вся эта обвязка занята одним — гоняет данные с дисков в сеть. BlueField-4 складывает весь тракт в один чип, и путь данных укорачивается: диск, коммутатор Gen6, сеть — без промежуточного хоста и лишних копий в памяти.

Софт такую выгрузку уже освоил: KV-кэш на хранилище умеют сбрасывать NVIDIA Dynamo и системы DDN. Новое здесь то, что под контекст строят отдельную аппаратную полку, где короткий путь от диска к сети заложен в саму конструкцию.

Что сдерживает: диски Gen6, сеть 800G и сроки

Полка опережает рынок. Серийных накопителей PCIe Gen6 пока два — Micron 9650 и Samsung PM1763, оба встали на конвейер считаные недели назад. Диски на 256 ТБ, из которых складываются заявленные 8 петабайт, ещё только анонсируют. BlueField-4 тоже свежий кремний: NVIDIA анонсировала его только в июне. Прибавьте сюда сеть 800 Гбит/с, которая есть далеко не в каждом ЦОД, — и выйдет, что это машина под новые ИИ-кластеры, а не под модернизацию действующего зала. Цену и сроки AIC не называет. Для России пункт привычный: только параллельный импорт, без вендорской гарантии.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U