Microchip ZeroQ: NVMe-накопитель для тысяч ИИ-ядер

Microchip показала технологию ZeroQ — способ дать тысячам ядер ИИ-ускорителя прямой доступ к NVMe-накопителю в обход традиционной очереди «ядро — процессор — диск». Для плотных ИИ-кластеров, где счёт ядер идёт на тысячи, это снимает узкое место, которое раньше просто не считали проблемой.

Краткое содержание

• классическая схема «пара очередей на ядро» упирается в лимиты, когда ядер не десятки, а тысячи;
• ZeroQ вводит общий регистр команд на накопитель — каждое ядро пишет туда 64-битный адрес своего списка команд;
• разбор и постановку команд в очередь берёт на себя память самого накопителя, а не хост-система;
• заявленный потолок — свыше 10 000 ядер уже сейчас, в перспективе — до 100 000.

Почему очереди на ядро больше не работают

Обычный NVMe строится на паре очередей на каждое ядро — очередь заявок и очередь ответов. Для сервера с десятками процессорных ядер это работает без вопросов. Но ИИ-ускорители — это тысячи параллельных вычислительных блоков. Выдели каждому по классике собственную пару очередей — и накопитель захлёбывается в служебной нагрузке: растут задержки, синхронизация между ядрами съедает такты, энергопотребление подсистемы хранения растёт быстрее полезной работы. Особенно заметно это на обучении и инференсе MoE-моделей, где часто пишут контрольные точки и выгружают KV-кеш.

Как устроен ZeroQ

Вместо очереди на каждое ядро ZeroQ вводит один общий регистр команд на накопитель — ZeroQ Command List Register. Каждое ядро ведёт собственный список команд и просто записывает в регистр 64-битный адрес этого списка. Дальше работает аппаратная логика: она забирает адрес, ставит запрос в очередь FIFO накопителя и обрабатывает несколько команд от разных ядер параллельно. Вся сложность разбора и планирования уходит в память самого SSD, а не в хост-процессор, поэтому не нужны блокировки ядра и синхронизация между потоками. При этом ZeroQ остаётся совместимым с существующей экосистемой PCIe, NVMe и SR-IOV — это надстройка над стандартами, а не отдельный протокол в обход них.

Пока это спецификация, а не готовый продукт

Microchip описала архитектуру и принцип работы, но не назвала ни партнёров, которые уже встроили ZeroQ в свои контроллеры, ни сроки появления накопителей с её поддержкой, ни цену такого решения. Чтобы технология заработала, поддержка нужна с двух сторон — на уровне ИИ-ускорителя и на уровне прошивки самого SSD, а это не переключение опции в BIOS, а новое поколение контроллеров. Для инфраструктуры, которую вы планируете закупать в ближайшие месяцы, ZeroQ пока не параметр выбора — это скорее сигнал, куда движется рынок NVMe-контроллеров под ИИ-нагрузки.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U