Marvell Photonic Fabric: память для ИИ по оптике

Marvell показала на FMS 2026 технологию Photonic Fabric — она меняет медные дорожки между сервером и памятью на оптическое волокно и превращает DDR5 и кеш HBM в общий пул, доступный сразу нескольким стойкам с ускорителями. Для бизнеса, который платит за инференс по счётчику GPU-часов, это способ не покупать дорогую HBM про запас, а брать память из общего пула по потребности.

Краткое содержание

• модуль PFMM объединяет память DDR5, 72 ГБ кеша HBM и оптический ввод-вывод прямо в корпусе чипа — по словам Marvell, впервые в отрасли;
• пропускная способность — 7,2 Тбит/с на модуль, задержка обращения к чужой памяти — менее 350 наносекунд;
• стойки с общей памятью можно разносить на расстояние до 30 метров без ощутимой потери скорости;
• карта PF-NIC подключает серверы с ускорителями к общему пулу по CXL 3.1 и PCIe 6.0 — без смены протокола на стороне GPU.

Зачем серверу память в другой стойке

Память HBM физически привязана к ускорителю: она быстрая, но дорогая и жёстко ограничена в объёме. Нарастить её нельзя, не поменяв сам ускоритель. А инференс больших моделей с длинным контекстом требует хранить KV-кеш — кеш ключей и значений внимания — объёмом в терабайты, и он быстро вытесняет из HBM саму модель. Переложить кеш на NVMe-накопитель можно, но задержка диска на порядки выше, и ускоритель просто простаивает в ожидании данных, пока счётчик аренды тикает.

Marvell предлагает третий вариант: память DDR5 и кеш HBM в отдельном модуле, подключённом к стойкам ускорителей оптикой вместо электрических дорожек. Задержка обращения к такой памяти держится ниже 350 наносекунд — это уровень доступа к памяти соседнего процессора в том же сервере (NUMA), только «соседняя» память здесь может стоять в другой стойке, за 30 метров.

Что внутри: PFMM и PF-NIC

• PFMM — до восьми модулей DDR5 плюс 72 ГБ кеша HBM, оптический ввод-вывод встроен прямо в кристалл;
• пропускная способность оптической части — 7,2 Тбит/с на один модуль памяти;
• PF-NIC — сетевая карта на CXL 3.1 и PCIe 6.0, которая подключает сами серверы с ускорителями к общему пулу.

По оценке Marvell, такой пул способен выгружать до 32 ТБ «тёплого» KV-кеша и поднимать пропускную способность по токенам в 2–3 раза за счёт того, что ускорители реже простаивают в ожидании данных. Цифры пока только от производителя — независимых замеров на реальных кластерах ещё не было.

Чего Marvell пока не раскрыла

В презентации нет ни цены, ни сроков поставки или сэмплирования, ни данных об энергопотреблении самого модуля. Это заявка на архитектуру, а не готовый продукт с датой на коробке — обычная практика для анонсов на профильных выставках вроде FMS, где сначала показывают идею и опорные цифры, а конкретные партии и стоимость объявляют ближе к серийному выпуску. Технология также рассчитана на масштаб дата-центра с десятками стоек, а не на одиночный сервер. Для среднего интегратора это скорее ориентир на будущее, чем позиция в текущей смете.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U