Qualcomm HBC: DRAM на кристалле вместо HBM

Qualcomm показала архитектуру High Bandwidth Compute (HBC): память накладывается прямо на кристалл вычислительной логики, а не рядом на интерпозере. Для ИИ-инфраструктуры это заявка на решение главной головной боли ускорителей — «стены памяти», из-за которой дорогие GPU простаивают в ожидании данных.

Краткое содержание

• HBC ставит DRAM прямо на кристалл логики через сквозные кремниевые переходы (TSV) — без отдельного интерпозера;
• первая карта на HBC, AI250, заявлена на 768 ГБ памяти и до 133 ТБ/с эффективной пропускной способности — в 18 раз больше, чем у AI200;
• второе поколение, AI300, обещает прирост до 54 раз к AI200, но это уже 2028 год;
• заодно Qualcomm купила Modular — стартап с языком Mojo и платформой Max —попытка обойти программную монополию CUDA.

Зачем ставить память прямо на кристалл

Вице-президент дата-центрового направления Qualcomm Тони Пиалис объясняет идею просто: «Мы предлагаем все преимущества производительности SRAM, но с плотностью и объёмом памяти, которые даёт HBM». Чем ближе память к вычислительным блокам, тем короче путь для данных. Меньше энергии и тепла на каждый бит, и не нужен дорогой кремниевый интерпозер, без которого пока не обходится ни один ускоритель с HBM.

Идея логичная: производительность современных ИИ-ускорителей всё чаще упирается не в вычислительные блоки, а в то, как быстро к ним подвозят данные. Если получится удешевить и ускорить эту часть, выгоднее становится весь ускоритель — при том же кремнии на вычисления.

Цифры, к которым стоит отнестись с осторожностью

768 ГБ памяти и 133 ТБ/с на карту AI250 — цифры внушительные. Но в материалах Qualcomm фигурирует термин «эффективная» пропускная способность, а не сырая, и журналисты The Register уже засомневались, что реальные системы дотянут до заявленных значений в типичных нагрузках. Проверить это получится только на живом железе, не на слайдах презентации.

Сроки тоже не располагают к спешке. Нынешние ускорители Dragonfly AI200 выходят в 2026 году на привычной архитектуре, а вот AI250 с настоящей HBC — это уже 2027 год, AI300 — 2028-й. При этом AI250 нацелена не на замену GPU целиком, а на decode-операции при обслуживании больших языковых моделей — в паре с GPU, которые берут на себя более тяжёлый этап prefill. Специализированная часть дезагрегированной схемы инференса, не универсальный ускоритель на все случаи.

Где HBC может пригодиться уже сейчас

Разделение инференса на prefill и decode — тренд у всех крупных операторов ИИ-инфраструктуры: тяжёлый первый проход по промпту считают на мощных GPU, а генерацию токенов — на более простом и дешёвом железе. Именно во вторую роль Qualcomm целится с AI250: карта с гигантским объёмом памяти на кристалле хорошо ложится на decode, где важнее ёмкость и пропускная способность, а не пиковая вычислительная мощность.

Для российских покупателей ускорители такого класса доступны пока лишь гипотетически. Топовые ИИ-чипы подпадают под экспортные ограничения, а поставки Qualcomm на рынок дата-центров только начинаются. Даже когда AI250 выйдет, вопрос доступности и сроков поставки в РФ встанет раньше вопроса цены.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U