HBM4: до 2 ТБ/с памяти — новый порог для ИИ-ускорителей

На Hot Chips 2026 SK hynix, Samsung и Micron показали архитектуру памяти HBM4 для ИИ-ускорителей нового поколения. Пропускная способность вырастает вдвое, до 2 терабайт в секунду на стек, но одновременно растёт и плотность мощности. Для тех, кто планирует парк серверов под ИИ, это значит одно: жидкостное охлаждение перестаёт быть опцией.

Краткое содержание

• HBM4 удваивает пропускную способность относительно HBM3E — до 2 терабайт в секунду на стек;
• ёмкость стека — 48 ГБ, свыше 20 000 сквозных соединений и до 16 слоёв кристаллов;
• по данным Micron, мощность ускорителей растёт втрое за два года, а память — меньше чем вдвое;
• серийные ИИ-ускорители на HBM4 стоит ждать не раньше 2027 года.

Зачем ИИ-ускорителям больше памяти, а не только ядер

ИИ-ускорители последних поколений упираются не в число ядер, а в скорость подвоза данных. Micron на Hot Chips 2026 назвала цифры разрыва: вычислительная мощность ускорителей растёт примерно втрое за два года, а пропускная способность памяти HBM — меньше чем вдвое. С каждым поколением разрыв только увеличивается.

Есть и обратная сторона — цена ёмкости. По оценке Micron, для того же объёма памяти HBM3E нужно примерно втрое больше кремния, чем для DDR5: сказывается сложная упаковка кристаллов друг на друга. GPU с восемью модулями HBM4 занимает более 12 000 квадратных миллиметров корпуса, а при 12-слойных стеках площадь кремния памяти может в восемь раз превышать площадь самого процессора.

Что нового в HBM4: удвоение банков и упаковка на грани физики

HBM4 — не косметическое обновление, а пересборка архитектуры на уровне базового кристалла. Число банков в стеке выросло вдвое — до 256 против 128 у HBM3E. Число входов-выходов на кристалле выросло с тысячи до двух тысяч.

• ёмкость стека — 48 ГБ, свыше 20 000 сквозных соединений (TSV);
• корпус — 12,8×11 мм при высоте 775 микрон;
• 12-слойные стеки уже в серийном производстве, 16-слойные — на этапе квалификации;
• энергоэффективность выросла более чем на 40 процентов на бит по сравнению с HBM3E.

Для сборки таких стеков SK hynix переходит от термокомпрессии к гибридному склеиванию: кристаллы соединяются при комнатной температуре, а затем прогреваются свыше 200 градусов Цельсия, формируя прямой контакт кремния и меди. Так можно собирать стеки от 20 слоёв — но нужна новая прецизионная оснастка, которая есть не у всех фабрик.

Плотность мощности растёт быстрее, чем инженеры успевают охлаждать

Скорость даётся не бесплатно. Начиная с HBM4 базовый кристалл переходит на техпроцессы логики уровня 4 нм, и плотность мощности растёт вместе с этим — с 0,5 Вт на квадратный миллиметр у HBM4E до более чем 2 Вт у будущего HBM5, по данным Samsung. Для стойки это значит: греется не только сам ускоритель, но и память рядом, а воздух с такой плотностью уже не справляется.

SK hynix делает ставку на гибридное склеивание и термоизолирующий слой i-HBM. Samsung готовит переход к трёхмерной интеграции без интерпозера. У Micron — двухуровневая коррекция ошибок на случай возросшей плотности дефектов. Единого стандарта пока нет, а значит и сроки квалификации у производителей серверов будут разными.

Серийные ускорители на HBM4 стоит ждать не раньше 2027 года. А жидкостное охлаждение закладывать в проект стойки имеет смысл уже сейчас — плотность мощности будет расти независимо от того, чья память окажется в итоговой конфигурации.

Rackstation AI

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Devbox AI

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Scale

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

HPC 4000

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

HPC 8000

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

HGX H200

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U