MiniMax M3: что нужно, чтобы поднять 428 млрд у себя

MiniMax выложила в открытый доступ M3 — мультимодальную модель на 428 млрд параметров с контекстом в миллион токенов. Веса доступны всем, запускать можно у себя. Вопрос ровно один: какое железо для этого нужно. Разбираем по «железному» счёту — сколько это видеопамяти и сколько ускорителей под одну такую модель.

Краткое содержание

• 428 млрд параметров всего, активны лишь 23 млрд — архитектура «смесь экспертов» (MoE);
• открытые веса, запуск через vLLM, SGLang или Transformers — модель остаётся в вашем периметре;
• родная мультимодальность (текст, изображения, видео) и контекст до 1 млн токенов;
• чтобы держать модель локально, нужно от ~220 ГБ видеопамяти со сжатием и до ~450 ГБ без него.

Что за модель

M3 построена по схеме «смесь экспертов»: из 428 млрд параметров на каждый токен работают только 23 млрд. Вычисления от этого дешевеют — модель отвечает как небольшая, а знает как большая. Сверху — новый механизм внимания MiniMax Sparse Attention: на контексте в миллион токенов разработчики обещают девятикратное ускорение на обработке запроса и пятнадцатикратное на генерации против прошлой версии, M2. Модель родно работает с текстом, картинками и видео, а в тестах на агентные задачи держит крепкий уровень — например, 59 процентов на SWE-Bench Pro.

Сколько железа нужно, чтобы поднять её у себя

Здесь кроется главный нюанс «смеси экспертов» — обманчивая лёгкость. Активны 23 млрд параметров, но в видеопамяти должны лежать все 428 млрд: выгружать неактивных экспертов в оперативную память нельзя, иначе задержки убьют интерактивность. Отсюда и аппетит к видеопамяти. По оценкам сообщества, в сжатом виде модель занимает примерно так:

• без сжатия (8 бит) — ориентировочно 430–450 ГБ видеопамяти;
• умеренное сжатие (5–6 бит) — около 280–360 ГБ;
• агрессивное (4 бита) — порядка 220–250 ГБ при разумном балансе качества;
• плюс запас под кэш контекста: миллион токенов требует памяти сверх этого.

Вывод простой: одной видеокартой не обойтись. Даже в сжатии до 4 бит нужен сервер с несколькими ускорителями — например, четыре карты по 80 ГБ или пара по 141 ГБ. Без сжатия счёт идёт уже на шесть-восемь ускорителей. Это полноценный GPU-сервер, а не рабочая станция под столом.

Что это значит для закупщика

Открытые веса дают то, чего не даёт облачный доступ: модель остаётся внутри периметра, данные не уходят наружу, а стоимость запросов не растёт со временем. Плата за это — стартовые вложения в железо. Если M3 нужна под агентов, разработку или работу с длинными документами и при этом критична приватность, экономика складывается в пользу своего GPU-сервера. Если запросов немного, а приватность некритична, дешевле арендовать мощности. Граница проходит по объёму нагрузки и требованиям к данным — и считать её нужно под конкретный сценарий.

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U