AliceAI-Foundation-80B: открытая модель весом 160 гигабайт

Яндекс открыл веса AliceAI-Foundation-80B-A3B-Base — базовой модели на 80 миллиардов параметров, обученной с нуля. По российским бенчмаркам она обходит модели крупнее, включая DeepSeek-V4-Flash-Base на 284 миллиарда параметров. Для бизнеса, который присматривается к локальному запуску отечественного ИИ, вопрос один: сколько видеопамяти и серверов для этого нужно.

Краткое содержание

• 80 млрд параметров всего, активны только 3 млрд на токен — гибридная архитектура с MoE-слоями на 512 экспертов;
• контекст до 262 144 токенов, лицензия Apache 2.0 без ограничений на коммерческое использование;
• на русскоязычных тестах обходит DeepSeek-V4-Flash-Base (284 млрд параметров) и Nemotron-3-Super-120B-Base;
• это базовая модель без инструктивной настройки — фундамент, а не готовый чат-бот.

Меньше параметров, выше результат на русском

Архитектура гибридная: 48 слоёв, механизмы KDA и Gated Attention вместе с MoE. В каждом MoE-слое 512 экспертов, из которых на токен выбираются десять плюс один общий. Отсюда и разрыв между 80 миллиардами параметров общих и всего 3 миллиардами активных. Яндекс собрал обучающий корпус заново и проверял архитектурные решения на сериях обучений с нуля — по 2 триллиона токенов каждая.

На тесте российских фактов WikiWebFacts модель набирает 86,5 балла против 62,4 у Qwen3.5-35B-A3B-Base и 70,2 у GLM-4.5-Air-Base. Опережает даже куда более тяжёлую DeepSeek-V4-Flash-Base: 86,5 против 83,2. В математике MATH-500 — 91,1 против 81,9 у Qwen, в HMMT 2026 — 96,9 против 87,9. В коде обгоняет Nemotron-3-Super-120B-Base, используя вчетверо меньше активных параметров.

Сколько GPU нужно, чтобы поднять модель

Вес модели в формате BF16 — около 160 гигабайт. Ни на одну существующую видеокарту целиком это не помещается, даже на самую вместительную. В официальном примере запуска через vLLM Яндекс задействует четыре GPU с 80 гигабайтами памяти каждая — конфигурация уровня H100 или A100 SXM с тензорным параллелизмом между картами. При этом активны только 3 миллиарда параметров на токен, поэтому скорость генерации сопоставима с гораздо более компактной моделью: тяжёлая тут только память, а не вычисления.

Квантование до 4 бит сжимает вес примерно до 45 гигабайт — теоретически укладывается в одну профессиональную карту на 48–96 гигабайт. Но официального квантованного релиза от Яндекса пока нет. На Hugging Face есть только одна сборка от сообщества, а нестандартное внимание KDA обычно тормозит поддержку в инструментах вроде llama.cpp на недели.

Фундамент, а не готовый чат-бот

AliceAI-Foundation-80B-A3B-Base — это претрейн-модель без диалоговой донастройки. Яндекс прямо называет её экспериментальной: она проверяет архитектурные решения для будущей единой рассуждающей модели, на которой будет строиться агентность Алисы. Для бизнеса это значит, что использовать модель как есть не получится — нужен собственный этап инструктивного дообучения под задачу. А сравнения в тестах приведены только с базовыми версиями конкурентов, без их более новых инструктивных релизов.

Rackstation AI

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Devbox AI

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Scale

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

HPC 4000

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

HPC 8000

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

HGX H200

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U