DeepSeek V4 Pro: флагман весом почти в терабайт

DeepSeek объявила о выходе из беты флагманской модели V4-Pro-0813 — 1,7 триллиона параметров с открытыми весами по лицензии MIT. На собственных тестах компания показывает результаты выше Claude Opus 4.8 в агентных и кодерских задачах. Но для бизнеса, который планирует держать модель у себя, а не платить за API, главный вопрос — что нужно из железа, чтобы её вообще запустить.

Краткое содержание

• 1,7 трлн параметров всего, активны только 49 млрд на токен — архитектура смеси экспертов;
• три режима «усилия» (low/high/max) и модуль спекулятивного декодирования DSpark для скорости;
• контекст — до 1 млн токенов в API, для локального запуска в режиме max рекомендуют от 384 000 токенов;
• открытые веса на Hugging Face — контрольная точка весит около 900 Гбайт.

Бенчмарки: обходит Opus 4.8 в кодинге и агентности

На собственном наборе тестов DeepSeek приводит десяток метрик против конкурентов. В Terminal-Bench 2.1 модель набирает 87,9 балла против 85,0 у Claude Opus 4.8, в LiveCodeBench Pass@1 — 93,5, лучший результат среди сравниваемых моделей. В задачах, имитирующих работу автономного агента (DeepSWE, Cybergym), разрыв с Opus 4.8 тоже в пользу DeepSeek. Цифры считает сама компания на своём стенде, независимой проверки пока не было — к таким заявлениям стоит относиться с поправкой на маркетинг, но масштаб модели и открытая лицензия делают её интересной даже без стопроцентного доверия к бенчмаркам.

Сколько GPU нужно, чтобы поднять модель у себя

Официальных рекомендаций по железу DeepSeek не публикует, но вес контрольной точки известен — около 900 Гбайт в родном формате FP8. Восемь ускорителей NVIDIA H100 с 80 Гбайт памяти на карту дают суммарно 640 Гбайт — этого не хватает даже под сами веса, без учёта контекста и промежуточных вычислений. Нужен узел на H200 (141 Гбайт на карту, около 1,1 Тбайт на восемь карт) — и то запас под контекстное окно от 384 000 токенов остаётся минимальным. Попытки сжать модель через 4-битное квантование почти не помогают: по данным сторонних GGUF-сборок, даже урезанная версия весит порядка 850 Гбайт — экономия на уровне погрешности по сравнению с оригиналом.

Кому подходит локальный запуск, а кому — остаться в API

Локальный запуск V4-Pro-0813 — задача для компании с готовым парком серверных GPU или планом на его покупку, а не для команды с одной-двумя картами. При этом с 16 августа DeepSeek поднимает цены на API в пиковые часы — по кешированным входным токенам рост доходит до 12 раз. Для бизнеса с равномерной нагрузкой это повод пересчитать экономику: собственный кластер на H200 может окупиться быстрее, чем кажется на первый взгляд, если запросы идут круглосуточно, а не всплесками.

Rackstation AI

Для каких задач Компактный GPU-сервер до 2 видеокарт для начальных задач в AI и графике. Оптимален для инференса, визуализации, VFX и рендеринга в студиях и лабораториях, где важна гибкость.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 282 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 4.5U

Devbox AI

Для каких задач Универсальная платформа на 4–6 GPU для локального обучения моделей и генеративных задач. Подходит для команд, которым важна надёжность сервера и свобода выбора графики — от RTX 5090 до PRO RTX 6000.

Подробнее

Видеокарты

RTX / RTX PRO / H200 NVL

Объем видеопамяти до 576 ГБ

Процессоры

Threadripper PRO

Количество ядер до 96

RAM до 1024 ГБ DDR5

Форм-фактор 6.5U

Scale

Для каких задач Сервер промышленного уровня на 8 GPU с кластерной архитектурой. Предназначен для дата-центров и AI-ферм, где требуется масштабируемость и полная загрузка ресурсов под обучение LLM и R&D.

Подробнее

Видеокарты

RTX PRO 6000 / RTX 5090

Объем видеопамяти до 768 ГБ

Процессоры

AMD Epyc, Intel Xeon

Количество ядер до 320

RAM до 3072 ГБ DDR5

Форм-фактор 6U

HPC 4000

Для каких задач Серия серверов для кластеризации на 4 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 564 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 128

RAM до 1536 ГБ DDR5

Форм-фактор 2U

HPC 8000

Для каких задач Серия серверов для кластеризации на 8 GPU. Предназначены для дата-центров и AI-ферм, где требуется повышенная плотность для обучение LLM и R&D.

Подробнее

Видеокарты

L40s / RTX PRO / H200 NVL

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 4U

HGX H200

Для каких задач HGX объединяет 8 видеокарт NVIDIA H200, достигая экстремальной плотности производительности. Благодаря внутренней связности NVSwitch мгновенно интегрируется в масштабные вычислительные кластеры.

Подробнее

Видеокарты

NVIDIA H200 SXM

Объем видеопамяти до 1128 ГБ

Процессоры

AMD EPYC, Intel Xeon

Количество ядер до 256

RAM до 2048 ГБ DDR5

Форм-фактор 5U