8 800 500-99-26 Для звонков по России
ИИ-компьютеры: маркетинг брендов или реальные инновации
Рабочие станции
18 мин

ИИ-компьютеры: маркетинг брендов или реальные инновации

DigitalRazor
DigitalRazor
Подписаться в Telegram
Содержание 9 разделов
Что бренды называют «ИИ-компьютером» Маркетинговые обещания против технической реальности Что реально работает локально на NPU уже сейчас Почему возможности NPU зависят от программной поддержки NPU против GPU: инференс и обучение Как понять, нужен ли ИИ-компьютер Вердикт редакции DigitalRazor Частые вопросы Итог
Подберём решение под ваш проект

Расскажите о задаче — предложим оптимальную конфигурацию и реализацию.

Обсудить проект
или свяжитесь с нами
Telegram Telegram WhatsApp WhatsApp ВКонтакте ВКонтакте MAX MAX

Есть проект? Напишите нам

Обсудим задачу и подберём оборудование

Обсудить проект

ИИ-компьютеры — не пустой маркетинг, но и не универсальное решение для работы с нейросетями. NPU ускоряет часть локальных ИИ-функций и снимает эту нагрузку с процессора и видеокарты, но не заменяет мощный GPU в тяжёлых задачах. Разберём, как оценивать TOPS, что уже умеют ИИ-ПК и когда за нейропроцессор есть смысл доплачивать.

Отдельно сравним два более мощных подхода: универсальную x86-систему на Ryzen AI Max+ 395 с большим объёмом общей памяти и специализированную Arm-станцию NVIDIA DGX Spark на базе Grace Blackwell. Это поможет понять, где заканчивается обычный Copilot+ PC и начинается компактная ИИ-станция.

Что бренды называют «ИИ-компьютером»

Единого набора требований к AI PC нет. Обычно так называют компьютер с процессором, в котором CPU и встроенную графику дополняет NPU — отдельный нейронный процессор. Именно такую схему использует Intel в определении AI PC.

Каждый вычислительный блок решает свои задачи:

  • CPU управляет операционной системой, приложениями и последовательными вычислениями;
  • GPU обрабатывает графику и большие объёмы параллельных операций;
  • NPU предназначен для энергоэффективного локального инференса.
AMD, SnapDragon, Intel NPUs

Наличие NPU не означает, что любое приложение автоматически начнёт работать быстрее. Разработчики должны отдельно адаптировать программу и модель под нейропроцессор. Если такой поддержки нет, вычисления продолжат выполнять CPU или GPU. Это же указано в документации Microsoft для разработчиков.

Поэтому маркировка AI PC описывает возможности платформы, но не её реальную производительность в конкретной задаче. Два ИИ-компьютера с похожим показателем TOPS могут различаться по скорости процессора, мощности видеокарты, объёму памяти и набору поддерживаемых программ.

Copilot+ PC — требование Microsoft к NPU от 40 TOPS

Copilot+ PC — более конкретное понятие, чем AI PC. Так Microsoft обозначает отдельный класс компьютеров с Windows 11, способных запускать фирменные ИИ-функции на устройстве.

Компьютер должен соответствовать следующим требованиям:

  • NPU производительностью не менее 40 TOPS;
  • минимум 16 ГБ оперативной памяти;
  • накопитель объёмом от 256 ГБ;
  • Windows 11.

Требования перечислены в официальном описании Copilot+ PC. Порог 40 TOPS относится именно к NPU, а не к суммарной производительности процессора, встроенной графики и нейронного ускорителя.

Сначала Copilot+ PC выпускали на процессорах Qualcomm Snapdragon X. Позднее появились совместимые системы на AMD Ryzen AI 300 и Intel Core Ultra 200V, а в 2026 году — совместимые системы на AMD Ryzen AI 400 и Intel Core Ultra 300V. Конкретная модель компьютера всё равно должна соответствовать требованиям Copilot+ PC.

В число функций Copilot+ PC входят:

  • Recall для поиска ранее открытого содержимого;
  • Click to Do для действий с объектами на экране;
  • улучшенный поиск Windows;
  • Live Captions с локальной обработкой речи;
  • Cocreator в Paint;
  • Windows Studio Effects;
  • Auto SR для повышения разрешения в поддерживаемых играх на совместимых устройствах.

Microsoft перечисляет эти возможности как функции Copilot+ PC. Их доступность зависит от версии Windows, языка, региона и установленного оборудования.

Copilot+ PC подтверждает, что компьютер соответствует требованиям Microsoft к локальному ИИ. Однако этот статус ничего не говорит о скорости игр, монтажа видео, генерации изображений или запуска локальных LLM: такие задачи могут сильнее зависеть от CPU, GPU и объёма памяти.

Если тебя интересует именно запуск моделей без облака, мы отдельно разобрали, какие модели ИИ можно развернуть на своём ПК или сервере.

Intel Core Ultra — подход Intel к AI PC

Intel начала использовать бренд Core Ultra в мобильных процессорах, представленных в конце 2023 года. Платформа объединила CPU, встроенную графику и блок Intel AI Boost — NPU для локального инференса с низким энергопотреблением.

Intel AI Boost - Meteor Lake

Intel распределяет ИИ-нагрузку между тремя компонентами:

  • NPU обрабатывает постоянные фоновые задачи: размытие фона, слежение за взглядом, шумоподавление и распознавание речи;
  • встроенная графика Intel Arc выполняет более тяжёлые параллельные вычисления;
  • центральный процессор CPU управляет программой и обрабатывает операции, которые нельзя перенести на другие блоки.

Для запуска моделей на разных вычислительных блоках Intel развивает OpenVINO и сотрудничает с Microsoft над поддержкой Windows ML. Однако приложение должно уметь обращаться к NPU. Без программной поддержки наличие Intel AI Boost не ускорит нейросеть.

Название Intel Core Ultra само по себе не гарантирует соответствия требованиям Copilot+ PC. В семейство входят десятки мобильных и настольных процессоров с разными NPU: часть моделей не достигает 40 TOPS. Поэтому при выборе нужно проверять строку NPU Peak TOPS, а не ориентироваться только на бренд процессора.

AMD Ryzen AI — своя версия ИИ-ПК

AMD использует название Ryzen AI для процессоров со встроенным нейронным ускорителем на архитектуре XDNA. Как и у Intel, это часть гибридной системы: CPU, встроенная графика Radeon и NPU могут выполнять разные этапы одной задачи.

AMD Ryzen AI XDNA 2

В процессорах Ryzen AI 300 компания перешла на архитектуру XDNA 2. NPU большинства моделей этой серии достигает 50 TOPS, а Ryzen AI 9 HX PRO 375 — 55 TOPS. Эти показатели позволяют совместимым ноутбукам соответствовать требованиям Copilot+ PC. В 2026 году AMD дополнила семейство процессорами Ryzen AI 400 и PRO 400: мобильные модели этой серии также используют XDNA 2 и получают до 60 TOPS производительности NPU.

AMD делает ставку не только на нейропроцессор. Встроенная графика Radeon также может запускать локальные модели и приложения с генеративным ИИ. В совместимых задачах встроенная графика, как правило, потребляет больше энергии, чем NPU, но поддерживает более широкий набор операций и лучше подходит для нагрузок, которые не удалось оптимизировать под XDNA.

На практике Ryzen AI полезен в двух сценариях:

  • NPU постоянно выполняет нетребовательные фоновые задачи и экономит заряд аккумулятора;
  • встроенный GPU подключается к более тяжёлым вычислениям, где возможностей NPU недостаточно.

Старые поколения Ryzen со встроенным блоком Ryzen AI могут не соответствовать требованиям Copilot+ PC. Как и в случае с Intel, проверять нужно конкретную модель и производительность её NPU.

Ryzen AI Max+ 395 — когда AI PC превращается в рабочую станцию

AMD Ryzen AI Halo

Отдельное место в линейке AMD занимает Ryzen AI Max+ 395. Это уже не типичный мобильный процессор с NPU, а высокопроизводительная платформа для ноутбуков и компактных настольных компьютеров. Процессор объединяет 16 ядер Zen 5, графику Radeon 8060S с 40 вычислительными блоками и NPU XDNA 2 производительностью 50 TOPS.

Главное отличие — до 128 ГБ общей LPDDR5X-8000 памяти, доступной CPU и встроенной графике. Благодаря этому системе не обязательно ограничиваться объёмом VRAM дискретной видеокарты: AMD позволяет выделить под графику до 96 ГБ памяти. Это особенно полезно для крупных локальных LLM, которым недостаточно 16, 24 или 32 ГБ видеопамяти.

В конфигурации со 128 ГБ памяти AMD заявляет запуск квантизованных LLM до 128 млрд параметров через LM Studio и llama.cpp. Практический предел зависит от квантизации, длины контекста и объёма памяти, выделенного графике.

Поэтому Ryzen AI Max+ 395 интересен не только как платформа Copilot+ PC. В максимальной конфигурации это компактная универсальная рабочая станция для локальных LLM, генерации изображений и других ИИ-нагрузок, где важнее объём общей памяти и возможности Radeon 8060S, чем собственные 50 TOPS нейропроцессора.

Подробнее про рабочую станцию можно прочесть в нашем развёрнутом обзоре.

Для каких задач Запуск и дообучение больших языковых моделей до 200 млрд локально
Подробнее
Видеокарты
Radeon 8060S
Объем видеопамяти 64 ГБ
Процессоры
Ryzen AI Max+ 395
Количество ядер 16 Zen 5
RAM Объединена с VRAM
Форм-фактор SFF
Для каких задач Запуск и дообучение больших языковых моделей до 200 млрд локально
Подробнее
Видеокарты
Radeon 8060S
Объем видеопамяти 64 ГБ
Процессоры
Ryzen AI Max+ 395
Количество ядер 16 Zen 5
RAM Объединена с VRAM
Форм-фактор SFF

Apple Neural Engine — ИИ-чип задолго до моды на AI PC

Apple начала устанавливать Neural Engine в процессоры раньше, чем производители Windows-компьютеров стали использовать термин AI PC. Первый такой блок появился в мобильном чипе A11 Bionic в 2017 году. На компьютеры Mac нейронный ускоритель пришёл вместе с M1 в 2020 году: его 16-ядерный Neural Engine выполнял до 11 трлн операций в секунду.

В M4 производительность Neural Engine достигла 38 трлн операций в секунду. Но на август 2026 года это уже не последнее поколение Apple Silicon: M5 получил более быстрый 16-ядерный Neural Engine и отдельный Neural Accelerator в каждом ядре GPU. В M5 Pro и M5 Max Apple продолжила развивать эту архитектуру. При этом сопоставимое значение TOPS для Neural Engine M5 компания не публикует.

Сравнивать заявленные Apple 38 трлн операций с 40 или 50 TOPS у процессоров для Windows напрямую нельзя. Производители могут использовать разные форматы данных, типы операций и методики подсчёта. Кроме того, Copilot+ PC — категория Microsoft только для устройств с Windows 11. Компьютеры Mac к ней не относятся независимо от производительности Neural Engine.

Подход Apple отличается более тесной связью аппаратной и программной частей. Компания разрабатывает процессоры, macOS и инструменты Core ML внутри одной экосистемы. Это упрощает использование Neural Engine в системных функциях, но стороннее приложение всё равно должно поддерживать технологии Apple.

В таблице ниже сравниваются массовые платформы с NPU. Ryzen AI Max+ 395 относится к экосистеме AMD, а DGX Spark вынесена отдельно, поскольку использует GPU-ускорение без самостоятельного NPU.

Параметр Intel Core Ultra AMD Ryzen AI Apple Silicon
Нейронный ускоритель Intel AI Boost NPU на архитектуре XDNA Apple Neural Engine
Основная платформа Windows, x86-64 Windows, x86-64 macOS, Arm
Программная среда Windows ML, OpenVINO Windows ML, Ryzen AI Software Core ML
Copilot+ PC Только совместимые модели от 40 TOPS Только совместимые модели от 40 TOPS Не поддерживается

Общий принцип у трёх производителей одинаков: нейропроцессор эффективен только при поддержке со стороны операционной системы, модели и приложения. Поэтому экосистема программ важна не меньше, чем указанное на коробке количество TOPS.

NVIDIA DGX Spark — другой класс ИИ-компьютера

NVIDIA DGX Spark

NVIDIA DGX Spark решает другую задачу, чем ноутбуки с Core Ultra или Ryzen AI. Это компактная настольная система на базе GB10 Grace Blackwell Superchip: 20-ядерный Arm-процессор и GPU архитектуры Blackwell используют 128 ГБ общей LPDDR5X-памяти с пропускной способностью 273 ГБ/с. NVIDIA заявляет до 1 PFLOP вычислительной мощности в FP4 с использованием разреженности.

Отдельного NPU, аналогичного нейропроцессорам в Copilot+ PC, здесь нет. ИИ-нагрузки ускоряют GPU Blackwell и Tensor Cores пятого поколения, а программной основой служат DGX OS и экосистема CUDA. Поэтому заявленный PFLOP DGX Spark нельзя напрямую сопоставлять с 40–60 TOPS NPU в обычных AI PC: речь идёт о разных ускорителях, форматах вычислений и сценариях использования.

По данным NVIDIA, 128 ГБ объединённой памяти позволяют запускать модели до 200 млрд параметров в режиме инференса и дообучать модели до 70 млрд параметров. Такой компьютер нужен уже не столько для фоновых ИИ-функций ОС, сколько для прототипирования, локальных LLM и разработки генеративных моделей. Подробнее возможности платформы мы разобрали в обзоре NVIDIA DGX Spark.

При сравнении с решениями AMD, ПК с Ryzen AI Max+ 395 логичнее рассматривать как мощный универсальный AI PC, а DGX Spark — как компактную специализированную рабочую станцию для разработчиков ИИ. Мы сравнивали эти два ИИ-компьютера в этом обзоре.

Параметр Ryzen AI Max+ 395 NVIDIA DGX Spark
Назначение Универсальный x86-ПК и локальный ИИ Специализированная Arm-станция для разработки ИИ
CPU и ОС 16 ядер / 32 потока Zen 5; Windows 11 или Linux 20-ядерный Arm; DGX OS
ИИ-ускорители Radeon 8060S и NPU XDNA 2 Blackwell GPU и Tensor Cores пятого поколения; отдельного NPU нет
Память До 128 ГБ LPDDR5X-8000; до 96 ГБ для графики; около 256 ГБ/с 128 ГБ общей LPDDR5X; 273 ГБ/с
Заявленный пик До 126 суммарных TOPS, включая 50 TOPS NPU До 1 PFLOP FP4 с разреженностью
Масштаб моделей Инференс до 128 млрд параметров при подходящей квантизации Инференс до 200 млрд; дообучение до 70 млрд параметров

Пиковые 126 TOPS и 1 PFLOP нельзя сравнивать напрямую: показатели относятся к разным ускорителям, форматам вычислений и методикам подсчёта.

Для каких задач Запуск и дообучение больших языковых моделей до 200 млрд локально
Подробнее
Видеокарты
Grace Blackwell
Объем видеопамяти 128 ГБ
Процессоры
NVIDIA GB10
Количество ядер 20 Arm
RAM Объединена с VRAM
Форм-фактор SFF
Для каких задач Запуск и дообучение больших языковых моделей до 200 млрд локально
Подробнее
Видеокарты
Grace Blackwell
Объем видеопамяти 128 ГБ
Процессоры
NVIDIA GB10
Количество ядер 20 Arm
RAM Объединена с VRAM
Форм-фактор SFF
Для каких задач Запуск и дообучение больших языковых моделей до 200 млрд локально
Подробнее
Видеокарты
Grace Blackwell
Объем видеопамяти 128 ГБ
Процессоры
NVIDIA GB10
Количество ядер 20 Arm
RAM Объединена с VRAM
Форм-фактор SFF

Маркетинговые обещания против технической реальности

Производители часто выносят TOPS на упаковку и используют это число как главный показатель возможностей AI PC. Проблема в том, что пиковая вычислительная мощность не показывает реальную производительность приложения. Она не учитывает модель, формат данных, объём памяти, пропускную способность и качество программной оптимизации.

TOPS как главная маркетинговая цифра

TOPS расшифровывается как Trillions of Operations Per Second — триллионы операций в секунду. Например, 40 TOPS означают теоретическую возможность выполнить 40 трлн простых операций за секунду.

Сравнивать NPU только по этому показателю нельзя по нескольким причинам:

  • производители могут считать операции с разной точностью — INT4, INT8, FP16 и другими форматами;
  • результат зависит от того, учитывается ли разреженность данных;
  • часть операций конкретной модели может не поддерживаться ускорителем;
  • скорость ограничивают память и обмен данными между вычислительными блоками;
  • заявленное значение относится к пиковым, а не постоянным показателям.

Дополнительную путаницу создают суммарные TOPS. Производитель может сложить возможности CPU, GPU, NPU и других блоков, хотя приложение не всегда способно задействовать их одновременно.

Например, в спецификации Snapdragon X Elite указаны два значения: до 75 TOPS для всей платформы и 45 TOPS для отдельного Hexagon NPU. Для требований Copilot+ PC учитывается второй показатель.

В старших системах путаница ещё сильнее. У Ryzen AI Max+ 395 показатель 50 TOPS относится только к NPU, а 126 TOPS — ко всей платформе. У DGX Spark заявленный 1 PFLOP описывает возможности Blackwell GPU в FP4 с разреженностью. Напрямую сопоставлять эти три числа нельзя.

Поэтому большее количество TOPS не гарантирует более высокой скорости. Для объективного сравнения нужны одинаковая нейросеть, формат модели, длина контекста, программная среда и режим энергопотребления.

Мнение редакции DigitalRazor

TOPS полезен как предварительный фильтр, но не как итоговая оценка компьютера. После проверки цифры нужно выяснить, поддерживает ли нужная программа NPU и какую скорость она показывает в реальных задачах.

Найдите станцию под ваши задачи

Готовые конфигурации для работы с большими массивами данных

Реальные тесты локальных LLM: NPU, iGPU и гибридные режимы

Скорость локальных LLM обычно измеряют в токенах в секунду — tps. Один токен соответствует слову, части слова или знаку препинания. Чем выше показатель, тем быстрее модель формирует ответ.

Для оценки отзывчивости также используют время до первого токена — TTFT. Оно показывает задержку между отправкой запроса и появлением начала ответа. Низкий TTFT важен для диалоговых ассистентов, а высокий tps — для генерации длинного текста.

Стандартизировать такие измерения пытается консорциум MLCommons. В актуальном MLPerf Client v2.0 базовые LLM-тесты используют Llama 3.1 8B Instruct и Phi 4 Mini Instruct. Дополнительно доступны Phi 4 Reasoning 14B и экспериментальный Qwen 3 8B. Приведённые ниже результаты Intel и AMD получены в более ранних версиях MLPerf Client, поэтому напрямую сравнивать их нельзя.

Опубликованные результаты показывают, почему количество TOPS нельзя напрямую переводить в токены в секунду.

Система Вычислительный блок Модель и тест Результат
Intel Core Ultra 9 288V NPU Llama 2 7B, MLPerf Client v0.6 18,55 токена/с
AMD Ryzen AI 9 HX 375 NPU + встроенный GPU Phi-3.5, MLPerf Client v1.0 более 27 токенов/с
AMD Ryzen AI Max+ 395 Встроенный GPU (iGPU) Phi-3.5, MLPerf Client v1.0 до 61 токена/с

Это не прямое сравнение платформ: Intel и AMD использовали разные версии теста, модели и способы ускорения. Таблица показывает диапазон опубликованных результатов и влияние программной среды. DGX Spark намеренно не включена в таблицу: 1 PFLOP FP4 — это теоретический пик, а не результат того же теста MLPerf Client в токенах в секунду.

В тестах Intel Core Ultra Series 2 нейропроцессор выдавал 18,55 токена/с на Llama 2 7B, а первый токен появлялся через 1,09 секунды. В этом случае модель полностью выполнялась на NPU.

AMD тестировала два режима. В гибридном NPU выполняет обработку входного запроса, а встроенная графика отвечает за последовательную генерацию токенов. Ryzen AI 9 HX 375 в таком режиме показал более 27 токенов/с на Phi-3.5. Максимальные 61 токен/с у Ryzen AI Max+ 395 AMD получила уже в режиме iGPU-only — благодаря производительной встроенной графике и высокой пропускной способности памяти.

Разделение связано с устройством локальной LLM. Обработка запроса требует большого количества параллельных вычислений, поэтому её можно перенести на NPU. Последовательная генерация токенов сильнее зависит от скорости памяти — здесь встроенная графика может оказаться эффективнее.

На практике скорость зависит не только от железа, но и от движка, формата модели и настроек. Подробнее об одном из самых распространённых вариантов мы рассказали в руководстве по llama.cpp.

Результаты подтверждают два вывода:

  • NPU способен полностью выполнять инференс некоторых компактных локальных LLM;
  • оптимальный вычислительный блок зависит от этапа работы модели: NPU может ускорять обработку запроса, а высокая пропускная способность iGPU помогает при последовательной генерации токенов.

TOPS превращается в маркетинговую цифру, если производитель не указывает модель, точность вычислений и программную среду. Реальные тесты производительности должны содержать все эти параметры — иначе сравнить два ИИ-компьютера невозможно.

Что реально работает локально на NPU уже сейчас

Лучше всего NPU справляется с небольшими моделями, которые постоянно обрабатывают звук, видео или изображения. Для таких задач важны низкая задержка и экономное энергопотребление, а не максимальная вычислительная мощность.

Шумоподавление и эффекты на видеозвонках

Один из наиболее распространённых сценариев для NPU — обработка изображения с камеры и звука с микрофона. В Windows Studio Effects доступны:

  • автоматическое кадрирование;
  • размытие фона;
  • коррекция направления взгляда;
  • портретное освещение;
  • подавление фонового шума;
  • выделение голоса.
Windows Studio Effects  размытие фона

Практическая польза особенно заметна на ноутбуках: NPU может постоянно выполнять поддерживаемые эффекты видеосвязи, снижая нагрузку на CPU и GPU.

Набор возможностей зависит от устройства. Базовые эффекты могут работать на компьютерах с NPU производительностью менее 40 TOPS, а полный комплект требует Copilot+ PC. Некоторые режимы доступны только на системах со Snapdragon.

Локальное распознавание речи и субтитры

Live Captions в Windows 11 преобразует речь из любого воспроизводимого на компьютере звука в субтитры. Функция работает с видеороликами, онлайн-встречами, трансляциями и аудиозаписями.

Copilot + PC Live Captions

На Copilot+ PC система также переводит речь более чем с 40 языков на английский и с 27 языков на упрощённый китайский. Русский поддерживается как исходный язык, но перевода на русский в текущем списке нет.

Распознавание речи и создание субтитров выполняются локально. По данным Microsoft, звук, голосовые данные и готовый текст не отправляются в облако и не сохраняются после завершения работы. После загрузки языкового пакета функция доступна без интернета.

Это один из сценариев, где локальный ИИ даёт понятный результат:

  • субтитры появляются с небольшой задержкой;
  • функция работает без подключения к Сети;
  • аудиозапись не нужно отправлять на внешний сервер;
  • NPU рассчитан на энергоэффективную постоянную обработку, хотя реальный расход энергии зависит от конкретного эффекта и устройства.

Фоновые ИИ-функции ОС и обработка фото

NPU подходит для улучшения изображений, выделения объектов и других операций с заранее обученными компактными моделями. Такие функции постепенно появляются в стандартных приложениях Windows 11.

Например, Super Resolution в приложении «Фотографии» увеличивает разрешение снимка до восьми раз и восстанавливает недостающие детали. Модель работает локально, а изображение не отправляется на внешние серверы. Функция доступна только на Copilot+ PC и пока обрабатывает фотографии, но не видео.

С генеративными функциями ситуация сложнее. Cocreator выполняет генерацию локально на NPU, но требует учётную запись Microsoft и подключение к интернету: облачные сервисы используются для проверки безопасности и фильтрации содержимого. Поэтому полностью автономной эту функцию назвать нельзя.

Функция Где идут вычисления Нужен интернет Ограничение
Windows Studio Effects На NPU Нет Набор эффектов зависит от платформы
Live Captions На устройстве Нет после загрузки языков Ограниченный список языков перевода
Super Resolution в «Фотографиях» На устройстве Нет Только Copilot+ PC и статичные изображения
Cocreator в Paint Генерация на NPU Да Облако проверяет запросы и содержимое

Сегодня NPU особенно полезен, когда функция встроена в ОС и оптимизирована под конкретное оборудование. Главное ограничение — поддержка со стороны программ.

Почему возможности NPU зависят от программной поддержки

Сам по себе нейропроцессор ничего не ускоряет. Приложение должно содержать подходящую модель, обращаться к NPU через совместимую среду выполнения и поддерживать конкретное оборудование. Если разработчик этого не предусмотрел, нагрузку продолжат выполнять CPU или GPU, а NPU останется незадействованным.

Recall и другие функции с ограниченным запуском

Recall стал показательным примером разрыва между презентацией AI PC и готовым продуктом. Microsoft планировала широко запустить функцию вместе с первыми Copilot+ PC в июне 2024 года, но перенесла её в программу предварительного тестирования ради доработки безопасности. Даже сейчас компания обозначает Recall как предварительную версию.

Recall сохраняет снимки экрана, анализирует их локально и позволяет искать ранее просмотренный контент. Функция использует NPU по назначению, но её доступность зависит не только от железа. Пользователь должен включить сохранение снимков вручную, настроить Windows Hello и шифрование, а также оставить не менее 50 ГБ свободного места. На корпоративных и учебных компьютерах Recall по умолчанию удалён, пока его не разрешит администратор.

Поэтому говорить, что Recall «не прижился», пока некорректно. Точнее будет сказать, что одна из ключевых функций, которыми Microsoft представляла Copilot+ PC, вышла позже обещанного и остаётся ограниченной требованиями безопасности, языковой поддержкой и политиками организаций.

Почему приложения не всегда используют NPU

У разных платформ собственные программные компоненты: OpenVINO для Intel, QNN для Qualcomm и Vitis AI для AMD. Разработчику нужно подготовить модель, оптимизировать её под нужную архитектуру и проверить, поддерживает ли ускоритель все используемые операции.

Windows ML упрощает эту работу: система предоставляет приложениям единый интерфейс и подключает подходящий исполнитель для CPU, GPU или NPU. Однако Microsoft отдельно отмечает, что оптимизация модели всё ещё остаётся обязанностью разработчика.

Если часть операций NPU не поддерживает, вычисления приходится переносить на CPU или GPU. Такие переходы усложняют разработку и иногда сокращают выигрыш в скорости и энергопотреблении. Гибридная работа уже возможна, но пока не стала универсальной функцией, которую получает любое приложение автоматически.

Именно поэтому ценность AI PC сегодня определяет не только количество TOPS, но и список программ, способных использовать нейропроцессор. Без совместимого ПО высокий показатель NPU не даёт практического преимущества.

Найдите станцию под вашу профессию

Укажите вашу сферу (3D, видео, код), чтобы получить варианты

NPU против GPU: инференс и обучение

NPU и GPU ускоряют нейросетевые вычисления, но рассчитаны на разные сценарии. Нейропроцессор предназначен прежде всего для продолжительного локального инференса с умеренным энергопотреблением. GPU ориентирован на высокую пропускную способность и лучше подходит для генеративных моделей, обработки изображений и видео. Такое разделение приводит и сама Microsoft в документации Windows ML.

Инференс — это работа уже обученной модели: распознавание речи, удаление фона или генерация ответа. Во время обучения необходимо также рассчитывать градиенты и обновлять параметры модели. Это увеличивает вычислительную нагрузку и требования к памяти.

Критерий NPU GPU Практический вывод
Основная задача Энергоэффективный инференс Высокопроизводительные параллельные вычисления Назначение ускорителя важнее TOPS
Локальные функции ОС Подходит для постоянной фоновой работы Обычно избыточен и расходует больше энергии Для ноутбука NPU полезнее
Генерация изображений и видео Зависит от модели и поддержки софта Обычно обеспечивает более высокую скорость Для генерации приоритетнее GPU
Локальные LLM Подходит для совместимых компактных моделей Шире выбор моделей и программ GPU универсальнее
Обучение и дообучение Потребительские платформы ориентированы на инференс Поддерживается распространёнными ИИ-фреймворками Для обучения обычно выбирают GPU

Почему для тяжёлых ИИ-задач обычно нужен GPU

Большинство программ для обучения и дообучения нейросетей создавалось вокруг GPU. Например, PyTorch напрямую поддерживает вычисления через CUDA, а технологии NVIDIA Tensor Cores применяются как для инференса, так и для обучения с пониженной точностью.

У дискретной видеокарты также есть собственная быстрая память. Для локальных LLM важны её объём и пропускная способность: вычислительные блоки должны постоянно получать веса модели и промежуточные данные. Поэтому высокая заявленная производительность ускорителя не поможет, если модель не помещается в доступную память или обмен данными становится узким местом.

Ryzen AI Max+ 395 занимает промежуточное положение: его NPU отвечает за поддерживаемые энергоэффективные функции, а Radeon 8060S и до 96 ГБ памяти, выделяемой графике, — за более тяжёлые локальные модели. DGX Spark идёт дальше: в ней нет NPU, а основная ИИ-нагрузка ложится на Blackwell GPU и 128 ГБ общей памяти.

Если тебе нужен GPU именно под локальные модели или обучение, в отдельном материале мы разобрали, как выбрать видеокарту для нейросетей и сколько VRAM требуется для разных LLM.

NPU выигрывает в другом. Он может обрабатывать совместимые ИИ-функции в фоне, не занимая центральный процессор и не заставляя дискретную видеокарту постоянно работать. Это полезно для видеосвязи, распознавания речи, локального поиска и других продолжительных задач на ноутбуке.

Поэтому NPU не заменяет GPU, а дополняет его. Для функций Windows и лёгкого локального инференса достаточно нейропроцессора. Для генерации изображений, работы с крупными LLM, обучения и профессиональных ИИ-приложений важнее производительная видеокарта с достаточным объёмом памяти.

[ PERFORMANCE PRO TOWER ]
350D Tower
i9-14900K · RTX 5090 32ГБ · 64GB DDR5 RGB · 1 ТБ
919 000 ₽
68 925 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
750D Tower
7965WX · RTX 5090 32ГБ · 256GB DDR5 ECC · 1 ТБ NVME 5.0
2 702 000 ₽
202 650 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
900D Tower
2 x EPYC 9534 · RTX PRO 5000 48GB · 512GB DDR5 ECC · 2 ТБ
6 096 500 ₽
457 238 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее

Как понять, нужен ли ИИ-компьютер

Покупать компьютер только ради маркировки AI PC не стоит. Сначала нужно определить, какие программы будут использовать NPU и какую задачу должен решать новый ускоритель.

Основной сценарий Приоритет Что проверить
Видеосвязь, субтитры, функции Windows NPU Поддержку нужных функций и приложений
Работа от аккумулятора NPU Энергопотребление всего ноутбука
Небольшие локальные LLM NPU или GPU Поддержку модели, объём памяти и программный бэкенд
Крупные локальные LLM Ryzen AI Max+ 395, GPU-станция или DGX Spark Объём общей памяти или VRAM, архитектуру x86-64/Arm, программный стек, размер модели и контекста
Генерация изображений и видео GPU Производительность и поддержку моделей
Обучение и дообучение GPU VRAM, программную платформу и охлаждение
Облачные нейросети CPU и общие характеристики ПК Скорость интернета, память и удобство системы

Если ChatGPT, Copilot или другой сервис работает в браузере и выполняет вычисления в облаке, наличие NPU почти не влияет на скорость ответа. В таком случае важнее автономность, экран, объём оперативной памяти и общая производительность компьютера.

Итоговый принцип простой: NPU имеет смысл покупать под конкретные локальные функции. Если заранее непонятно, какие используемые программы задействуют NPU, переплачивать только за высокий TOPS не стоит.

Вердикт редакции DigitalRazor

ИИ-компьютеры — не просто маркетинг: NPU действительно полезен для локальных функций Windows, видеосвязи, распознавания речи и других постоянно работающих ИИ-задач. Но высокий TOPS сам по себе не показывает, насколько быстро компьютер запустит LLM, сгенерирует изображение или выполнит обучение.

Ryzen AI Max+ 395 и DGX Spark показывают, что понятие «ИИ-компьютер» охватывает разные классы техники. Первая платформа остаётся универсальным x86-ПК с Windows или Linux, а вторая представляет собой специализированную Arm-станцию, ориентированную на CUDA и разработку ИИ.

Выбирать AI PC стоит под конкретные приложения, которые умеют использовать NPU. Для крупных локальных моделей, генерации и обучения обычно важнее производительная видеокарта, объём VRAM и поддержка нужного программного стека.

Частые вопросы

1. Что такое AI PC?
В массовом сегменте AI PC — компьютер с CPU, GPU и NPU. Системы вроде DGX Spark тоже рассчитаны на локальный ИИ, но относятся скорее к компактным ИИ-станциям: отдельного NPU у них нет.
2. Чем NPU отличается от GPU?
NPU экономичнее при продолжительном инференсе, а GPU быстрее и универсальнее в тяжёлых параллельных вычислениях.
3. Сколько TOPS нужно для ИИ-компьютера?
Для Copilot+ PC требуется NPU производительностью от 40 TOPS. Для других задач единого минимального значения нет.
4. Можно ли запускать локальные LLM на NPU?
Да, если модель помещается в доступную память, а программа поддерживает установленный NPU. Совместимость нужно проверять отдельно.
5. Можно ли обучать нейросети на NPU?
Потребительские NPU ориентированы на инференс. Для обучения и дообучения нейросетей обычно используют GPU.
6. Работает ли NPU без интернета?
Да, если модель и приложение установлены на компьютере. Отдельным функциям может требоваться интернет для проверки или загрузки данных.
7. Заменяет ли NPU видеокарту?
NPU дополняет GPU. Некоторые компактные модели и системные функции могут работать на NPU, но для ресурсоёмкой генерации, крупных LLM и обучения GPU обычно быстрее и универсальнее.
8. Стоит ли доплачивать за AI PC?
Да, если нужны локальные функции Windows и приложения, которые действительно используют NPU. Ради одного логотипа AI PC переплачивать не стоит.
9. Чем Ryzen AI Max+ 395 отличается от DGX Spark?
Ryzen AI Max+ 395 — универсальная x86-система с Windows или Linux, NPU и Radeon 8060S. DGX Spark — специализированная Arm-станция без NPU, построенная вокруг CUDA и Blackwell GPU.

Итог

Для локальных функций Windows достаточно ноутбука с NPU. Для крупных LLM, генерации и дообучения нужен более производительный GPU и большой объём доступной памяти — это может быть система на Ryzen AI Max+ 395, GPU-станция или DGX Spark. В каталоге DigitalRazor можно подобрать рабочую станцию для ИИ и сложных вычислений с нужным объёмом видеопамяти и возможностью дальнейшего расширения.

Если ты не хочешь самостоятельно разбираться в совместимости моделей, видеокарт и программных платформ, напиши специалистам DigitalRazor. Поможем подобрать конфигурацию под конкретные задачи без переплаты за невостребованные характеристики.

[ PERFORMANCE PRO RACK ]
350R RACK
U9-285K · RTX 5090 32ГБ · 128GB DDR5 RGB · 2 ТБ
1 275 000 ₽
95 625 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
750R RACK
7975WX · RTX 5090 32ГБ · 256GB DDR5 ECC · 2 ТБ NVMe 5.0
3 591 500 ₽
269 363 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
900R RACK
2 x EPYC 9575F · RTX PRO 5000 48GB · 512GB DDR5 ECC · 2 ТБ
6 836 500 ₽
512 738 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
Подберём решение под ваш проект

Расскажите о задаче — предложим оптимальную конфигурацию и реализацию.

Обсудить проект
или свяжитесь с нами
Telegram Telegram WhatsApp WhatsApp ВКонтакте ВКонтакте MAX MAX
923

Так же будет интересно почитать

Выбираем компьютер для работы в Blender
Олег Олегович Олег Олегович
Статьи
Выбираем компьютер для работы в Blender

Blender полюбился многим за стабильное развитие и техническую поддержку. Спектр возможностей у приложения широкий: от визуализации до монтажа и рендеринга. Поэтому выбор оптимального компьютера вызывает вопросы. В продолжении цикла статей разберем системные требования и ответим, какую графическую станцию выбрать для комфортной работы.

4 мин
74.9К
Процессоры AMD Ryzen X3D в рабочих задачах
Олег Олегович Олег Олегович
Статьи
Процессоры AMD Ryzen X3D в рабочих задачах

В этом материале расскажем, почему постулат «Ryzen X3D предназначены только для игр» можно считать устаревшим. Почему Ryzen 9900X3D и 9950X3D — не просто какие-то странные процессоры, а очень любопытное гибридное решение. Вариант для тех, кто использует компьютер не только для игр, но и для работы.

9 мин
69.1К

Сайт использует cookies
Узнать подробнее