8 800 500-99-26 Для звонков по России
Тестирование TensorRT-LLM в работе с большими языковыми моделями
Олег Олегович Олег Олегович
Статьи
Тестирование TensorRT-LLM в работе с большими языковыми моделями

Рассмотрим преимущества и недостатки оптимизатора TensorRT-LLM, который повышает производительность больших языковых моделей на этапе вывода. Расскажем об ограничениях и нюансах при выборе подходящей рабочей станции или GPU-сервера. Также наглядно продемонстрируем возможности современных видеокарт.

10 мин
18.3К
Смогут ли нейросети «оживить» диалоги в играх
Иван Колобков Иван Колобков
Статьи
Смогут ли нейросети «оживить» диалоги в играх

Некоторые эксперты считают, что искусственный интеллект позволит создать по-настоящему живых персонажей. Они будут реалистично реагировать на любые действия и даже голосовые запросы игроков. Но так ли хороша эта затея? Будет ли она работать на практике? И вообще, реально ли запихнуть нейронную сеть внутрь игры?

11 мин
25.9К
Выбор видеокарты для локального запуска LLM: игровая или профессиональная?
Олег Олегович Олег Олегович
Статьи
Выбор видеокарты для локального запуска LLM: игровая или профессиональная?

В этом материале предлагаем ознакомиться с результатами тестирования специализированных видеокарт NVIDIA RTX (ранее известных как Quadro) и обычных GeForce RTX потребительского класса в ИИ-вычислениях. В частности, во встроенном бенчмарке инструментария llama.cpp.

11 мин
56.6К

Сайт использует cookies
Узнать подробнее