ИИ-станция для автоматизации консультаций и подготовки коммерческих предложений

О клиенте

Компания клиента занимается консультациями и подбором вентиляционного оборудования. Основные рабочие процессы компании завязаны на входящих обращениях, электронной почте и подготовке коммерческих предложений.

Клиент обратился в DigitalRazor с задачей внедрить локальную ИИ-систему для автоматизации части операционной нагрузки.

Задача

Клиенту нужна система для запуска внутренних ИИ-инструментов по двум направлениям:

Для внешних пользователей:
чат-бот с ответами на типовые технические вопросы и помощью в подборе оборудования.

Для внутренних пользователей:
GPT-ассистент для менеджеров, анализ клиентских запросов, генерация ответов и автоматическая подготовка предварительных технико-коммерческих предложений.

Дополнительно заказчик рассматривал дальнейшую автоматизацию части бухгалтерских процессов.

Технические требования к системе:

• локальный запуск LLM и моделей компьютерного зрения;
• 48–96 ГБ видеопамяти;
• локальное хранение данных;
• Linux + ML-окружение;
• офисный формат работы.

Нагрузка — до 100 писем в день и 4–5 одновременных пользователей.

Клиенту была важна именно локальная ИИ-платформа, потому что:

• данные остаются внутри компании;
• нет постоянной зависимости от облачных тарифов;
• система не привязана к внешним сервисам;
• платформу можно развивать под новые задачи без смены подхода.

Решение

Для проекта мы собрали такую рабочую станцию:

• AMD Threadripper 7965WX
• 2× NVIDIA RTX 5090 32GB
• 256 GB DDR5 ECC
• NVMe SSD + дополнительное локальное хранилище
• Linux Ubuntu + ML-окружение

Система спроектирована с запасом под несколько ИИ-сценариев сразу:

• локальный инференс языковых моделей;
• работа с моделями компьютерного зрения;
• внутренняя ИИ-помощь менеджерам;
• обработка писем и автоматизация подготовки ТКП;
• развитие новых сервисов без смены платформы.

Две видеокарты RTX 5090 обеспечивают нужный объём GPU-ресурса под локальные ИИ-задачи. Процессор Threadripper даёт запас по многопоточной производительности. 256 ГБ памяти с коррекцией ошибок обеспечивают стабильную работу под нагрузкой. Ubuntu и готовое ML-окружение позволяют быстрее внедрять ИИ-инструменты в рабочий процесс.

Результат

Клиент получил локальную ИИ-станцию для автоматизации внутренних процессов и клиентских коммуникаций.

Система позволила:

• сократить время обработки запросов;
• ускорить подготовку коммерческих предложений;
• снизить нагрузку на менеджеров;
• автоматизировать часть консультаций и документооборота;
• развивать внутренние ИИ-сервисы на собственной инфраструктуре.

До внедрения: менеджер вручную разбирает письмо, ищет номенклатуру, формирует ответ и готовит предварительное ТКП.

После внедрения: ИИ помогает распознать запрос, ускоряет подготовку ответа и формирование предварительного предложения, а часть типовых консультаций берёт на себя чат-бот.

DigitalRazor спроектировал не просто мощную конфигурацию, а рабочий инструмент под реальные задачи заказчика — с запасом под рост и дальнейшее развитие ИИ-направления.

Это решение мы создали не «на вырост ради цифр», а под конкретную ежедневную нагрузку: запросы клиентов, переписку, подбор оборудования и подготовку ТКП.