Металингвистический комплекс для федерального исследовательского центра

Федеральный исследовательский центр Коми НЦ УрО РАН обратился в DigitalRazor для создания комплекса, который состоит из тихой, но производительной рабочей станции, и оборудованного рабочего места для проведения исследований. Цель научного проекта — запись, обработка, структурирование и анализ металингвистической информации с помощью нейросетей и собственного ПО.

Задача

Исследовательский центр столкнулся с серьезными сложностями из-за геополитических ограничений. В конце 2022 года он планировал приобрести для работы компьютер Mac Pro 2019 с процессором Intel Xeon (3,5 ГГц) и видеокартой AMD Radeon Pro 580X. Однако к концу 2023 года санкции сделали невозможной закупку импортного оборудования для государственных учреждений.

Основные технические требования заказчика к проекту:

1. Рабочая станция на основе центрального процессора Intel и профессиональной видеокарты, оптимизированной для работы с большими языковыми моделями (LLM).
2. Высокая надёжность и возможность непрерывной работы в режиме 24/7.
3. Бесшумная система, чтобы создать акустически нейтральную среду.
4. Звукоизоляционная кабина для записи металингвистических данных.
5. Подбор дополнительного оборудования и монтаж рабочего места в исследовательском центре.
6. Техническая поддержка и настройка оборудования, обучение персонала работе с комплексом и обслуживанию системы.

Важным условием для участия в государственном тендере стало требование наличия у поставщика сертификата о том, что оборудование произведено на территории Российской Федерации. Заказчику также было важно заказать всё в одном месте и получить готовый, настроенный и протестированный комплекс на территории исследовательского центра.

Решение

Проектирование системы

Анализ исходной платформы Mac Pro 2019 показал, что она не подходит для машинного обучения. Видеокарты AMD Radeon Pro 580X с 8 ГБ видеопамяти недостаточно для работы с большими языковыми моделями. Заказчик уже сталкивался с тем, что обработка речи на старых системах намертво их «вешала». Поэтому приняли совместное решение спроектировать новую систему для эффективного решения научных задач.

Спроектировали рабочую станцию, которая ориентирована на максимальную эффективность в решении научных задач и надёжность:

• 24-ядерный производительный процессор Intel Xeon.
• Профессиональная материнская плата для рабочих станций с возможностью масштабирования.
• 256 ГБ оперативной памяти с коррекцией ошибок — обязательное требование для научных вычислений и длительных циклов обучения нейросетей..
• Видеокарта PNY NV QUADRO RTX A6000 48GB.
• Высокоскоростное хранилище данных SSD 2 TB для быстрой загрузки операционной системы, программного обеспечения и баз данных.
• Дополнительный жесткий диск Enterprise-класса на 4 ТБ для долгосрочного хранения больших массивов аудио- и видеоданных.
• Блок питания 1200 Вт обеспечивает стабильное питание и минимизирует паразитное тепловыделение внутри корпуса.

Переход от 8 ГБ VRAM (Radeon Pro 580X) к 48 ГБ GDDR6 (RTX A6000) устранил узкое место в обработке больших данных. Это позволило развернуть на рабочей станции языковую ИИ-модель в 6 раз большего размера. Также появилась возможность использовать адекватный размер пакетов (batch size) для обучения и обработки данных. Скорость работы выросла в 2,5–3 раза.

Профессиональная линейка видеокарт Quadro примерно в три раза надёжнее, чем потребительские аналоги — коэффициент отказа 0.33% против 0.91%. Видеокарта RTX A6000 поддерживает экосистему NVIDIA CUDA, являющуюся стандартом для глубокого обучения (TensorFlow, PyTorch), в отличие от ограниченного инструментария AMD.

Снижение шума рабочей станции

Требование «очень тихой работы» для рабочей станции с Xeon W и A6000 — непростой инженерный компромисс. Высокая вычислительная мощность обычно сопровождается высоким тепловыделением и шумом.

Для охлаждения центрального процессора установили высокопроизводительный кулер, который способен эффективно охладить процессор с TDP до 700 Вт. Два 140-мм вентилятора даже при максимальной скорости вращения создают уровень шума всего 24,6 дБА.

Громкость системы охлаждения видеокарты RTX A6000 снижается за счёт грамотно подобранного просторного корпуса с эффективной вентиляцией, встроенной шумо- и виброизоляцией. Это гарантирует, что даже при высокой нагрузке на систему в процессе обучения нейросетей, шум рабочей станции будет минимальным и не помешает записывать речь.

Интегрированная рабочая студия

Собрали и оборудовали звукоизоляционную кабину с габаритами 1,15 x 1,15 x 2,2 м. Основная её функция — устранение внешнего шума и эха внутри помещения. Только в такой акустически «сухой» среде возможно записать чистый, неискаженный аудиоматериал для тонкого анализа фонетических данных и обучения языковых моделей.

Кабина обеспечивает профессиональные условия для записи голоса. Она оборудована бесшумным вентиляционным модулем, освещением и специальными кабель-портами, которые не пропускают звуки извне.

Сочетание тихой рабочей станции и звукоизоляционной кабины позволило создать среду, где отсутствуют источники шума, способные исказить входные данные для дальнейшего анализа звука.

Мы также выбрали специализированную периферию:

• Высокочувствительный микрофон для захвата звука.
• Микшерный пульт для предварительного усиления и цифровой конвертации входного сигнала.
• Производительную звуковую карту для захвата и вывода аудиоданных.
• Профессиональные наушники для мониторинга и прослушивания записанного материала.
• Два изогнутых монитора 32" с разрешением 4K для комфортной работы с кодом, интерфейсами нейросетей и структурированными базами данных.
• Эргономичные кресло и рабочий стол для комфорта исследователей при длительной работе.
• Стабилизатор напряжения для защиты оборудования и важных научных данных.

Подход к проекту

Заказчик получил комплекс услуг, начиная от покупки оборудования в одном месте, заканчивая сборкой, настройкой и тестированием «железа», монтажом полноценного рабочего места на территории исследовательского института и обучения персонала.

Специалисты DigitalRazor тесно сотрудничали с инженерами заказчика в процессе проектирования системы. Адаптировали научные требования в формат спецификаций. После этого инженер DigitalRazor отправился в исследовательский центр на территории республики Коми. В течение 3 рабочих дней он завершил монтаж комплекса.

Процесс монтажа включал:

1. Сборку, настройку и тестирование рабочей станции.
2. Сборку и установку звукоизоляционной кабины.

3. Подключение и настройку дополнительного оборудования для записи звука.
4. Сетевую интеграцию рабочей станции в ИТ-инфраструктуру института.

Завершающим этапом стало проведение подробного инструктажа для инженеров исследовательского центра. Обучение охватывало работу с новым аппаратным комплексом, специфику обслуживания его компонентов и использование студийного оборудования.

Результат

Заказчик протестировал новый комплекс на реальных научных задачах и сравнил его с системами производства Apple. Результаты продемонстрировали значительный прирост производительности:

• Скорость выполнения металингвистических и нейросетевых задач выросла в среднем в 2,5–3 раза. Это прямое следствие увеличения объёма VRAM и перехода на архитектуру NVIDIA, оптимизированную для глубокого машинного обучения.
• Полностью исчезла проблема нехватки вычислительных ресурсов. Появилась возможность решать несколько задач одновременно, в отличие от старых систем, которые «зависали» при обработке большого объёма данных.

Проект стал образцом успешного комплексного инжиниринга, адаптированного к уникальным требованиям научного сообщества:

• Технологическое превосходство. Профессиональный ускоритель NVIDIA Quadro RTX A6000 и память ECC DDR5 повысили скорости работы в 2,5–3 раза.
• Акустический дизайн. Эффективное охлаждение, корпус с шумо- и виброизоляцией, а также профессиональная звукоизоляционная кабина позволили создать подходящую среду для записи чистого звука.
• Сервисная поддержка. Помощь в разработке ТЗ, наличие нужного сертификата, монтаж комплекса на территории заказчика, обучение персонала.