Уникальное решение

Сервер Devbox Ai

Devbox Ai — это гибкое и масштабируемое решение, адаптируемое под задачи генеративного контента, анализа данных и обучения моделей ИИ.

Система оптимально подходит для:
Стартапов в сфере искусственного интеллекта, ищущих эффективные и экономичные решения;
Разработчиков, работающих с LLM и NLP, которым необходимы мощные и доступные вычислительные ресурсы.

Общие характеристики

4x RTX 5090 / 6x RTX PRO 6000 Blackwell Поддерживает установку 4 видеокарт размером в 3.5 слота без перегрева и троттлинга
До 96 ядер Поддерживает установку процессоров AMD Threadripper Pro 7000 серии
До 576GB видеопамяти Поддерживает установку до 6 видеокарт
RTX PRO 6000 Blackwell с суммарной памятью
До 2TB Поддержка оптимального объема памяти для работы с AI и HPC-задач

Типовые конфигурации

Devbox Ai4X RTX 5080

Процессоры

Threadripper PRO 7000 WX

Количество ядер CPU

от 64 до 96 ядер

Видеокарты

4x RTX 5080

Память GPU

64 Гб GDDR7

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев

Devbox Ai4X RTX 5090

Процессоры

Threadripper PRO 7000 WX

Количество ядер CPU

от 64 до 96 ядер

Видеокарты

4x RTX 5090

Память GPU

128 Гб GDDR7

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев

Devbox Ai6X RTX PRO 6000

Процессоры

Threadripper PRO 7000 WX

Количество ядер CPU

от 64 до 96 ядер

Видеокарты

6x RTX PRO 6000 Blackwell

Память GPU

576 Гб GDDR7

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев

Вас может заинтересовать

GPU-сервер Devbox

Уникальное решение. До 8-ми GPU NVIDIA RTX 6000 Ada Generation с поддержкой до 96-ти ядер процессора и жидкостным охлаждением.

Подробнее

Комплектующие

Видеокарты

Ключевая особенность модели — поддержка NVIDIA GeForce RTX 5090 32GB в десктопном исполнении. Конструктив платформы позволяет разместить до 4 видеокарт размером 3.5 слота и охлаждать их для бесперебойной работы 24\7.

Это оптимальное решение для стартапов и разработчиков, так как позволяет получить экономичное и высокоэффективное решение, например, для инференса (например, RTX 5080 или RTX 4090), так и для обучения моделей (например, RTX 5090 или RTX PRO 6000 Blackwell).

Процессор

Доступны процессы линейки 7000 линейки AMD Ryzen Threadripper PRO:

AMD Ryzen™ Threadripper™ PRO 7975WX

AMD Ryzen™ Threadripper™ PRO 7985WX

AMD Ryzen™ Threadripper™ PRO 7995WX

Поддержка до 96 ядер и 192 потоков с базовой частотой 2,5 ГГц и возможностью разгона до 5,1 ГГц , обеспечивает высокую производительность, необходимую для интенсивных вычислительных задач в области AI и LLM.

Оперативная память

Поддержка объема оперативной памяти до 2 ТБ обеспечивает высочайшую производительность для работы с большими наборами данных и сложными вычислительными моделями.
Это критически важно для задач ИИ, генеративных моделей и высокопроизводительных вычислений (HPC), где требуется быстрая обработка и анализ данных.

Высокоскоростная память гарантирует стабильность и бесперебойную работу системы даже под экстремальными нагрузками, минимизируя задержки и повышая эффективность вычислений. Это позволяет обрабатывать данные в реальном времени и ускорять исследования, предоставляя конкурентное преимущество в динамично развивающихся областях.

ПРЕИМУЩЕСТВА

До 4 RTX 5090
До 6 RTX PRO 6000

Оптимизировано для AI, ML, LLM и HPC-задач

Гибкость в конфигурации и масштабируемость

Качественное охлаждение основных компонентов системы

Совместимость с основными
AI-фреймворками

Работает круглосуточно без перегрева и троттлинга.

Предварительное тестирование

Каждая компания обладает своей уникальной спецификой работы — будь то собственные модели, специфичные приложения или набор дополнительных инструментов. DigitalRazor это понимает и предлагает услугу предварительного тестирования оборудования.

Мы подготовим оборудование к удаленному подключению, произведем предварительную настройку и тестирование, а также установим необходимую операционную систему. После этого предоставим вам доступ на согласованный интервал времени, что позволит создать условия, максимально приближенные к реальным рабочим задачам.

Сценарии применения

Выбирая Devbox Ai, вы получаете надежный инструмент, способный удовлетворить потребности современных AI-разработок, обеспечивая баланс между производительностью, универсальностью и стоимостью.

Обучение и дообучение больших языковых моделей (LLM)

Обучение и дообучение языковых моделей (GPT, LLaMA, Falcon) под специфические задачи, например, юридический анализ, медицина, техническая поддержка и интерактивные чат-боты.
Глубокий анализ данных и прогнозирование

Масштабная обработка массивов данных, построение предиктивных моделей с использованием машинного обучения, выявление сложных закономерностей и аномалий в реальном времени, автоматизация аналитических процессов в сферах финансов, промышленности, здравоохранения и ритейла.
Разработка и тестирование моделей компьютерного зрения (CV)

Обучение и валидация моделей на больших датасетах изображений и видео, реализация систем распознавания лиц и объектов, трекинг в реальном времени, детекция аномалий на производстве, анализ поведения и навигация для автономных транспортных и роботизированных систем.
Генерация и рендеринг 3D-графики и анимации

Фотореалистичный рендеринг сложных 3D-сцен, симуляции жидкости, дыма и ткани, процедурная генерация моделей, а также постобработка и анимация для геймдева, кинопроизводства и архитектурной визуализации.

	LLaMA 7B	LLaMA 13B	LLaMA 70B
Без квантизации (FP16):	Требует около 13 ГБ VRAM. Может быть запущена на любом из указанных GPU без распределения нагрузки.	Требует около 26 ГБ VRAM. Может быть запущена на GPU с 32 ГБ памяти (RTX 5090) или на двух GPU с 16 ГБ (RTX 5080) при использовании распределения нагрузки.	Требует около 160 ГБ VRAM. Для запуска потребуется распределение модели на все четыре GPU с 48 ГБ памяти (RTX 6000 Ada), что в сумме даст 192 ГБ VRAM.
С квантизацией до 4 бит:	Размер модели уменьшается до примерно 3,9 ГБ, что позволяет запускать ее даже на GPU с меньшим объемом	Размер модели уменьшается, что позволяет запускать ее на GPU с меньшим объемом памяти.	Требования к VRAM снижаются, что может позволить запуск на нескольких GPU с меньшим объемом памяти.

Галерея

Фотографии реализованных проектов

Наши клиенты

Мы убеждены, что компьютеры должны делать вашу работу более эффективной, и гордимся тем, что уже помогли тысячам компаний и частных лиц ускорить их деятельность.