8 800 500-99-26 Для звонков по России

Общие характеристики

  • 4xGPU RTX 5090 Поддерживает установку 4 видеокарт размером в 3.5 слота без перегрева и троттлинга
  • До 96 ядер Поддерживает установку процессоров AMD Threadripper Pro 7000 серии
  • До 192GB видеопамяти Поддерживает установку до 4 видеокарт уровня RTX 6000 Ada с суммарной памятью
  • До 2TB Поддержка оптимального объема памяти для работы с AI и HPC-задач

Типовые конфигурации

RACKSTATION AI <span>4X RTX 5080</span> RACKSTATION AI <span>4X RTX 5080</span> RACKSTATION AI <span>4X RTX 5080</span> RACKSTATION AI <span>4X RTX 5080</span> RACKSTATION AI <span>4X RTX 5080</span>

RACKSTATION AI 4X RTX 5080

Процессоры

Threadripper PRO 7000 WX-Series

Количество ядер CPU

от 32 до 96 ядер

Видеокарты

4x RTX 5080

Память GPU

64 Гб GDDR7

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев
RACKSTATION AI <span>4X RTX 5090</span> RACKSTATION AI <span>4X RTX 5090</span> RACKSTATION AI <span>4X RTX 5090</span> RACKSTATION AI <span>4X RTX 5090</span> RACKSTATION AI <span>4X RTX 5090</span>

RACKSTATION AI 4X RTX 5090

Процессоры

Threadripper PRO 7000 WX-Series

Количество ядер CPU

от 32 до 96 ядер

Видеокарты

4x RTX 5090

Память GPU

128 Гб GDDR7

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев
RACKSTATION AI <span>4X RTX6000 Ada</span> RACKSTATION AI <span>4X RTX6000 Ada</span> RACKSTATION AI <span>4X RTX6000 Ada</span> RACKSTATION AI <span>4X RTX6000 Ada</span> RACKSTATION AI <span>4X RTX6000 Ada</span>

RACKSTATION AI 4X RTX6000 Ada

Процессоры

Threadripper PRO 7000 WX-Series

Количество ядер CPU

от 32 до 96 ядер

Видеокарты

4x RTX 6000 Ada

Память GPU

192 Гб GDDR6

Оперативная память

до 2TB RDIMM DDR5

Системы охлаждения

Воздушная

Хранения данных

До 4xNVME

Сетевое подключение

2xRJ45 (10 GbE)

Блок питания

80 PLUS® Titanium CRPS 3200 Вт

Шасси

19” 6,5U

Гарантия

до 36 месяцев

Комплектующие

Видеокарты

Видеокарты

Ключевая особенность модели — поддержка NVIDIA GeForce RTX 5090 32GB в десктопном исполнении. Конструктив платформы позволяет разместить до 4 видеокарт размером 3.5 слота и охлаждать их для бесперебойной работы 24\7.

Это оптимальное решение для стартапов и разработчиков, так как позволяет получить экономичное и высокоэффективное решение, например, для инференса (например, RTX 5080 или RTX 4090), так и для обучения моделей (например, RTX 5090 или RTX 6000 Ada).

Процессор

Процессор

Доступны процессы линейки 7000 линейки AMD Ryzen Threadripper PRO:

  • AMD Ryzen™ Threadripper™ PRO 7975WX
  • AMD Ryzen™ Threadripper™ PRO 7985WX
  • AMD Ryzen™ Threadripper™ PRO 7995WX

Поддержка до 96 ядер и 192 потоков с базовой частотой 2,5 ГГц и возможностью разгона до 5,1 ГГц , обеспечивает высокую производительность, необходимую для интенсивных вычислительных задач в области AI и LLM.
Оперативная память

Оперативная память

Поддержка объема оперативной памяти до 2 ТБ обеспечивает высочайшую производительность для работы с большими наборами данных и сложными вычислительными моделями.
Это критически важно для задач ИИ, генеративных моделей и высокопроизводительных вычислений (HPC), где требуется быстрая обработка и анализ данных.

Высокоскоростная память гарантирует стабильность и бесперебойную работу системы даже под экстремальными нагрузками, минимизируя задержки и повышая эффективность вычислений. Это позволяет обрабатывать данные в реальном времени и ускорять исследования, предоставляя конкурентное преимущество в динамично развивающихся областях.

ПРЕИМУЩЕСТВА

До 4 GPU
RTX 6000 Ada \ RTX 5090

Оптимизировано для AI, ML, LLM и HPC-задач

Гибкость в конфигурации и масштабируемость

Качественное охлаждение основных компонентов системы

Совместимость с основными
AI-фреймворками

Работает круглосуточно без перегрева и троттлинга.

ПРЕДВАРИЕТЛЬНОЕ ТЕСТИРОВАНИЮ

ПРЕДВАРИЕТЛЬНОЕ ТЕСТИРОВАНИЮ

Каждая компания обладает своей уникальной спецификой работы — будь то собственные модели, специфичные приложения или набор дополнительных инструментов. DigitalRazor это понимает и предлагает услугу предварительного тестирования оборудования перед заключением договора.

Мы подготовим оборудование к удаленному подключению, произведем предварительную настройку и тестирование, а также установим необходимую операционную систему. После этого предоставим вам доступ на согласованный интервал времени, что позволит создать условия, максимально приближенные к реальным рабочим задачам.

Хотите испытать возможности нашего GPU-сервера DigitalRazor RACKSTATION AI? Оформите предварительную запись на тестирование и оцените его производительность в условиях вашей специфики.

Сценарии применения

Выбирая RACKSTATION AI, вы получаете надежный инструмент, способный удовлетворить потребности современных AI-разработок, обеспечивая баланс между производительностью, универсальностью и стоимостью.

  • Обучение и дообучение больших языковых моделей (LLM)

    Обучение и дообучение языковых моделей (GPT, LLaMA, Falcon) под специфические задачи, например, юридический анализ, медицина, техническая поддержка и интерактивные чат-боты.

    Обучение и дообучение больших языковых моделей (LLM)
  • Глубокий анализ данных и прогнозирование (Big Data & AI Analytics)

    Автоматизация бизнес-процессов, предсказательное моделирование, выявление аномалий в больших наборах данных.

    Глубокий анализ данных и прогнозирование (Big Data & AI Analytics)
  • Разработка и тестирование моделей компьютерного зрения (CV)

    Распознавание лиц, анализ видео, детекция аномалий на производствах, автономные транспортные системы.

    Разработка и тестирование моделей компьютерного зрения (CV)
  • Генерация и рендеринг 3D-графики и анимации

    Создание фотореалистичных 3D-моделей и анимаций в реальном времени, упрощение работы художников.

    Генерация и рендеринг 3D-графики и анимации

Рекомендации

Применение методов квантизации (например, до 4 бит) позволяет значительно снизить требования к VRAM, что расширяет возможности вашего сервера для запуска более крупных моделей.

Использование нескольких GPU для распределения модели позволяет эффективно использовать доступные ресурсы и запускать более крупные модели, чем это возможно на одном GPU.

LLaMA 7B LLaMA 13B LLaMA 70B
Требует около 13 ГБ VRAM. Может быть запущена на любом из указанных GPU без распределения нагрузки. Требует около 26 ГБ VRAM. Может быть запущена на GPU с 32 ГБ памяти (RTX 5090) или на двух GPU с 16 ГБ (RTX 5080) при использовании распределения нагрузки. Требует около 160 ГБ VRAM. Для запуска потребуется распределение модели на все четыре GPU с 48 ГБ памяти (RTX 6000 Ada), что в сумме даст 192 ГБ VRAM.
Размер модели уменьшается до примерно 3,9 ГБ, что позволяет запускать ее даже на GPU с меньшим объемом Размер модели уменьшается, что позволяет запускать ее на GPU с меньшим объемом памяти. Требования к VRAM снижаются, что может позволить запуск на нескольких GPU с меньшим объемом памяти.
LLaMA 7B
Без квантизации (FP16): Требует около 13 ГБ VRAM. Может быть запущена на любом из указанных GPU без распределения нагрузки. С квантизацией до 4 бит: Размер модели уменьшается до примерно 3,9 ГБ, что позволяет запускать ее даже на GPU с меньшим объемом
LLaMA 13B
Без квантизации (FP16): Требует около 26 ГБ VRAM. Может быть запущена на GPU с 32 ГБ памяти (RTX 5090) или на двух GPU с 16 ГБ (RTX 5080) при использовании распределения нагрузки. С квантизацией до 4 бит: Размер модели уменьшается, что позволяет запускать ее на GPU с меньшим объемом памяти.
LLaMA 70B
Без квантизации (FP16): Требует около 160 ГБ VRAM. Для запуска потребуется распределение модели на все четыре GPU с 48 ГБ памяти (RTX 6000 Ada), что в сумме даст 192 ГБ VRAM. С квантизацией до 4 бит: Требования к VRAM снижаются, что может позволить запуск на нескольких GPU с меньшим объемом памяти.