LM Studio выпустила утилиту LM Link для удалённого доступа к нейросетям

Разработчики популярной оболочки LM Studio представили новый полезный инструмент. Программа получила название LM Link. Она решает главную проблему энтузиастов искусственного интеллекта. Теперь пользователи могут легко запускать требовательные языковые модели на мощном домашнем сервере, а общаться с ними через слабый рабочий ноутбук в офисе.

Краткое содержание

• Разработчики выпустили инструмент LM Link для удалённой работы с нейросетями;
• Программа объединяет разные компьютеры пользователя в единую закрытую сеть;
• Утилита использует сквозное шифрование на базе протокола Tailscale;
• Пользователи могут запускать ИИ-модели удалённо без сложных настроек роутера.

Собственная ИИ-сеть

Обычно локальный запуск больших языковых моделей требует дорогой видеокарты с огромным объёмом видеопамяти. Владельцы слабых ноутбуков не могут полноценно работать с такими нейросетями локально. Инструмент LM Link элегантно обходит это ограничение. Программа создаёт приватную виртуальную сеть между всеми твоими устройствами.

Пользователь устанавливает LM Link на мощный домашний ПК или облачный сервер. Затем он открывает обычный интерфейс LM Studio на своём ноутбуке в любой точке мира. Программа видит удалённую машину и позволяет загружать модели прямо в её память. При этом всё общение с чат-ботом происходит так, словно нейросеть работает прямо на твоём текущем устройстве. Вся вычислительная нагрузка ложится исключительно на железо удалённого сервера.

Безопасность и простота

Создатели инструмента уделили огромное внимание безопасности данных. Они встроили в программу надёжные технологии от популярного сервиса Tailscale. Все устройства общаются друг с другом через ячеистую VPN-сеть со сквозным шифрованием. Трафик совершенно не попадает в открытый интернет. Никто посторонний не сможет перехватить переписки с чат-ботами или украсть рабочие документы.

Ещё один огромный плюс новинки заключается в простоте использования. Пользователю не нужно лезть в настройки домашнего роутера. Не придётся открывать порты или настраивать сложные правила сетевого экрана. Инструмент делает всё автоматически в фоновом режиме.

Постоянная работа с крупными языковыми моделями требует производительного сервера. Если планируешь развернуть дома или в офисе мощный вычислительный узел, обрати внимание на наши рабочие станции для ИИ. Наши инженеры собирают системы из топовых комплектующих. Такие станции легко справляются с круглосуточными нагрузками.

Будущее локальных нейросетей

Сейчас новая утилита проходит стадию предварительного тестирования. Однако программа уже отлично справляется со своими базовыми задачами и доступна для скачивания. Пользователи могут объединять свои устройства и легко мониторить загрузку удалённого железа прямо из главного меню.

Удалённый доступ к нейросетям требует надёжного домашнего сервера. Мы разработали платформу DigitalRazor OneStack специально для таких задач. Это готовый программно-аппаратный комплекс для работы с искусственным интеллектом. Вы получаете мощную вычислительную машину, где мы заранее настроили всё программное окружение.