LLM на своих данных для юрфирмы

Разберём, как подключить языковую модель к договорам, судебной практике и внутренним документам юридической компании. Объясним, когда достаточно поиска по базе знаний, а когда нужно дообучение, как проверить ответы и выбрать оборудование. Отдельно рассмотрим защиту данных клиентов и расчёт расходов на внедрение.

Зачем юридической компании собственная LLM на своих данных

LLM — большая языковая модель, которая обрабатывает текст и формирует ответы на запросы. Чтобы использовать её с документами компании, можно подключить поиск по внутренней базе знаний: система найдёт подходящие фрагменты и передаст их модели вместе с вопросом. Для такого подхода не требуется обучать нейросеть заново.

При внедрении LLM для юрфирмы важно определить, к каким материалам она получит доступ и как сотрудники будут проверять результат. Начать можно с одной задачи: например, поиска условий расторжения в договорах. Это позволит оценить качество ответов до подключения всего архива.

Данные клиентов и адвокатская тайна: что проверить перед использованием облачного ИИ

Загрузка документа в облачный сервис означает его передачу внешнему поставщику для обработки. Перед использованием такого решения проверьте сроки хранения и удаления данных, круг лиц с доступом к ним, использование субподрядчиков и допустимость передачи конкретных материалов.

Для адвокатов действует специальный режим защиты сведений. Согласно статье 8 закона № 63-ФЗ, он охватывает любые сведения, связанные с оказанием адвокатом юридической помощи доверителю. Поэтому проверять нужно не только наличие паспортных данных, но и содержание документов, переписки и самого запроса. Этот режим нельзя автоматически распространять на любую юридическую компанию: необходимо учитывать статус специалистов и характер работы.

Условия облачных продуктов различаются. Например, OpenAI заявляет, что данные ChatGPT Business, ChatGPT Enterprise и OpenAI API по умолчанию не используются для обучения моделей. Однако отказ от обучения на данных не означает отсутствие их передачи поставщику и сам по себе не подтверждает допустимость загрузки клиентского документа.

Если облачный сервис предполагает обработку персональных данных граждан России на территории иностранного государства, отдельно проверьте требования к локализации и трансграничной передаче. При сборе персональных данных часть 5 статьи 18 закона № 152-ФЗ по общему правилу запрещает использовать для их записи, систематизации, накопления, хранения, уточнения и извлечения базы данных, находящиеся за пределами России, кроме предусмотренных законом случаев. Последующая трансграничная передача регулируется статьёй 12.

При полностью локальной обработке модель, поиск и распознавание сканов работают внутри инфраструктуры компании, поэтому содержимое документов не требуется передавать внешнему провайдеру. Перед запуском проверьте внешние подключения, разграничьте доступ сотрудников и определите, где хранятся история запросов и резервные копии.

Какие задачи поручить локальной LLM

Ниже — примеры задач для пилотного проекта. Каждую из них нужно проверить на документах компании до использования в повседневной работе.

В ответах по документам полезно требовать указания файла, страницы или пункта. Это ускоряет проверку, но не гарантирует правильность вывода: RAG может снизить риск выдуманных сведений, однако ошибки поиска и интерпретации всё равно возможны. Перед отправкой документа клиенту или в суд юристу нужно проверить факты, цитаты и правовые основания.

RAG или дообучение: что выбрать для юридических задач

Работа со своими документами не всегда означает обучение модели. RAG подключает внешние источники к запросу, а дообучение меняет поведение модели на подготовленных примерах. Выбор зависит от задачи: нужны сведения из конкретных договоров или устойчивый формат обработки текста.

RAG: подключение договоров и судебной практики

RAG расшифровывается как Retrieval-Augmented Generation — генерация ответа с использованием найденных материалов. При запросе система ищет подходящие фрагменты в базе знаний и передаёт их языковой модели. Ответ можно дополнить ссылками на исходные документы.

Подробнее архитектуру такого решения — от подготовки базы знаний до выбора модели и оборудования — разбирали в материале о локальном RAG по внутренней документации.

Например, юрист спрашивает: «Какие условия расторжения предусмотрены в договоре с компанией А?» Система должна найти нужный договор и относящиеся к вопросу пункты, а затем сформировать ответ по этим фрагментам. Это пример сценария, который следует проверить на пилоте.

Чтобы подключить новую редакцию договора, обычно достаточно обновить документ в базе и заново проиндексировать его: дообучать языковую модель для этого не требуется. Поэтому RAG подходит для базы, которую регулярно пополняют договорами, судебными актами и внутренними регламентами.

При настройке поиска важно сохранять номер документа, дату, редакцию и связь основного текста с приложениями. Если система найдёт устаревшую версию или пропустит исключение из условия, ответ может оказаться неверным. Качество зависит не только от модели, но и от подготовки материалов и полноты поиска.

Fine-tuning и LoRA: изменение поведения модели

Fine-tuning, или дообучение, адаптирует готовую модель к определённой задаче. Для этого используют примеры желаемой обработки текста: входные данные, инструкцию и проверенный результат. Такой подход может улучшить соблюдение формата, использование терминологии и выполнение специализированных задач.

Например, можно обучить нейросеть на своих данных, чтобы она составляла перечень замечаний к договору в принятом формате: пункт, обнаруженная проблема, объяснение и предложенная редакция. Для этого нужны согласованные примеры работы юристов, а результат обучения необходимо проверить на отдельных документах.

LoRA — один из методов дообучения. Основные параметры модели остаются неизменными, а обучаются дополнительные матрицы с относительно небольшим числом параметров. Это сокращает объём обучаемых параметров и потребность в памяти по сравнению с полным дообучением. Конкретные требования зависят от модели и настроек обучения.

Дообученную модель не следует использовать как единственное хранилище действующих договоров и правовых норм. Для ответов по актуальным документам нужен доступ к источникам, а для изменения формата и поведения — обучение на примерах. Эти подходы можно сочетать.

С чего начать внедрение

Для первого пилота предлагаем такую последовательность:

1. Выбрать одну задачу и подготовить проверочные вопросы.
2. Проверить готовую модель с понятной инструкцией и примерами ответа.
3. Подключить поиск по документам, если для выполнения задачи нужны сведения из архива.
4. Рассматривать дообучение, если модель получает нужные материалы, но продолжает нарушать формат или правила обработки текста.

Перед обучением полезно разобрать ошибки по отдельности. Если нужный пункт не найден, исправлять нужно поиск. Если пункт найден, но результат оформлен неправильно, сначала стоит уточнить инструкцию, а затем проверить пользу обучения.

Как подготовить данные для LLM в юрфирме

В юридических документах важно сохранить не только основной текст, но и условия его применения: редакцию, дату, исключения, приложения и ссылки на другие материалы. При подготовке базы знаний юрфирмы предлагаем отдельно проверять эти связи. Для дообучения дополнительно нужны примеры с результатами, проверенными юристами.

Какие данные нужны: договоры, судебная практика, внутренние регламенты

Состав материалов определяется задачей пилота. Для поиска условий в договорах подготовьте договоры с приложениями и дополнительными соглашениями. Для анализа судебной практики — акты с реквизитами и сведениями о последующем пересмотре. Для ответов о внутренних процедурах — действующие регламенты и инструкции.

Перед загрузкой документов в систему:

• Проверьте качество распознавания сканов, особенно номера пунктов, суммы, даты и отрицания.
• Удалите случайные дубликаты, а разные редакции обозначьте отдельно.
• Сохраните название файла, источник, дату, статус и принадлежность к делу.
• Определите, каким сотрудникам разрешён доступ к каждому материалу.

Для обучения на примерах подготовьте пары «запрос — проверенный ответ». Такой формат поддерживают инструменты обучения языковых моделей. В запрос можно включить фрагмент документа и инструкцию, а в ответ — согласованный результат его обработки.

Например, для выявления договорных рисков нужен не только договор, но и объяснение: какое условие вызвало замечание, почему и какую редакцию предложил юрист. Перед тем как обучить нейросеть на своих данных, согласуйте правила разметки, чтобы одинаковые ситуации не получали противоречащие друг другу ответы.

Анонимизация персональных данных клиентов перед обучением

В российском законодательстве используется термин «обезличивание персональных данных». Если для выбранной задачи не нужны идентификаторы клиентов, сократите состав используемых данных и при необходимости обезличьте копии документов. Можно удалить имена, контакты, паспортные данные, банковские реквизиты и другие сведения, не влияющие на задачу.

Простая замена имени на «Клиент А» сама по себе не гарантирует обезличивание. Человека иногда можно определить по сочетанию номера дела, дат, сумм, обстоятельств спора и других оставшихся сведений. Если для восстановления связи используются отдельные таблицы соответствия, доступ к ним необходимо ограничить.

При работе с персональными данными учитывайте требования 152-ФЗ и действующие методы обезличивания. Для конкретного проекта нужно отдельно определить, какие сведения можно исключить без потери юридического смысла документа.

После замены данных юристу следует проверить смысл примера. Изменение даты, суммы или роли участника может повлиять на правовую оценку. Для задач, где такие детали существенны, можно подготовить искусственный пример и заново проверить правильность ответа.

Проверка качества на реальных юридических кейсах

Отложите отдельный набор кейсов для итоговой проверки. Не используйте их ответы при обучении и настройке системы. Разделяйте материалы по делам или группам связанных документов, чтобы почти одинаковые примеры не оказались одновременно в обучающем и проверочном наборах.

Для каждого кейса заранее зафиксируйте вопрос, необходимые источники и критерии правильного ответа. При подключённом поиске оценивайте отдельно, нашла ли система нужные материалы и верно ли использовала их в ответе. Такое разделение помогает отличить ошибку поиска от ошибки генерации.

В проверочный набор включите:

• Документ с приложением, которое меняет условие основного текста;
• Несколько редакций одного договора;
• Вопрос, на который в доступных материалах нет ответа;
• Запрос к документу, к которому у сотрудника нет доступа;
• Кейс, где нужно учитывать исключение или противоречие между источниками.

Помимо правильности ответа, измерьте время его проверки и исправления юристом. Сравните выполнение одинаковых задач с помощником и без него. Это даст основу для оценки практической пользы системы и дальнейшего расчёта расходов.

Юридические и комплаенс-риски при использовании локального ИИ

Локальный запуск модели не отменяет требований к обработке персональных данных. Закон № 152-ФЗ регулирует цели, основания и безопасность обработки, а размещение сервера в офисе само по себе не подтверждает соблюдение этих требований.

152-ФЗ и хранение персональных данных клиентов

До подключения документов определите цель обработки и её правовое основание. Статья 6 закона № 152-ФЗ предусматривает несколько оснований. Среди них — согласие субъекта, а также обработка, необходимая для исполнения договора, стороной, выгодоприобретателем или поручителем по которому является субъект персональных данных, либо для заключения по его инициативе договора или договора, в котором он будет выгодоприобретателем или поручителем. Подходящее основание нужно установить для конкретного сценария: использование материалов при ведении дела и обучение универсального помощника следует оценивать отдельно.

Отдельно проверьте категорию данных. Материалы дела могут содержать сведения о здоровье, религиозных или политических взглядах и другие специальные категории персональных данных, для которых статья 10 закона № 152-ФЗ устанавливает дополнительные условия обработки.

Статья 5 требует соответствия состава данных заявленным целям и ограничивает срок их хранения. Поэтому заранее определите, какие документы нужны системе, сколько времени они будут храниться и когда должны быть удалены или обезличены.

Защита должна охватывать весь путь документа: загрузку, распознавание, поиск, формирование ответа и сохранение результата. Статья 19 предусматривает организационные и технические меры, правила доступа, регистрацию действий с персональными данными и контроль защиты. Конкретный набор мер определяется применимыми требованиями к системе.

Для проекта предлагаем закрепить следующие правила:

• Сотрудник получает ответы только по документам, к которым ему разрешён доступ;
• Подрядчики и администраторы получают лишь необходимые для работы права;
• История запросов, выгрузки и резервные копии учитываются при настройке доступа и сроков хранения;
• Внешние сервисы распознавания, облачные API и удалённую поддержку нужно отдельно проверить до подключения к системе;
• Назначены ответственные за обновление базы, управление доступом и реагирование на инциденты.

Для материалов, связанных с оказанием адвокатом юридической помощи, дополнительно действует режим адвокатской тайны. Поэтому удаление персональных идентификаторов само по себе не подтверждает допустимость использования документа.

Кто несёт ответственность за ошибку нейросети

Ответственность перед клиентом определяется обязательствами исполнителя, условиями договора и применимыми нормами закона. Статья 401 ГК РФ устанавливает основания ответственности за ненадлежащее исполнение обязательств. Из этих правил не следует автоматическое освобождение исполнителя только потому, что ошибочный текст подготовила нейросеть.

Для адвоката также сохраняется обязанность квалифицированно и добросовестно исполнять поручение. Нарушение профессиональных обязанностей при условиях, установленных Кодексом профессиональной этики, может повлечь дисциплинарную ответственность. При этом ошибка ИИ сама по себе ещё не определяет состав нарушения и его последствия.

Внутри компании закрепите, кто проверяет подготовленный текст и разрешает его отправку. Перед использованием результата проверяйте факты, расчёты, действующую редакцию норм и содержание судебных актов. Указанная моделью ссылка должна вести к документу, который действительно подтверждает вывод.

На первом этапе отправлять документы клиентам и подавать процессуальные документы должен специалист после проверки результата ИИ. Нейросеть готовит черновик, а решение о его использовании принимает уполномоченный сотрудник.

Какое железо нужно юрфирме для локальной LLM

Оборудование выбирают под конкретную модель и режим работы. Перед покупкой определите задачи, длину документов, число одновременно выполняемых запросов и необходимость обучения. При выборе объёма видеопамяти нужно учитывать не только веса модели, но и память, необходимую при обработке запросов.

Видеопамять: сколько занимает модель

Для предварительной оценки объёма весов можно использовать формулу:

Объём весов в байтах = число параметров × число бит на параметр ÷ 8.

Например, для модели ровно с 14 млрд параметров при хранении каждого параметра в четырёх битах расчёт будет таким:

14 млрд × 4 ÷ 8 = 7 млрд байт, или 7 ГБ.

Это расчёт только для весов при указанной разрядности. ГБ здесь означает миллиард байт. Реальный объём зависит от формата квантования: нужны служебные данные, а часть параметров может храниться с другой точностью. Поэтому таблица не определяет минимальную видеопамять для запуска.

Дополнительно нужна память для промежуточных вычислений и KV-кэша — сохранённых ключей и значений механизма внимания для уже обработанных токенов. Его размер связан с архитектурой модели, длиной обрабатываемого контекста и числом одновременно выполняемых запросов. В vLLM доступная память для этого кэша учитывается при определении допустимой нагрузки.

Как выбирать видеокарту

У GeForce RTX 5090 — 32 ГБ видеопамяти GDDR7. У NVIDIA RTX PRO 6000 Blackwell Workstation Edition — 96 ГБ GDDR7 с ECC. Это примеры оборудования с разным объёмом памяти. Сам по себе этот показатель не определяет качество юридических ответов или скорость работы приложения.

Если нужно подобрать видеокарту уже под конкретную модель и объём её весов, подробнее этот вопрос разобран в нашем гайде по выбору видеокарты для локального ИИ.

До покупки проверьте выбранную модель на предполагаемой конфигурации. Зафиксируйте:

• Точную версию модели и формат квантования.
• Максимальную длину запроса с найденными фрагментами документов.
• Число одновременно выполняемых запросов.
• Время до начала ответа и время формирования полного результата.
• Пиковое использование памяти.

Если планируется GPU-сервер с несколькими видеокартами, отдельно проверьте поддержку распределённого запуска в выбранном ПО. В техническом задании на поставку укажите результаты нагрузочной проверки, которых должна достичь система.

На этом этапе стоит определить и формат системы: одному или нескольким юристам может быть достаточно рабочей станции, а для общего доступа и постоянной нагрузки удобнее серверная конфигурация. Разницу подробнее разбирали в материале «Рабочая станция или GPU-сервер: что выбрать для ИИ».

[ PERFORMANCE PRO TOWER ]

350D Tower

i9-14900K · RTX 5090 32ГБ · 64GB DDR5 RGB · 1 ТБ

1 493 500 ₽

112 013 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

750D Tower

7965WX · RTX 5090 32ГБ · 256GB DDR5 ECC · 1 ТБ NVME 5.0

4 055 500 ₽

304 163 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

900D Tower

2 x EPYC 9534 · RTX PRO 5000 48GB · 512GB DDR5 ECC · 2 ТБ

6 788 500 ₽

509 138 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.

Подробнее

Процессор, оперативная память и накопители

При подборе процессора и оперативной памяти учитывайте весь состав приложения: распознавание сканов, обработку документов, поисковую базу и вспомогательные модели. Проверьте, какие операции выполняются одновременно и какие из них используют видеокарту.

Ёмкость накопителей рассчитайте по составу проекта: исходные документы, распознанный текст, поисковые индексы, файлы моделей, журналы и резервные копии. Если планируется обучение, добавьте место для обучающих наборов и промежуточных сохранений модели.

В требования к системе включите восстановление после сбоя и допустимое время простоя. Резервное копирование следует проверить практическим восстановлением документов, настроек и поисковой базы.

Для обучения нужен отдельный расчёт

Конфигурация, на которой модель отвечает на вопросы, может не вместить её обучение. Помимо весов, обучение требует памяти для градиентов, состояния оптимизатора и промежуточных результатов вычислений. Расход зависит в том числе от длины примеров и размера обучающего пакета.

LoRA и QLoRA сокращают требования по сравнению с полным обучением всех параметров, но не устраняют дополнительные расходы памяти. Проверяйте конфигурацию на выбранной модели с реальными примерами и настройками обучения.

Сколько это стоит и как быстро окупается

Бюджет проекта складывается из оборудования, подготовки документов, настройки приложения и дальнейшего обслуживания. Стоимость оборудования считайте отдельно от внедрения: рабочая станция — только часть системы поиска и проверки юридических документов.

При сравнении локальной инфраструктуры с облачной учитывайте не только цену оборудования, но и эксплуатационные расходы за весь срок использования. Подробную методику расчёта мы приводили в материале о совокупной стоимости владения сервером и облаком.

Стоимость оборудования и внедрения

Как иллюстрацию разных бюджетов можно использовать конфигурации из каталога DigitalRazor. На 4 октября 2026 года на странице решений для локальных LLM указаны следующие стартовые цены.

Это ценовые ориентиры для конкретных ПК, а не минимальный бюджет внедрения и не подтверждение их пригодности для любой юридической задачи. Актуальную стоимость выбранного состава оборудования уточняйте перед закупкой в каталоге решений для локальных LLM.

В смете отдельно предусмотрите:

• Подготовку документов: распознавание, очистку, разметку и проверку специалистами.
• Настройку поиска, интерфейса и подключения к внутренним системам.
• Управление доступом, резервное копирование и проверку защиты.
• Обучение модели, если его необходимость подтвердил пилот.
• Обслуживание: обновления, поддержку, электроэнергию и повторную проверку качества.

Состав и стоимость этих работ запросите у исполнителя после определения задач и проверки документов. В предложении должны быть указаны результаты работ и критерии приёмки.

Как рассчитать окупаемость

Начните с измерения времени на одинаковые задачи с помощником и без него. В результат включайте подготовку запроса, ожидание, проверку ответа и исправления.

Для иллюстрации: если обработка одного документа без помощника занимает 20 минут, а с помощником и проверкой — восемь минут, экономия составляет 12 минут. При 150 таких документах в месяц высвобождается 30 часов рабочего времени: 150 × 12 ÷ 60 = 30.

Это условный пример расчёта, а не результат испытаний или обещание производительности. Для своей юридической компании подставьте показатели пилота.

Высвобождённые часы отдельно переведите в финансовый результат: подтверждённое сокращение расходов или дополнительную маржу от выполненной работы. Если расходы не уменьшились и дополнительной работы не появилось, полученный результат следует учитывать как освобождённое время.

Например, при условных вложениях 1 200 000 рублей и чистом эффекте 60 000 рублей в месяц расчёт даст 20 месяцев: 1 200 000 ÷ 60 000. Такая оценка предполагает постоянный эффект и не учитывает стоимость финансирования.

Перед расширением проекта сопоставьте фактическую нагрузку, качество ответов и расходы на поддержку. Если проверка и исправления занимают столько же времени, сколько прежняя работа, сначала пересмотрите задачу и настройки системы.

Часто задаваемые вопросы

Заключение

Начните внедрение LLM для юрфирмы с одной задачи: поиска условий в договорах, сравнения редакций или подготовки черновиков. Определите доступные источники, настройте права сотрудников и проверьте результат на отдельных кейсах. Учитывайте не только правильность ответов, но и время, которое юрист тратит на их проверку.

Для работы с архивом сначала оцените поиск по документам. Обучение рассматривайте после разбора ошибок: когда нужные сведения уже доступны модели, но она не соблюдает формат или правила обработки текста. Оборудование выбирайте по результатам проверки выбранной модели под предполагаемой нагрузкой.

Подходящие рабочие станции и серверы можно посмотреть в каталоге DigitalRazor. Чтобы обсудить конфигурацию, напишите нашим специалистам. Укажите модель, длину обрабатываемых документов, число одновременных запросов и необходимость обучения — эти сведения помогут сформировать требования к оборудованию и сравнить варианты по стоимости.