Top.Mail.Ru

По техническим причинам заявки через сайт временно недоступны. Оставить заявку можно по телефону или через наши социальные сети.

8 800 500-99-26 Для звонков по России
Клонирование голоса нейросетью (RVC) на своём компьютере
База знаний
19 мин

Клонирование голоса нейросетью (RVC) на своём компьютере

DigitalRazor
DigitalRazor
Подписаться в Telegram
Содержание 13 разделов
Что такое RVC и чем он отличается от синтеза речи Для чего RVC используют законно Согласие, закон и этика: что нужно знать до начала Какое железо нужно для RVC Установка RVC по шагам Подготовка датасета: что записать и как очистить Обучение голосовой модели Преобразование голоса: настройки тона и качества Работа в реальном времени Частые проблемы и как их решить Когда нужна рабочая станция или сервер Часто задаваемые вопросы (FAQ) Заключение
Получите готовый ПК под свои задачи

Подберём ПК под ваши задачи, соберём, протестируем и доставим готовым к работе.

Подобрать ПК за 1 минуту Собрать свой ПК
или свяжитесь с нами
Telegram Telegram WhatsApp WhatsApp ВКонтакте ВКонтакте MAX MAX

Подберём игровой ПК за 2 шага

Ответьте на несколько вопросов — покажем готовые сборки

RVC позволяет преобразовать тембр голоса в аудиозаписи с помощью обученной модели. Обучение и обработку можно выполнять на своём компьютере. Разберём, какое железо понадобится, как установить программу, подготовить записи и настроить преобразование. Отдельно объясним правила использования чужого голоса.

Что такое RVC и чем он отличается от синтеза речи

RVC расшифровывается как Retrieval-based Voice Conversion — преобразование голоса с использованием поиска похожих признаков. Система меняет звучание говорящего, сохраняя речевое содержание исходной записи. Для этого используют голосовую модель, обученную на записях выбранного голоса.

Слово retrieval обозначает поиск: при обработке система обращается к признакам из обучающих записей. Этот механизм помогает уменьшить присутствие исходного тембра в результате. Речь идёт о поиске внутри подготовленных данных, а не о поиске аудио в интернете.

Конвертация голоса и синтез речи: в чём разница

Синтез речи, или TTS — Text-to-Speech, превращает написанный текст в звучащую речь. На вход подают фразу, на выходе получают аудио.

При конвертации входные данные другие: нужна уже произнесённая фраза. RVC преобразует её голосовое звучание. Например, для проверки модели собственного голоса можно записать новую реплику и обработать её этой моделью. Само преобразование не придумывает новый текст и не переводит сказанное на другой язык.

Если задача — озвучивать написанные тексты, одного RVC недостаточно. Сначала понадобится записать речь или создать её отдельным TTS-инструментом, затем преобразовать полученное аудио. Поэтому клонирование голоса нейросетью в этом руководстве означает работу с тембром, а не самостоятельное чтение текста программой.

Для чего RVC используют законно

Для первых экспериментов лучше использовать собственный голос: так проще проверить обучение и качество преобразования без вопросов о правах на записи. Если используешь голос актёра или другого человека, заранее получи разрешение на обучение модели и оговори условия её применения. RVC подходит для нескольких законных сценариев.

Озвучка собственных материалов

Можно построить процесс озвучки роликов и учебных материалов в два этапа. Сначала отдельный синтезатор речи создаёт аудио из текста, затем голосовая модель преобразует его звучание. Для обучения используют собственные записи. Такой подход нужно проверить на коротком фрагменте, прежде чем обрабатывать весь материал: сочетание двух инструментов само по себе не гарантирует нужного качества.

Дубляж с согласия актёра

В проекте с актёром можно использовать модель его голоса для преобразования предварительно записанных реплик. До начала работы согласуй, какие записи разрешено использовать для обучения, где будут звучать результаты и кому можно передавать модель.

При дубляже сначала готовят текст на нужном языке и записывают реплики. Затем преобразуют голос. Перевод и подготовка реплик остаются отдельными задачами: конвертация сохраняет речевое содержание входного аудио.

Прототипы игр и приложений

Для прототипа можно обработать тестовые реплики моделью собственного голоса и проверить, как они звучат в сцене, диалоге или интерфейсе. Это пример применения преобразования голоса, а не обещание заменить финальную актёрскую запись. Прослушивай результат в самом проекте и отдельно отмечай места, которые требуют новой записи.

Перед публикацией проверь разрешения на все используемые материалы: обучающие записи, входное аудио и готовую модель. Для проекта с чужим голосом отдельно зафиксируй условия его использования — к этому перейдём в следующем разделе.

Согласие, закон и этика: что нужно знать до начала

Перед подготовкой записей согласуй, для чего будет создана модель и как планируется использовать результат. Разрешение записать актёра для одного ролика не стоит автоматически распространять на обучение модели и другие будущие проекты. Статья 1317 ГК РФ отдельно связывает использование записи исполнения с целями, для которых исполнитель дал согласие при записи.

Зачем нужно согласие владельца голоса

Если работаешь с голосом другого человека, заранее письменно зафиксируй условия использования записей и обученной модели. Это поможет избежать разного понимания того, для каких проектов разрешено применять исходные материалы и результаты обработки.

В соглашении стоит указать:

  • Какие записи разрешено использовать для обучения;

  • Для каких материалов можно создавать новые реплики, включая коммерческую озвучку;

  • Кто получит доступ к модели и допускается ли её передача другим людям;

  • Срок использования, порядок прекращения работы и удаления файлов.

Разрешение использовать исполнение и согласие на обработку персональных данных решают разные задачи. Если обработка персональных данных основана на согласии, статья 9 закона № 152-ФЗ требует оформлять его отдельно от других подписываемых документов. Оно должно быть конкретным, предметным, информированным, сознательным и однозначным.

Что говорит российское законодательство об охране голоса

Правовые условия зависят от содержания записей, способа обработки и использования результата. Для проекта нужно проверить несколько вопросов.

Голосовая запись может относиться к персональным данным, если связана с определённым или определяемым человеком. Такое понимание следует из определения в статье 3 закона № 152-ФЗ. Когда закон применяется к обработке, необходимо основание, предусмотренное его статьёй 6: согласие — одно из таких оснований.

Не любая запись голоса автоматически относится к биометрическим персональным данным. Статья 11 № 152-ФЗ связывает этот режим с физиологическими или биологическими характеристиками, которые оператор использует для установления личности человека. Для такой обработки по общему правилу требуется письменное согласие. Исключения перечислены в законе. Сам факт обучения голосовой модели ещё не доказывает, что запись используют для идентификации.

Если для обучения берут запись актёрского или музыкального исполнения, учитывают исключительное право на исполнение по статье 1317 ГК РФ. Воспроизведение записи, включая сохранение в памяти компьютера, относится к способам её использования. Поэтому доступность файла в интернете сама по себе не подтверждает право использовать его в проекте.

Для обработки физическим лицом исключительно для личных и семейных нужд закон № 152-ФЗ предусматривает исключение, если при этом не нарушаются права других людей. Это не универсальное разрешение на любые действия с чужими записями.

При публикации обозначай, что голос преобразован нейросетью. Не представляй созданные реплики как подлинные высказывания человека и не используй дипфейк голоса для введения слушателей в заблуждение. Эти правила редакционной этики дополняют согласованные условия проекта.

Какое железо нужно для RVC

Выбор компьютера зависит от задачи: преобразовывать записи готовой моделью или обучать собственную. Для обучения нужно отдельно подобрать размер пакета данных — batch size. Его увеличение повышает расход памяти видеокарты, поэтому одна конфигурация не подходит для любых настроек.

Для других локальных нейросетей требования к видеокарте могут отличаться значительно сильнее. Если компьютер планируется использовать не только для RVC, перед выбором оборудования полезно отдельно разобраться, какая видеокарта нужна для локального ИИ.

Видеопамять и оперативная память для обучения и для преобразования

При обучении размер пакета определяет, сколько фрагментов программа обрабатывает за один шаг. Если возникает ошибка нехватки видеопамяти, разработчики рекомендуют уменьшить этот параметр. Начни с небольшого значения и проверь, проходит ли обучение без ошибок, прежде чем увеличивать нагрузку.

Для преобразования готовой моделью важны настройки обработки аудио. В коде проекта предусмотрен отдельный режим для видеокарт с объёмом памяти около 4 ГБ: программа уменьшает размеры обрабатываемых фрагментов. Это не гарантия работы любой карты с таким объёмом — учитываются также её архитектура и доступность CUDA.

Оперативная память нужна отдельно от видеопамяти. В FAQ проекта нехватку системной памяти связывают, в частности, с большим числом процессов при подготовке записей. Для устранения такой ошибки предлагают уменьшить число потоков обработки и предварительно разделить длинные записи на короткие.

В актуальной инструкции установки нет универсального требования к объёму ОЗУ для всех задач. Поэтому перед покупкой комплектующих проверь существующий ПК на небольшом наборе записей: подготовь данные, запусти короткое обучение и обработай тестовую реплику. Такая проверка поможет понять, на каком этапе возникает ограничение.

Видеокарты NVIDIA, AMD и Intel: что работает

В актуальной инструкции проекта предусмотрены разные наборы зависимостей для NVIDIA и систем с AMD, Intel либо обработкой на процессоре. Выбирать их нужно по оборудованию и операционной системе.

Эти варианты перечислены в документации основной ветки проекта. Их нельзя автоматически переносить на сторонние сборки и другие версии программы.

Оборудование Путь запуска по инструкции проекта Что проверить
NVIDIA RTX 50 PyTorch с CUDA 12.8 и соответствующие зависимости Доступность CUDA после установки
Более ранние NVIDIA PyTorch с CUDA 11.8 и соответствующие зависимости Поддержку конкретной архитектуры карты
AMD или Intel в Windows Набор зависимостей для процессора; возможен DirectML Работу выбранного режима в установленной версии
AMD или Intel в Linux В основной инструкции указан запуск на процессоре Возможность выполнить нужную задачу этим способом

Для NVIDIA недостаточно установить произвольную версию PyTorch: инструкция разделяет зависимости для RTX 50 и более ранних серий. После установки нужно проверить, видит ли PyTorch CUDA. Команду для этой проверки приведём в следующем разделе.

Для AMD и Intel не считай наличие DirectML подтверждением работы всех этапов обучения. Документация указывает альтернативный путь запуска, но совместимость подготовки данных, обучения и преобразования нужно проверять отдельно в выбранной версии.

[ PERFORMANCE PRO TOWER ]
350D Tower
i9-14900K · RTX 5090 32ГБ · 64GB DDR5 RGB · 1 ТБ
1 487 500 ₽
111 563 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
750D Tower
7965WX · RTX 5090 32ГБ · 256GB DDR5 ECC · 1 ТБ NVME 5.0
4 046 000 ₽
303 450 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее
900D Tower
2 x EPYC 9534 · RTX PRO 5000 48GB · 512GB DDR5 ECC · 2 ТБ
7 416 000 ₽
556 200 ₽ / мес Примерный ежемесячный платёж. Итоговая сумма рассчитывается индивидуально.
Подробнее

Установка RVC по шагам

Ниже показана установка основной ветки RVC на Windows с видеокартой NVIDIA. На момент подготовки статьи проект использует Python 3.12 x64 и отдельные наборы зависимостей для разных поколений NVIDIA. Перед установкой стоит сверить команды с актуальным README проекта: версии Python, PyTorch и файлов зависимостей со временем могут измениться.

Шаг 1. Подготовь Python и папку проекта

Установи Python 3.12 x64 с официального сайта. Затем скачай основную ветку репозитория проекта через Code → Download ZIP.

Распакуй содержимое в папку C:\RVC. Проверь, что файл webui.py лежит непосредственно в ней, а не во вложенной папке.

Шаг 2. Создай отдельное окружение

Открой командную строку Windows — cmd. Все следующие команды выполняй в одном окне:

cd /d C:\RVC
py -3.12 -m venv .venv
.venv\Scripts\activate.bat
python -m pip install --upgrade pip setuptools wheel

Виртуальное окружение хранит библиотеки проекта отдельно от других установленных Python-программ. После активации команды установки будут работать внутри него.

Шаг 3. Установи библиотеки под свою видеокарту

Выполни только один вариант.

Для NVIDIA RTX 50:

python -m pip install torch==2.7.1+cu128 torchaudio==2.7.1+cu128 --index-url https://download.pytorch.org/whl/cu128 --extra-index-urlhttps://pypi.org/simple
python -m pip install -r requirments_cu128_py312.txt

Для более ранних поддерживаемых NVIDIA:

python -m pip install torch==2.7.1+cu118 torchaudio==2.7.1+cu118 --index-url https://download.pytorch.org/whl/cu118 --extra-index-urlhttps://pypi.org/simple
python -m pip install -r requirments_cu118_py312.txt

Установка разделена на два этапа: сначала PyTorch и Torchaudio, затем остальные зависимости. Названия файлов requirments_… приведены так, как они записаны в репозитории. Сохраняй указанные версии библиотек.

Шаг 4. Проверь доступность CUDA

Выполни:

python -c "import torch; print('torch:', torch.__version__); print('cuda:', torch.version.cuda); print('cuda available:', torch.cuda.is_available())"

Для выбранного запуска на NVIDIA последняя строка должна показывать cuda available: True. Если получено False, сначала проверь драйвер и соответствие установленного пакета PyTorch выбранному варианту.

Шаг 5. Загрузи служебные модели и FFmpeg

Установи или обнови утилиту Hugging Face:

python -m pip install --upgrade huggingface_hub
hf --help

Команда hf --help должна вывести справку. Затем загрузи файлы из репозитория моделей, указанного разработчиками:

hf download lj1995/VoiceConversionWebUI --revision main --include "hubert_base/*" --local-dir assets
hf download lj1995/VoiceConversionWebUI rmvpe.pt --revision main --local-dir assets/rmvpe
hf download lj1995/VoiceConversionWebUI --revision main --include "pretrained/*" "pretrained_v2/*" --local-dir assets
hf download lj1995/VoiceConversionWebUI mute.zip --revision main --local-dir .model-downloads
python -m zipfile -e .model-downloads\mute.zip logs
hf download lj1995/VoiceConversionWebUI ffmpeg.exe ffprobe.exe --local-dir.

Эти команды загружают компоненты для извлечения признаков и высоты тона, начальные веса для обучения, служебные образцы тишины и инструменты обработки аудио. Они ещё не создают модель собственного голоса.

Шаг 6. Запусти интерфейс

В том же окне выполни:

python -m pip check
python webui.py

Если первая команда сообщает о несовместимых зависимостях, устрани конфликт перед запуском. После запуска открой адрес, указанный в консоли. По умолчанию используется порт 7865. Если он занят, программа может выбрать следующий свободный. Текущий WebUI слушает все сетевые интерфейсы, поэтому не открывай этот порт во внешнюю или недоверенную сеть. Окно командной строки оставь открытым.

Готовые голосовые модели с расширением .pth размещают в assets/weights/, а файлы поиска .index — в assets/indices/. Если собственной модели пока нет, следующим этапом станет подготовка записей для обучения.

RVC

Подготовка датасета: что записать и как очистить

Датасет — набор записей для обучения голосовой модели. В FAQ проекта разработчики рекомендуют ориентироваться на 10–50 минут качественного аудио с низким уровнем фонового шума и однородным тембром. Это ориентир, а не гарантия результата: короткую чистую запись и длинную запись с шумом нельзя считать равноценными исходными данными.

Что записать для речевой модели

Для первого эксперимента подготовь речь одного человека без музыки, чужих реплик и звуковых эффектов. Практический вариант — прочитать несколько разных текстов, добавить вопросы, короткие ответы и длинные предложения. Говори естественно, без намеренного подражания другому голосу.

Перед основной записью сделай короткую пробу. Проверь уровень микрофона и прослушай результат в наушниках. Если громкие слоги вызывают перегрузку — на звуковой волне появляются срезанные вершины, — уменьши уровень записи и повтори проверку. В руководстве Audacity рекомендуют оставлять запас и ориентироваться на максимальные пики около −6 дБ.

Для этой инструкции используй одинаковые условия записи: один микрофон, одно помещение и примерно одинаковое расстояние до микрофона. Исходные файлы сохрани отдельно, чтобы можно было вернуться к ним после обработки.

Как очистить записи

Прослушай материал и удали посторонние реплики, случайные звуки, испорченные дубли и длинные пустые участки. Не обрезай начала и окончания слов. Фрагменты с выраженным эхом или перегрузкой лучше перезаписать.

Шумоподавление применяй только там, где оно необходимо. В Audacity эффект Noise Reduction рассчитан прежде всего на постоянный фон: шипение, гул или шум вентилятора. Для отдельных щелчков и непостоянного шума он не подходит. Слишком сильная обработка может повредить звучание речи.

Порядок обработки в Audacity:

  1. Выдели участок, где слышен только фоновый шум.
  2. Открой Noise Reduction и получи профиль шума через Get Noise Profile.
  3. Выдели запись, снова открой эффект и прослушай предварительный результат.
  4. Подбери минимальную обработку, которая уменьшает фон без заметного ухудшения голоса.

Если после очистки появились металлические призвуки или пропали части слов, ослабь настройки и сравни результат с исходником. Не стремись к полной тишине любой ценой.

Как сохранить файлы для обучения

Очищенные записи удобно экспортировать в WAV с кодированием Signed 16-bit PCM. Это несжатый формат без потерь. Он не является единственным допустимым: программа читает аудио через FFmpeg и выполняет собственную предварительную обработку.

Сложи подготовленные файлы непосредственно в одну папку, например C:\RVC\data\my_voice, без вложенных каталогов. Используй простые названия: voice_01.wav, voice_02.wav. В документации подготовки данных указано, что файлы из подпапок не загружаются.

Вручную нарезать весь датасет на фрагменты строго одинаковой длины не требуется: предварительная обработка разделяет аудио на части. Перед обучением ещё раз проверь итоговую папку — в ней должны остаться только подготовленные записи выбранного голоса.

Обучение голосовой модели

Обучение проходит в несколько этапов: подготовка аудио, извлечение признаков, обучение модели и создание поискового индекса. Для первого эксперимента выполняй их последовательно: так проще определить, на каком шаге возникла ошибка.

Настрой эксперимент

Открой вкладку обучения и задай название, например my_voice_v2. Для пробного запуска можно использовать следующую конфигурацию. Это пример настроек, а не единственный допустимый вариант.

Параметр Значение для первого эксперимента
Версия модели v2
Частота дискретизации модели 40 кГц
Учёт высоты тона — pitch Включён
Папка с записями C:\RVC\data\my_voice

Проект поддерживает модели с разными частотами дискретизации и с учётом высоты тона либо без него. Проверь, что начальные веса соответствуют выбранной версии, частоте и режиму pitch. В описанном варианте обучение начинается с подготовленных весов.

Подготовь данные и извлеки признаки

Запусти предварительную обработку указанной папки. Дождись её завершения и проверь сообщения в интерфейсе и консоли.

Затем выполни извлечение признаков и высоты тона. Для описанного запуска на NVIDIA выбери RMVPE: в текущем коде интерфейса этот алгоритм установлен по умолчанию для обучения при наличии поддерживаемой видеокарты.

На этом этапе программа подготавливает данные, которыми будет пользоваться обучение. Если обработка завершилась ошибкой, сначала устрани её. Запуск следующего этапа не исправит отсутствующие файлы.

Запусти обучение и сохрани результаты

Укажи видеокарту и начни с небольшого размера пакета. При ошибке нехватки памяти уменьши его. Больший пакет требует больше памяти, поэтому увеличивать значение нужно после проверки стабильности.

Включи сохранение промежуточных моделей для преобразования, а не только служебных контрольных точек. Например, сохраняй результат каждые 10 эпох, чтобы позже сравнить несколько вариантов. Код обучения предусматривает сохранение таких моделей во время работы и после её завершения.

После обучения создай поисковый индекс. Он нужен для поиска похожих признаков из обучающих записей при преобразовании голоса. Для работы сохрани модель .pth в assets/weights/, а соответствующий ей индекс .index — в assets/indices/. Не подменяй готовую модель служебными файлами G_…pth и D_…pth из папки эксперимента.

Сколько эпох и как не переобучить модель

Эпоха — один проход по обучающему набору. В FAQ проекта для качественных записей допускается обучение до 200 эпох, но это не универсальное оптимальное значение. Разработчики также предупреждают: увеличение числа эпох не исправляет плохое качество исходного аудио.

Переобучение означает, что модель хорошо подстраивается под обучающие данные, но хуже работает с новыми. Поэтому оценивать результат только на знакомых ей записях недостаточно.

Подготовь отдельные тестовые реплики, которые не входили в обучение. Обработай их несколькими сохранёнными моделями при одинаковых настройках. Сравни разборчивость слов, сходство тембра и наличие артефактов.

Если более поздняя модель звучит хуже, сохрани ранний вариант и проверь исходные записи и настройки преобразования. Ухудшение одного фрагмента само по себе не доказывает переобучение. Цель проверки — выбрать модель, которая лучше справляется с нужными репликами, а не получить максимальное число эпох.

Преобразование голоса: настройки тона и качества

Для первого теста возьми короткую запись с обычной речью, паузами и несколькими интонациями. Открой вкладку преобразования, выбери обученную модель .pth и проверь, что к ней подключён соответствующий .index. Загрузи запись и запусти обработку. Если модель не появилась в списке, обнови его кнопкой в интерфейсе.

Начни со стандартных настроек одиночного преобразования в RVC:

Параметр Начальное значение Что регулирует
Pitch / Transpose 0 Сдвиг высоты голоса в полутонах
Метод определения высоты тона RMVPE Извлечение высоты тона из исходной записи
Index rate 0,75 Долю признаков, взятых из поискового индекса
Protect 0,33 Защиту глухих согласных и дыхания от артефактов

Это значения текущего интерфейса, а не универсальный рецепт для любой модели и записи.

Pitch меняет высоту голоса: +12 поднимает её на октаву, −12 опускает. Сначала послушай результат при нуле. Если голос звучит слишком низко или высоко, меняй значение небольшими шагами и сравнивай одну и ту же фразу. Не стоит выбирать сдвиг только по полу человека: подходящее значение зависит от конкретных голосов.

Index rate определяет, насколько сильно при преобразовании используются признаки, найденные в поисковом индексе обучающего набора. Значение 0,75 не означает «75% сходства» с целевым голосом. При 0 поиск по индексу не используется.

Если в результате слишком заметен исходный тембр, попробуй увеличить Index rate. Однако максимум не всегда даёт лучший звук: по рекомендациям разработчиков, при низком качестве обучающих записей сильное влияние индекса может ухудшить результат. Для сравнения обработай один фрагмент при значениях 0 и 0,75, затем подбери промежуточное.

У Protect обратная шкала: 0,5 отключает защиту, а меньшие значения усиливают её. Если согласные и дыхание звучат металлически, попробуй немного снизить параметр. Усиление защиты может ослабить влияние индекса на этих участках.

Дополнительное изменение частоты дискретизации для первого теста оставь выключенным — значение 0. Повышение частоты после обработки само по себе не восстановит потерянные детали записи.

Меняй по одному параметру и сравнивай результаты при одинаковой громкости. Проверяй разборчивость слов, естественность интонации, окончания фраз и паузы. Когда найдёшь подходящие значения, запиши их: в режиме пакетной обработки некоторые начальные настройки отличаются, поэтому перед обработкой целой папки их нужно проверить заново.

RVC

Работа в реальном времени

Для преобразования речи с микрофона у RVC есть отдельный интерфейс. В нашей установке его нужно запускать из папки проекта с активированным виртуальным окружением:

cd /d C:\RVC
.venv\Scripts\activate.bat
python realtime_gui.py

В открывшемся окне выбери модель .pth, соответствующий индекс .index, микрофон для входа и наушники для выхода. Проверь высоту тона и влияние индекса: настройки этого интерфейса могут отличаться от выбранных в браузере. Затем включи режим преобразованного голоса и запусти обработку.

Задержку и непрерывность звучания регулируют несколько параметров:

Параметр Что меняет Как настраивать
Block time Длительность обрабатываемого блока Уменьшать постепенно, проверяя стабильность
Crossfade length Перекрытие соседних блоков для плавного соединения Проверять на щелчках и стыках фраз
Extra inference time Объём дополнительного контекста для обработки Менять после настройки блока

Extra inference time не равен задержке, которую слышит слушатель: дополнительный контекст используется при обработке, а его начало исключается из выдаваемого фрагмента. В окне отдельно отображаются расчётная задержка и время обработки.

Начни с текущих настроек и постепенно уменьшай Block time. Если появляются прерывания или треск, верни последнее стабильное значение. При выборе задержки приходится учитывать устойчивость аудиопотока: документация PortAudio прямо описывает этот компромисс.

В README разработчики сообщают о достигнутой сквозной задержке 170 мс и 90 мс при использовании ASIO. Это результаты проекта, а не обещание для любого компьютера: там же отмечена зависимость от оборудования и поддержки драйверов.

После этого обработанный голос можно направить в программу для записи или трансляции. Если такой софт ещё не выбран, у нас есть отдельная подборка программ для стриминга на ПК — с OBS Studio, Streamlabs и другими вариантами.

Чтобы передать обработанный голос в приложение для записи или трансляции, можно использовать виртуальный аудиокабель. Например, VB-CABLE передаёт звук из CABLE Input в CABLE Output. Для такой схемы выбери CABLE Input выходом преобразователя, а CABLE Output — микрофоном принимающего приложения.

Перед записью проверь всю цепочку: произнеси несколько фраз, сделай паузы и послушай результат в принимающем приложении. Оцени не только тембр, но и разборчивость, непрерывность звука и удобство разговора с выбранной задержкой.

Частые проблемы и как их решить

При ошибке запуска сначала сохрани сообщение из консоли. При плохом звучании — исходный фрагмент, результат и настройки преобразования. Это позволит повторить проблему и проверить, какое изменение действительно помогает.

Металлический звук и артефакты

Начни с исходной записи: прослушай её без обработки. Затем преобразуй короткий фрагмент чистой речи и сравни результат с проблемным участком.

Проверяй настройки по характеру дефекта:

  • Искажения появились после очистки записи. Сравни обработанный файл с оригиналом. Шумоподавление само может создавать артефакты и удалять части полезного сигнала. В Audacity режим Residue позволяет услышать, что будет удалено: если там различимы слова, ослабь обработку.
  • Согласные и дыхание звучат резко или металлически. Проверь Protect: значение 0,5 отключает защиту. Попробуй снизить его и повторить преобразование того же фрагмента.
  • При усилении сходства с целевым голосом ухудшается качество. Снизь Index rate и сравни результаты. Разработчики предупреждают: если обучающие записи хуже исходной речи, увеличение влияния индекса может ухудшить звук.

Не меняй все параметры одновременно. Если чистый тестовый фрагмент звучит лучше, продолжи проверку исходной записи. Если дефект сохраняется на разных фрагментах, сравни несколько сохранённых версий модели с одинаковыми настройками.

Нехватка видеопамяти при обучении

При сообщении CUDA out of memory начни с уменьшения размера пакета — Batch size. Больший пакет требует больше видеопамяти, поэтому уменьшай его и повторяй запуск. Например, после ошибки при значении 4 проверь 2, затем 1. Это порядок проверки, а не гарантированные настройки для конкретной видеокарты.

Если включено кеширование обучающих данных в видеопамяти, отключи его. В текущем коде при включённом кеше пакеты переносятся на видеокарту и сохраняются для следующих проходов. Без кеширования они загружаются по мере обработки.

Также заверши другие запущенные задачи на видеокарте и проверь занятую память командой:

nvidia-smi

Документация проекта рекомендует эту команду для проверки использования видеопамяти. После изменения настроек перезапусти обучение.

Очистка кеша PyTorch не освобождает память, занятую активными тензорами. Поэтому empty_cache() не решает ситуацию, когда сама задача требует больше памяти, чем доступно.

Если ошибка повторяется при минимальном пакете и отключённом кешировании, сохрани полный текст ошибки и параметры запуска. Эти данные понадобятся, чтобы проверить конфигурацию и требования задачи перед выбором другой видеокарты.

Когда нужна рабочая станция или сервер

Переходить на отдельную рабочую станцию или сервер имеет смысл после теста на реальной задаче. Зафиксируй расход видеопамяти, время обучения, задержку в реальном времени и количество одновременно выполняемых задач. Так станет понятно, какое ограничение должна устранить новая система.

Рабочую станцию или сервер стоит рассматривать, когда появляются конкретные ограничения:

Ситуация Что рассмотреть Что проверить перед выбором
Обучение не помещается в память после уменьшения пакета и отключения кеширования Видеокарту с большим объёмом видеопамяти Запуск с нужной моделью и настройками
Обучение регулярно занимает основной компьютер Отдельную рабочую станцию Время выполнения полного рабочего цикла
Несколько сотрудников запускают обработку Общий сервер с видеокартами Производительность при одновременных задачах, очередь и доступ пользователей

Это ориентиры для выбора. Требуемую конфигурацию лучше подтверждать тестом на своих данных, а не только характеристиками оборудования.

Если нагрузка уже вышла за пределы одного обычного ПК, важно определить не только характеристики, но и формат системы. В отдельном материале мы подробно разобрали, чем рабочая станция отличается от GPU-сервера и что выбрать под конкретную нагрузку.

Несколько видеокарт требуют отдельной проверки. В текущем коде RVC для обучения на нескольких устройствах используется DistributedDataParallel: на каждой видеокарте размещается копия модели, а результаты вычисления градиентов синхронизируются. В таком режиме видеопамять карт не складывается в единый объём для одной копии модели.

Поэтому при нехватке памяти оценивай объём на каждой карте. Если цель — сократить время обучения, сравни выполнение одной и той же задачи на одной и нескольких видеокартах. Для совместной работы отдельно предусмотри распределение задач, права доступа к записям и моделям, резервное копирование.

При подборе системы укажи версию программы, объём датасета, настройки обучения, частоту запусков и число одновременных задач. Для режима реального времени добавь допустимую задержку и используемое аудиооборудование. Эти данные дадут конкретные требования к рабочей станции или серверу.

Если RVC — только одна из нагрузок будущей системы, при выборе стоит учитывать и другие задачи машинного обучения. Посмотреть, как отличаются системы на одной, двух и большем числе видеокарт, можно в обзоре линейки GPU-серверов DigitalRazor.

Часто задаваемые вопросы (FAQ)

1. Сколько аудио нужно для обучения модели голоса?
Ориентир проекта — 10–50 минут чистой речи одного человека. Это рекомендация, а не гарантия качества: важны низкий уровень шума и однородный тембр.
2. Можно ли клонировать чужой голос?
Технически — да. Практикуйся на своём голосе или записях с разрешением на обучение и использование модели. Согласуй публикацию результата и проверь права на исходные записи.
3. Нужна ли мощная видеокарта для RVC?
Не обязательно. Проект поддерживает запуск на процессоре и совместимых видеокартах. Для обучения и работы в реальном времени отдельно проверь доступную память, скорость и задержку.
4. Чем RVC отличается от онлайн-сервисов клонирования голоса?
RVC можно запустить на своём ПК и самостоятельно обучить модель. Он преобразует готовую речь. Онлайн-сервисы могут предлагать и преобразование аудио, и синтез речи из текста — функции нужно сравнивать отдельно.

Заключение

RVC позволяет обучить модель голоса и преобразовывать готовую речь локально, без обязательной передачи записей стороннему сервису. Качество результата зависит прежде всего от исходного датасета, выбранной модели и настроек преобразования.

Начинай с собственного голоса или записей, для которых получено разрешение. Обучи несколько промежуточных версий модели и сравни их на репликах, не входивших в датасет.

Если текущего компьютера не хватает по видеопамяти, скорости обучения или задержке в реальном времени, эти измерения можно использовать как требования к новой рабочей станции. Специалисты DigitalRazor помогут подобрать конфигурацию под конкретный сценарий RVC.

Нужна помощь с выбором?

Специалисты помогут подобрать оборудование под нагрузку, бюджет и задачи

Написать
Получите готовый ПК под свои задачи

Подберём ПК под ваши задачи, соберём, протестируем и доставим готовым к работе.

Подобрать ПК за 1 минуту Собрать свой ПК
или свяжитесь с нами
Telegram Telegram WhatsApp WhatsApp ВКонтакте ВКонтакте MAX MAX
531

Так же будет интересно почитать

Сайт использует cookies
Узнать подробнее