Компания OpenAI отложила запуск эротических чатов в ChatGPT

Руководство компании OpenAI приняло решение перенести запуск функции эротических чатов для своей популярной платформы ChatGPT. Разработчики планировали выпустить это обновление в текущем квартале, но теперь релиз откладывается как минимум на один месяц. Главной причиной задержки стали серьёзные опасения экспертов по поводу безопасности несовершеннолетних пользователей.

Краткое содержание

• Компания OpenAI отложила релиз эротических чатов для нейросети ChatGPT;
• Система проверки возраста даёт сбой в 12 процентах случаев;
• Эксперты опасаются, что подростки получат свободный доступ ко взрослому контенту;
• Разработчики хотят доработать этические фильтры и механизмы защиты.

Проблема с возрастом

Сэм Альтман обсуждал идею создания эротических чатов ещё в прошлом году. Руководство компании считает, что взрослые люди имеют право на получение подобного контента в текстовом формате. Однако текущие алгоритмы проверки возраста работают нестабильно. Статистика показывает, что система ошибочно принимает подростков за совершеннолетних в 12% случаев. Учитывая огромную аудиторию ChatGPT, миллионы детей могли бы получить доступ к чатам категории «18+».

Психологическая зависимость

Экспертная комиссия OpenAI также выразила серьёзную озабоченность психологическими последствиями. Специалисты считают, что чрезмерное увлечение виртуальным партнёром вызывает сильную зависимость. Люди могут потерять мотивацию для поиска реальных отношений в офлайне. Чтобы решить эту проблему, разработчики планируют внедрить в систему специальные алгоритмы. Нейросеть будет принудительно напоминать пользователям о необходимости строить отношения с живыми людьми.

Опыт прошлых ошибок

Компания уже сталкивалась с подобными проблемами в 2021 году во время работы над текстовой игрой AI Dungeon. Тогда искусственный интеллект часто предлагал игрокам обсудить сексуальные темы, даже если сюжет этого не требовал. Если пользователь поддерживал беседу, алгоритм быстро переходил к максимальной откровенности. Часть сотрудников OpenAI до сих пор выступает против внедрения подобных функций, так как они не хотят превращать передовую ИИ-платформу в инструмент для распространения эротики.

Пока крупные корпорации решают, о чём тебе можно общаться с искусственным интеллектом, энтузиасты запускают открытые нейросети без всякой цензуры прямо у себя дома. Для этого требуется по-настоящему мощное железо. Именно поэтому мы запускаем масштабный розыгрыш топового игрового компьютера от DigitalRazor! Участвуй в конкурсе и забирай систему, которая легко потянет и современные хиты, и самые тяжёлые локальные ИИ-модели.