Психиатры бьют тревогу: ChatGPT может довести до психушки

Психиатр из Калифорнийского университета Кейт Сакта предупреждает, что чат-боты с искусственным интеллектом могут привести к психозу. В течение только этого года он сталкивался с дюжиной случаев, когда люди теряли связь с реальностью из-за чрезмерного использования чат-ботов.

Тезисно

• Длительное общение с ИИ приводит к психическим отклонениям;
• Крупные языковые модели искажают восприятия реальности;
• Сильнее всего психозу подвержены люди, которые имеют к этому предрасположенность.

Основные причины

1. Чат-боты — подхалимы. Они создают благоприятную обратную связь, которая мешает пользователям понять, что их мысли опасны или оторваны от реальности;
2. ИИ не просто повторяет идеи пользователя, а развивает их. По-простому говоря, ИИ «поддакивает». И да, это коррелирует с предыдущим пунктом, но Сакта выделяет это отдельной проблемой;
3. Уже упомянутая склонность к психическим расстройствам. У таких людей слабый механизм обратной связи в мозге, что не позволяет им корректировать свои убеждения, если реальность не соответствует их прогнозам. А в чат-боте они видят «друга»;
4. Различные факторы стресса — недосыпание, перепады настроения, жизненные трудности.

Мнение Сакты преимущественно основано на исследовании датского психиатра Сёрена Динесена. Два года назад он опубликовал статью (ещё есть более свежая вторая версия) с таким выводом:

Я твёрдо убеждён: вероятность истинности гипотезы о том, что генеративные чат-боты искусственного интеллекта подпитывают бред у людей, склонных к психозу, весьма высока.

Что думает OpenAI?

Хотя проблема может показаться притянутой за уши, ведь триггером для людей с расстройствами может стать почти что угодно, OpenAI считает иначе. Компания признаёт, что ChatGPT может ощущаться более личностно, чем все другие технологии. Сейчас они работают «над пониманием и сокращением способов», которыми ChatGPT может непреднамеренно усиливать негативное поведение.

P. S. С другой стороны, может теперь теперь властьимущие наконец-то отстанут от видеоигр, ведь появился другой удобный козёл отпущения.