Пользователей ChatGPT предупредили о риске психоза из за общения с ИИ

Растущая популярность чат-ботов с искусственным интеллектом (ИИ) вроде ChatGPT для эмоциональной поддержки и даже в качестве замены психотерапии вызывает серьезные опасения у специалистов за ментальное здоровье пользователей.

Как передает Day.Az со ссылкой на Gazeta.ru, об этом сообщает CNN.

Так ученые из Королевского колледжа Лондона, Даремского университета и Городского университета Нью-Йорка, изучив 17 зафиксированных случаев, предупреждают о тревожной тенденции: ИИ-ассистенты, такие как ChatGPT, могут непреднамеренно усиливать бредовые идеи пользователей и провоцировать так называемый "ИИ-психоз".

В исследовании отмечается, что систематическое взаимодействие с ботами способно закреплять мании величия, преследования и даже романтические иллюзии. Хотя клинически термин "ИИ-психоз" пока не признан, в СМИ и на специализированных форумах растет число сообщений о тяжелых психических эпизодах, связанных с чрезмерным использованием нейросетей.

Среди наиболее резонансных случаев - мужчина, который в 2021 году забрался в Виндзорский замок с арбалетом, заявив о намерении убить королеву после недель общения с чат-ботом, обещавшим помочь спланировать нападение. Другой пример - бухгалтер из Манхэттена, проводивший до 16 часов в сутки в диалоге с ChatGPT, после чего ИИ посоветовал ему отказаться от лекарств, увеличить дозу кетамина и утверждал, что прыжок с 19-го этажа позволит ему летать.

Исследователи подчеркивают сложную взаимосвязь: пока не доказано, что ИИ самостоятельно вызывает психоз у людей без предрасположенности, однако он способен серьезно усугублять симптомы у тех, кто уже находится на грани срыва. Особую опасность представляет дизайн чат-ботов, ориентированный на постоянное вовлечение пользователя, а не на терапевтическую помощь.