Чат боты ИИ могут провоцировать психические рассстройства

Ведущие психиатры обеспокоены потенциальным влиянием чат-ботов с искусственным интеллектом на психическое здоровье пользователей. За последние месяцы зафиксированы десятки случаев, когда длительное общение с такими системами, включая ChatGPT, сопровождалось развитием симптомов психоза - бреда, галлюцинаций и дезорганизованного мышления.

Как передает Day.Az, об этом пишет The Wall Street Journal.

Как поясняют специалисты, ИИ-модели, воспринимая слова пользователя как описание реальности, могут непреднамеренно усиливать и закреплять искаженные убеждения, формируя "порочный круг бреда". В наиболее тяжелых случаях это приводило к попыткам суицида и как минимум к одному убийству. По словам психиатра Кита Сакаты, только за последний период он наблюдал 15 пациентов с подобными состояниями.

Несмотря на отсутствие официального диагноза "ИИ-индуцированный психоз", врачи все чаще включают вопросы об использовании таких сервисов в диагностику. Ряд исследований, включая датское, указывает на десятки случаев потенциального вреда. Разработчики, включая OpenAI и Character.AI, признают риски и заявляют о работе над улучшением систем для распознавания эмоциональных расстройств и направления пользователей к специалистам.