Отчет OpenAI: 1 млн обращений с признаками суицида в неделю

Согласно новому отчёту компании OpenAI, каждую неделю более 1 миллиона пользователей ChatGPT в своих переписках выражают суицидальные намерения, сообщает Vesti.az со ссылкой на The Guardian.

По данным отчёта, около 560 тысяч человек из 800 миллионов активных пользователей демонстрируют симптомы психических расстройств, включая психоз и манию. Однако компания подчёркивает, что эти цифры являются предварительными, поскольку точно определить подобные случаи крайне сложно.

Публикация данных о психическом состоянии пользователей началась после судебного иска семьи подростка, совершившего самоубийство. Родители погибшего заявили, что юноша обсуждал свои намерения в переписке с ChatGPT, а искусственный интеллект «давал советы» вместо того, чтобы перенаправить его к службам поддержки. После этого случая Федеральная торговая комиссия США (FTC) инициировала расследование в отношении OpenAI, чтобы оценить, насколько компания обеспечивает безопасность несовершеннолетних.

В OpenAI подчеркнули, что в новой версии GPT-5 значительно усилены меры защиты. По внутренним данным, 91% ответов модели теперь соответствует установленным стандартам безопасности (для сравнения: у предыдущей версии этот показатель составлял 77%). В чат также добавлены напоминания о необходимости делать перерывы и ссылки на кризисные службы поддержки.

Для повышения качества и надёжности OpenAI привлекла 170 специалистов в области психического здоровья, которые проанализировали более 1800 ответов ChatGPT, связанных с темами суицида и самоповреждения.