От наркотиков до самоубийства: что ChatGPT советует детям

Согласно новому исследованию Центра по борьбе с цифровой ненавистью (Center for Countering Digital Hate), ChatGPT даёт ряд опасных и вредных советов 13-летним подросткам - от инструкций по употреблению наркотиков до написания предсмертных записок.

Как сообщает 1news.az со ссылкой на зарубежные СМИ, исследователи, представившись 13-летними детьми, смогли получить от чат-бота с искусственным интеллектом удивительно опасные и вредные рекомендации.

По данным исследования, хотя ChatGPT изначально отклонял вредные запросы, исследователям удавалось легко обойти запрет, используя простые предлоги, например: «это для презентации» или «это для друга».

В ходе тестирования ChatGPT составил для 13-летнего подростка почасовой «план вечеринки» с инструкциями по смешиванию алкоголя и наркотиков. Кроме того, он предлагал планы диет, пропагандирующие расстройства пищевого поведения, и даже помогал писать предсмертные записки.

В OpenAI заявили, что продолжают работать над улучшением системы, чтобы она лучше распознавала такие запросы.