Родители 13 летней девочки обвинили ИИ поиск Google в угрозе ее безопасности

Родители 13-летней школьницы обвинили Google в халатности, заявив, что дочь использовала поисковые ИИ-функции компании на школьном ноутбуке для планирования самоубийства и собственных похорон.

Как сообщает Vesti.az со ссылкой на AFP, иск подан 2 ноября в суд штата Калифорния.

Девочка, названная в документах Эммой, пользовалась школьным Chromebook. Доступ к приложению Google Gemini и ChatGPT был заблокирован, однако поисковая система Google со встроенными ИИ-функциями оставалась доступной.

По утверждению родителей, ранее у дочери не было диагностированных психических заболеваний, но спустя несколько месяцев использования поиска она оказалась в тяжелом психологическом кризисе.

Школа уведомила семью 17 марта, когда система мониторинга обнаружила документ под названием «Похороны». Позднее мать застала дочь за написанием прощального письма, после чего отец вмешался в ситуацию.

Адвокат семьи Эндрю Лидделл призвал школы отключить поиск Google до удаления режима ИИ либо обеспечения безопасности учеников при его использовании.

В Google заявили, что изучают изложенные в иске доводы и относятся к ним серьезно. Компания утверждает, что ее поисковые ИИ-функции предусматривают защитные механизмы против причинения вреда себе и попыток обхода ограничений.

Дело рассматривается на фоне других исков к разработчикам ИИ. В частности, родители 16-летнего Адама Рейна, погибшего в результате самоубийства, подали иск к OpenAI, связав произошедшее с ответами ChatGPT. Это утверждение истцов.

В январе Google и Character.AI также урегулировали во внесудебном порядке несколько исков семей подростков.

Отдельно Google, TikTok и Meta обратились в суд, добиваясь блокировки калифорнийского закона, запрещающего для пользователей младше 16 лет функции социальных сетей, вызывающие привыкание. Закон должен вступить в силу 1 января 2027 года.