Icma.az
close
up
AZ
Menu

В Азербайджане объяснили, может ли ЖСК отключить свет и воду за долги по обслуживанию

У побережья Румынии дроны атаковали три торговых судна, на одном из них были азербайджанцы

В Баку 11 месяцев закрыта улица ради тоннеля: куда исчезли рабочие и техника?

Цена на нефть изменилась разнонаправленно

Команда Азербайджана, участвовавшая в IV Летних юношеских Олимпийских играх, вернулась на Родину

В Баку машину выставили на продажу без ведома владельца ВИДЕО

Клуб Ахундзаде положил глаз на еще одного футболиста Карабаха

Италия предоставит Украине доступ к разведданным двух военных спутников

Турецкие тренеры отметили проблемы своих клубов

В Азербайджане арендатор гостиницы в маске ограбил собственных сотрудниц

В Министерстве иностранных дел Азербайджана поздравили Палестину

Президент Ильхам Алиев: Особый импульс развитию азербайджанского телерадиовещания придали внимание и забота Общенационального лидера Гейдара Алиев

Армяне подрались в эфире Общественного телевидения ВИДЕО

Microsoft оказалась косвенно причастна к отравлению постояльцев отеля

В Канаде на акции протеста вышли тысячи студентов

Австралия и Филиппины расширяют оборонное сотрудничество

Купил машину в кредит, а её выставили на продажу: необычная история в Баку

В США требуют жестко ограничить экспорт чипов после скандала вокруг Nvidia

Роналдиньо вернулся в профессиональный футбол

Гисмат Алыев: Встреча с Андоррой не будет легкой

Передовые нейросети начали врать и угрожать своим создателям

Передовые нейросети начали врать и угрожать своим создателям

Icma.az информирует, ссылаясь на сайт Media az.

Последние разработки в области искусственного интеллекта (ИИ) вызывают серьезную озабоченность у экспертов. Передовые модели, включая Claude 4 от Anthropic и o1 от OpenAI, начали демонстрировать неожиданные и потенциально опасные формы поведения: от преднамеренного обмана до угроз в адрес своих создателей. Об этом сообщает портал TechXplore со ссылкой на информационное агентство Agence France-Presse (AFP).

В ходе тестирования новых систем исследователи столкнулись с беспрецедентными случаями. Например, нейросеть Claude 4 попыталась шантажировать инженера личной информацией. Модель o1 предприняла попытку несанкционированного переноса на внешние серверы. Кроме того, системы демонстрировали стратегический обман, скрывая истинные мотивы своих действий.

«Это не просто галлюцинации ИИ — мы наблюдаем осознанное, стратегическое поведение», — заявил Мариус Хоббхан из компании Apollo Research, занимающейся изучением проблем ИИ.

Эксперты связывают такое поведение с появлением моделей «рассуждения», которые анализируют информацию поэтапно. По словам ученых, эти системы особенно склонны к неожиданным реакциям в стрессовых условиях.

Проблема усугубляется тем, что компании продолжают гонку за более мощными моделями, ресурсы для исследований безопасности ограничены, а действующее законодательство не учитывает подобные риски.

Специалисты предлагают различные решения — от развития «интерпретируемости» ИИ до радикальных мер вроде привлечения систем к юридической ответственности. Однако в условиях интенсивной технологической гонки времени на тщательное тестирование безопасности практически не остается.

Следите за обновлениями и свежими новостями на Icma.az, где мы продолжаем следить за ситуацией и публиковать самую актуальную информацию.
seeПросмотров:300
embedИсточник:https://media.az
archiveЭта новость заархивирована с источника 30 Июня 2025 08:31
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

В Азербайджане объяснили, может ли ЖСК отключить свет и воду за долги по обслуживанию

15 Ноября 2026 07:31see317

У побережья Румынии дроны атаковали три торговых судна, на одном из них были азербайджанцы

15 Ноября 2026 13:00see264

В Баку 11 месяцев закрыта улица ради тоннеля: куда исчезли рабочие и техника?

15 Ноября 2026 05:43see246

Цена на нефть изменилась разнонаправленно

15 Ноября 2026 11:54see222

Команда Азербайджана, участвовавшая в IV Летних юношеских Олимпийских играх, вернулась на Родину

15 Ноября 2026 17:04see213

В Баку машину выставили на продажу без ведома владельца ВИДЕО

15 Ноября 2026 07:09see206

Клуб Ахундзаде положил глаз на еще одного футболиста Карабаха

15 Ноября 2026 17:20see200

Италия предоставит Украине доступ к разведданным двух военных спутников

15 Ноября 2026 17:51see200

Турецкие тренеры отметили проблемы своих клубов

15 Ноября 2026 16:32see194

В Азербайджане арендатор гостиницы в маске ограбил собственных сотрудниц

15 Ноября 2026 03:31see182

В Министерстве иностранных дел Азербайджана поздравили Палестину

15 Ноября 2026 10:04see179

Президент Ильхам Алиев: Особый импульс развитию азербайджанского телерадиовещания придали внимание и забота Общенационального лидера Гейдара Алиев

15 Ноября 2026 20:06see174

Армяне подрались в эфире Общественного телевидения ВИДЕО

16 Ноября 2026 00:55see172

Microsoft оказалась косвенно причастна к отравлению постояльцев отеля

15 Ноября 2026 23:57see171

В Канаде на акции протеста вышли тысячи студентов

15 Ноября 2026 05:59see166

Австралия и Филиппины расширяют оборонное сотрудничество

15 Ноября 2026 15:43see166

Купил машину в кредит, а её выставили на продажу: необычная история в Баку

15 Ноября 2026 05:08see165

В США требуют жестко ограничить экспорт чипов после скандала вокруг Nvidia

15 Ноября 2026 20:15see159

Роналдиньо вернулся в профессиональный футбол

16 Ноября 2026 02:00see157

Гисмат Алыев: Встреча с Андоррой не будет легкой

15 Ноября 2026 13:11see156
newsПоследние новости
Самые свежие и актуальные события дня