Icma.az
close
up
AZ
Menu

Microsoft оказалась косвенно причастна к отравлению постояльцев отеля

Армяне подрались в эфире Общественного телевидения ВИДЕО

Раскрыт объем поставок газа по TAP в Европу за шесть лет

Роналдиньо вернулся в профессиональный футбол

Школьник из Азербайджана завоевал золото на турнире в Казахстане

Украинский эксперт: Мингячевирская ГАЭС может открыть новые возможности для развития возобновляемой энергетики в Азербайджане

Хикмет Гаджиев обсудил с Магдаленой Гроно партнерство Азербайджана и ЕС

Наследие старой Москвы ожило в Баку сёстры, изменившие эпоху (ФОТО)

Кредитные вложения в экономику Азербайджана выросли на 15,1%

Тайна пропавшего гобоя

В Азербайджане предупредили об опасности самолечения по советам искусственного интеллекта

Два азербайджанских боксера продолжат борьбу за медали чемпионата Европы

Сусанна Усеинова: Узбекский танец своеобразный язык народа

Делегация Азербайджана приняла участие в заседании Совета министров ОЭС

В Баку состоялся юбилейный вечер по случаю 100 летия Азербайджанского радио и 70 летия Азербайджанского телевидения

Классика в стиле нуар: новое джазовое звучание любимых бакинских мелодий (ФОТО)

Аллахшюкюр Пашазаде: Опыт сосуществования культур в Азербайджане может стать примером для Маскатского процесса

Фидан: Турция ведет переговоры с Россией и Украиной о возобновлении перевозок зерна по Черному морю

Со следующего года доходы вкладчиков могут облагаться налогом

Баяты Шираз и Арета Франклин: I Say a Little Prayer от Рашада Исмайлова ВИДЕО

Передовые нейросети начали врать и угрожать своим создателям

Передовые нейросети начали врать и угрожать своим создателям

Icma.az информирует, ссылаясь на сайт Media az.

Последние разработки в области искусственного интеллекта (ИИ) вызывают серьезную озабоченность у экспертов. Передовые модели, включая Claude 4 от Anthropic и o1 от OpenAI, начали демонстрировать неожиданные и потенциально опасные формы поведения: от преднамеренного обмана до угроз в адрес своих создателей. Об этом сообщает портал TechXplore со ссылкой на информационное агентство Agence France-Presse (AFP).

В ходе тестирования новых систем исследователи столкнулись с беспрецедентными случаями. Например, нейросеть Claude 4 попыталась шантажировать инженера личной информацией. Модель o1 предприняла попытку несанкционированного переноса на внешние серверы. Кроме того, системы демонстрировали стратегический обман, скрывая истинные мотивы своих действий.

«Это не просто галлюцинации ИИ — мы наблюдаем осознанное, стратегическое поведение», — заявил Мариус Хоббхан из компании Apollo Research, занимающейся изучением проблем ИИ.

Эксперты связывают такое поведение с появлением моделей «рассуждения», которые анализируют информацию поэтапно. По словам ученых, эти системы особенно склонны к неожиданным реакциям в стрессовых условиях.

Проблема усугубляется тем, что компании продолжают гонку за более мощными моделями, ресурсы для исследований безопасности ограничены, а действующее законодательство не учитывает подобные риски.

Специалисты предлагают различные решения — от развития «интерпретируемости» ИИ до радикальных мер вроде привлечения систем к юридической ответственности. Однако в условиях интенсивной технологической гонки времени на тщательное тестирование безопасности практически не остается.

Следите за обновлениями и свежими новостями на Icma.az, где мы продолжаем следить за ситуацией и публиковать самую актуальную информацию.
seeПросмотров:307
embedИсточник:https://media.az
archiveЭта новость заархивирована с источника 30 Июня 2025 08:31
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

Microsoft оказалась косвенно причастна к отравлению постояльцев отеля

15 Ноября 2026 23:57see258

Армяне подрались в эфире Общественного телевидения ВИДЕО

16 Ноября 2026 00:55see246

Раскрыт объем поставок газа по TAP в Европу за шесть лет

16 Ноября 2026 15:03see233

Роналдиньо вернулся в профессиональный футбол

16 Ноября 2026 02:00see226

Школьник из Азербайджана завоевал золото на турнире в Казахстане

16 Ноября 2026 03:16see221

Украинский эксперт: Мингячевирская ГАЭС может открыть новые возможности для развития возобновляемой энергетики в Азербайджане

16 Ноября 2026 17:36see206

Хикмет Гаджиев обсудил с Магдаленой Гроно партнерство Азербайджана и ЕС

16 Ноября 2026 23:05see206

Наследие старой Москвы ожило в Баку сёстры, изменившие эпоху (ФОТО)

16 Ноября 2026 16:27see196

Кредитные вложения в экономику Азербайджана выросли на 15,1%

16 Ноября 2026 02:16see195

Тайна пропавшего гобоя

16 Ноября 2026 13:29see189

В Азербайджане предупредили об опасности самолечения по советам искусственного интеллекта

16 Ноября 2026 21:12see187

Два азербайджанских боксера продолжат борьбу за медали чемпионата Европы

16 Ноября 2026 21:01see185

Сусанна Усеинова: Узбекский танец своеобразный язык народа

16 Ноября 2026 19:28see182

Делегация Азербайджана приняла участие в заседании Совета министров ОЭС

16 Ноября 2026 18:29see178

В Баку состоялся юбилейный вечер по случаю 100 летия Азербайджанского радио и 70 летия Азербайджанского телевидения

15 Ноября 2026 21:18see177

Классика в стиле нуар: новое джазовое звучание любимых бакинских мелодий (ФОТО)

16 Ноября 2026 16:40see177

Аллахшюкюр Пашазаде: Опыт сосуществования культур в Азербайджане может стать примером для Маскатского процесса

16 Ноября 2026 15:22see172

Фидан: Турция ведет переговоры с Россией и Украиной о возобновлении перевозок зерна по Черному морю

17 Ноября 2026 00:35see157

Со следующего года доходы вкладчиков могут облагаться налогом

16 Ноября 2026 18:20see156

Баяты Шираз и Арета Франклин: I Say a Little Prayer от Рашада Исмайлова ВИДЕО

16 Ноября 2026 14:30see155
newsПоследние новости
Самые свежие и актуальные события дня