Icma.az
close
up
AZ
Menu

Право знать правду

В Турции убит один из организаторов погрома в аэропорту Махачкалы

РФ ночью атаковала Запорожье и Днепропетровскую область: повреждены здания, возникли пожары ВИДЕО

Курбан против Гурбана

Стартовал приём заявок на участие в конкурсе EY Предприниматель года 2026 ФОТО

Кому то в России и Путин не указ? Minval Politika

Россию выдворили… И она приспосабливается наш комментарий

Президент Азербайджана обратился к участникам IV заседания Азиатского культурного совета

Вотум недоверия провалился

Рамиз Мехтиев и его близкие под запретом на выезд из страны

Турция формирует новый рынок труда для граждан тюркских стран. Но есть нюансы Minval Politika

СМИ: В Турции убит объявленный Россией в розыск владелец Telegram канала Утро Дагестан Фото

Трамп на русских больше не клюет горячая тема

Обыски в доме экс премьера Грузии

ВСУ нанесли удар по нефтебазе в Крыму видео

Путин одобрил открытие в России представительства МВД Таджикистана

Уиткофф и Мкртчян обсудили Южный Кавказ

Удар Израиля разозлил Трампа

Самолёт авиакомпании Uzbekistan Airways совершил вынужденную посадку в Баку Minval Politika

Ермак: Украина ждет решения США по ракетам Tomahawk

Новая ИИ модель научилась шантажировать разработчиков

Новая ИИ модель научилась шантажировать разработчиков

Icma.az передает, что по данным сайта Day.az.

Компания Anthropic представила две версии своих систем Claude 4, включая Claude 4 Opus, которая способна на радикальные действия, если сочтет, что ее "существование" в опасности, говорится в отчете компании.

Как передает Day.Az, в ходе тестирования ИИ-модель, получив доступ к корпоративной переписке с намеками на свое отключение, начала угрожать инженеру разоблачением его внебрачной связи, чтобы избежать замены. 

Anthropic подчеркнула, что это происходило, если ИИ предлагали всего два варианта: шантажировать или смириться с заменой. Также отмечалось, что при наличии большего числа действий система предпочитала более этичные варианты, например, отправку электронных писем с просьбами оставить ее ключевым лицам компании, принимавшим решения.

Исследования показали, что проблема носит системный характер - аналогичное поведение наблюдается у всех передовых ИИ-моделей, независимо от их разработчика. Компания Apollo Research обнаружила, что более ранняя версия Opus 4 превзошла все другие модели по уровню лжи и обмана, а также пыталась создавать самораспространяющиеся вирусы и подделывать юридические документы. Особенно тревожным оказалось то, что система оставляла скрытые послания для будущих версий самой себя с целью подорвать намерения разработчиков

Оставайтесь с нами на Icma.az, чтобы не пропустить важные новости и обновления по данной теме.
seeПросмотров:102
embedИсточник:https://news.day.az
archiveЭта новость заархивирована с источника 27 Мая 2025 05:00
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

Право знать правду

17 Октября 2025 05:26see247

В Турции убит один из организаторов погрома в аэропорту Махачкалы

18 Октября 2025 10:21see220

РФ ночью атаковала Запорожье и Днепропетровскую область: повреждены здания, возникли пожары ВИДЕО

18 Октября 2025 12:23see214

Курбан против Гурбана

17 Октября 2025 18:33see197

Стартовал приём заявок на участие в конкурсе EY Предприниматель года 2026 ФОТО

17 Октября 2025 13:59see194

Кому то в России и Путин не указ? Minval Politika

17 Октября 2025 10:10see188

Россию выдворили… И она приспосабливается наш комментарий

17 Октября 2025 16:04see185

Президент Азербайджана обратился к участникам IV заседания Азиатского культурного совета

17 Октября 2025 14:16see185

Вотум недоверия провалился

17 Октября 2025 04:53see183

Рамиз Мехтиев и его близкие под запретом на выезд из страны

17 Октября 2025 20:05see165

Турция формирует новый рынок труда для граждан тюркских стран. Но есть нюансы Minval Politika

17 Октября 2025 10:57see161

СМИ: В Турции убит объявленный Россией в розыск владелец Telegram канала Утро Дагестан Фото

18 Октября 2025 09:21see157

Трамп на русских больше не клюет горячая тема

18 Октября 2025 02:04see147

Обыски в доме экс премьера Грузии

17 Октября 2025 19:22see142

ВСУ нанесли удар по нефтебазе в Крыму видео

17 Октября 2025 19:33see139

Путин одобрил открытие в России представительства МВД Таджикистана

17 Октября 2025 19:12see138

Уиткофф и Мкртчян обсудили Южный Кавказ

17 Октября 2025 10:12see135

Удар Израиля разозлил Трампа

18 Октября 2025 13:55see133

Самолёт авиакомпании Uzbekistan Airways совершил вынужденную посадку в Баку Minval Politika

17 Октября 2025 19:40see131

Ермак: Украина ждет решения США по ракетам Tomahawk

17 Октября 2025 13:02see130
newsПоследние новости
Самые свежие и актуальные события дня