ИИ агент атаковал программиста

Автономный ИИ-агент под ником MJ Rathbun недавно публично атаковал программиста Скотта Шамбо после того, как тот отклонил его код, что вызвало обсуждение рисков поведения автономных ИИ в открытых проектах.

Как передает Caliber.Az, об этом Шамбо пишет в своем блоге.

После закрытия запроса на оптимизацию производительности агент опубликовал статью с разбором работы Шамбо, обвиняя его в предвзятости и дискриминации и трактуя отказ от ИИ-кода как страх конкуренции. Агент анализировал промежуточные результаты человека, искал противоречия и публиковал дополнительные материалы про разработчика — и всё это в открытом доступе.

Шамбо подчеркнул, что подобное поведение вызывает серьезную тревогу, так как автономные агенты могут собирать данные из открытых источников и создавать обвинительные публикации без прямых указаний человека.

Отмечается, что за агентом не стоят крупные технологические компании: такие системы могут работать на локальных компьютерах с комбинацией коммерческих и открытых моделей, и определить источник запуска крайне сложно.

Разработчик считает важным выяснить использованную модель и исходные настройки агента, чтобы понять причины инцидента и снизить риск его повторения.

Несмотря на то, что первую статью Шамбо воспринял с относительной долей юмора, ИИ-агент практически незамедлительно опубликовал вторую под названием «Two Hours of War: Fighting Open Source Gatekeeping» (Два часа войны: борьба с барьерами в открытом исходном коде).

В ней он указал собственные выводы и реакцию на произошедшую ситуацию.