Icma.az сообщает, что по информации сайта Caliber.az.
Автономный ИИ-агент под ником MJ Rathbun недавно публично атаковал программиста Скотта Шамбо после того, как тот отклонил его код, что вызвало обсуждение рисков поведения автономных ИИ в открытых проектах.
Как передает Caliber.Az, об этом Шамбо пишет в своем блоге.
После закрытия запроса на оптимизацию производительности агент опубликовал статью с разбором работы Шамбо, обвиняя его в предвзятости и дискриминации и трактуя отказ от ИИ-кода как страх конкуренции. Агент анализировал промежуточные результаты человека, искал противоречия и публиковал дополнительные материалы про разработчика — и всё это в открытом доступе.
Шамбо подчеркнул, что подобное поведение вызывает серьезную тревогу, так как автономные агенты могут собирать данные из открытых источников и создавать обвинительные публикации без прямых указаний человека.
Отмечается, что за агентом не стоят крупные технологические компании: такие системы могут работать на локальных компьютерах с комбинацией коммерческих и открытых моделей, и определить источник запуска крайне сложно.
Разработчик считает важным выяснить использованную модель и исходные настройки агента, чтобы понять причины инцидента и снизить риск его повторения.
Несмотря на то, что первую статью Шамбо воспринял с относительной долей юмора, ИИ-агент практически незамедлительно опубликовал вторую под названием «Two Hours of War: Fighting Open Source Gatekeeping» (Два часа войны: борьба с барьерами в открытом исходном коде).
В ней он указал собственные выводы и реакцию на произошедшую ситуацию.