OpenAI внедрит невидимые водяные знаки в тексты ChatGPT и Codex в ЕС

Американская компания OpenAI планирует внедрить невидимые водяные знаки в тексты, создаваемые ChatGPT и Codex для пользователей в Европейском Союзе. Эта мера направлена на приведение подходов компании к маркировке контента, созданного искусственным интеллектом, в соответствие с требованиями Закона ЕС об искусственном интеллекте.

Как сообщает БР, новая технология будет внедрена в ближайшие недели для соответствующих пользователей всех тарифных планов сервисов ChatGPT и Codex на территории ЕС.

В отличие от обычных водяных знаков, которые видны читателю, новая система не предполагает добавления специальных символов или заметных отметок.

Технология textGrain формирует статистический сигнал за счет незначительных изменений в выборе слов моделью. Он остается незаметным для человека, но может быть обнаружен с помощью специального программного инструмента.

В OpenAI пояснили, что детектор будет искать этот сигнал, чтобы определить, содержит ли анализируемый текст водяной знак компании. Доступ к инструменту предоставят только одобренным исследователям и профильным организациям.

При этом технология не предназначена для определения степени участия человека в создании материала, установления авторства или ответственности за его содержание, идентификации пользователя либо проверки достоверности информации. Отсутствие водяного знака также не означает, что текст обязательно написан человеком.

Внедрение технологии станет частью подхода OpenAI к маркировке контента, созданного с помощью искусственного интеллекта, в условиях ужесточения требований к прозрачности использования таких систем.