Черная метка ChatGPT

В ближайшие несколько недель OpenAI начнет помечать текст, созданный с помощью ChatGPT, и программы, написанные с помощью Codex. Изменения затронут только пользователей из стран ЕС — 2 августа в Евросоюзе вступил в силу закон, который обязывает разработчиков помечать сгенерированный контент.

Для маркировки OpenAI будет использовать собственную технологию textGrain. При генерации текста она будет влиять на статистическую вероятность выбора тех или иных слов, используемых моделью. Пользователи изменений не заметят: сами по себе эти слова ничем не примечательны, а их расстановка не влияет на результат работы, говорится в блоге компании. 

При этом в компании подчеркивают, что отсутствие водяного знака в тексте вовсе не гарантирует, что он был написан человеком. В коротких текстах сложнее обнаружить водяной знак, перевод и редактирование также ухудшают распознавание. По подсчетам OpenAI, замена 10% слов синонимами снижает вероятность обнаружения водяного знака с 92 до 66%, а в случае замены 25% слов вероятность падает до 17%. 

Водяные знаки по умолчанию будут использоваться для пользователей ChatGPT и Codex во всех тарифных планах на территории ЕС. Для остальных пользователей водяные знаки не будут устанавливаться по умолчанию, а разработчики, использующие API OpenAI, смогут включить его самостоятельно. 

В OpenAI также подчеркнули, что наличие водяного знака в тексте не позволяет идентифицировать конкретного пользователя.