OpenAI введет скрытую маркировку текстов ChatGPT для пользователей ЕС

OpenAI планирует в ближайшие недели внедрить невидимые водяные знаки для текстов, сгенерированных искусственным интеллектом. Технология textGrain появится в ChatGPT и Codex для пользователей Евросоюза, что связано с требованиями европейского закона об ИИ. Эту информацию сообщает сайт Абзац.

Метка формируется на основе особенностей выбора слов моделью. При достаточно длинной генерации возникает закономерность, которую человек не замечает, но специальный детектор способен распознать. При этом маркировка не раскрывает личность пользователя, его запросы или переписку, а также не показывает, какая часть материала написана человеком.

С сегодняшнего дня возможность добавлять такие знаки получат пользователи API OpenAI по всему миру. Компаниям разрешат отключать эту функцию. Сам детектор пока не станет общедоступным: сначала его получат одобренные исследователи и экспертные организации для тестирования.

В OpenAI признают, что textGrain не гарантирует полного обнаружения. Для текста объемом около 200 токенов точность составляет примерно 80%, а при 400 токенах достигает около 95% при уровне ложных срабатываний в 1%.

Эффективность системы резко снижается после редактирования. В тестах замена 10% слов синонимами уменьшила вероятность обнаружения с 92% до 66%, а замена четверти слов — до 17%. Поэтому отсутствие водяного знака само по себе не доказывает, что текст написан человеком.

Ранее о невидимой маркировке контента, созданного ИИ, объявила и Anthropic. Компания также связала это решение с требованиями европейского законодательства об искусственном интеллекте.