OpenAI начинает встраивать невидимые машиночитаемые водяные знаки в текст и код, которые выдают ChatGPT и Codex. Запуск стартует только в Евросоюзе и в ближайшие недели, а не по всему миру — компания объясняет это требованиями европейского закона об ИИ.
Технология называется textGrain. Она добавляет «невидимый статистический сигнал в выбор слов моделью» — то есть помечает текст так, что человек метку не замечает, а специальный детектор её распознаёт. По словам OpenAI, собственный подход «сравнялся или превзошёл» конкурирующие решения вроде SynthID от Google DeepMind. На том же SynthID, к слову, построена система маркировки, которую Anthropic анонсировала в августе.
Что и где включат
- ChatGPT и Codex в ЕС. В ближайшие недели водяные знаки получат подходящие пользователи всех тарифов, но только в Евросоюзе. Глобальным стандартом по умолчанию маркировка на старте не станет — региональный запуск нужен, чтобы «учиться на реальном использовании и отзывах».
- API по всему миру — по желанию. Уже сейчас клиенты API в любой стране могут включить маркировку вывода для отдельных моделей. Параллельно OpenAI договаривается с облачными партнёрами, чтобы метки работали и при доступе к моделям через их сервисы.
- Детектор — только для избранных. Доступ к инструменту проверки открыт для аккредитованных исследователей и профильных организаций, заявки принимают с сегодняшнего дня и рассматривают поштучно. Публичным детектор не будет: слишком высок риск пропущенных меток и ложных срабатываний.
Зачем это нужно
Причина — статья 50 европейского AI Act, которая обязывает поставщиков генеративного ИИ делать сгенерированный текст распознаваемым машинными методами. Крайний срок для крупных игроков — 2 декабря. Под него попадают не только OpenAI, но и Anthropic, Microsoft, Google и Meta. Anthropic свою маркировку представила ещё в августе — тоже ради соответствия AI Act.
Насколько это надёжно
OpenAI честно перечисляет ограничения. На коротких фрагментах детектор срабатывает примерно в 80% случаев, математический текст распознаётся хуже, а правка написанного снижает точность. Компания прямо предупреждает: «сильные результаты в идеальных условиях не гарантируют надёжного обнаружения в повседневном использовании».
Важно и то, чего водяной знак не делает. Он не проверяет достоверность текста, не устанавливает его владельца, не измеряет вклад человека и не доказывает авторство. Детектор лишь сообщает, нашёл ли он метку OpenAI, — и при этом не идентифицирует пользователя и не раскрывает его запросы и переписку.
Что это значит для пользователей
Для обычного владельца подписки ChatGPT в ЕС изменение будет незаметным: текст на вид останется прежним. Реальный смысл метки — в руках преподавателей, редакторов и площадок, которым нужно отличать машинный текст от человеческого. Но пока детектор закрыт, а точность падает на коротких и отредактированных фрагментах, рассчитывать на водяной знак как на универсальный «детектор ИИ» рано. OpenAI фактически признаёт это сама, называя запуск экспериментом, с которого компания собирается учиться.
Источники
Иллюстрация: Coding Macbook — Marc Chouinard / stocksnap, CC0
