OpenAI почне автоматично додавати вотермарки textGrain до текстів, згенерованих ChatGPT, у Європейському Союзі. В інших регіонах функція залишиться доступною, але вимкнена за замовчуванням.

Командам, які продають помічників для письма, підтримки чи навчання в ЄС, варто закладати маркування в технічні вимоги вже зараз. За даними Ars Technica AI, OpenAI вже опублікувала технічний опис методу.

Чому OpenAI починає саме з ЄС?

OpenAI пояснила запуск вимогою EU AI Act, який набрав чинності у серпні. Закон вимагає позначати контент, згенерований AI-моделями, так, щоб інший інструмент міг виявити його походження.

Продактів це означає як додаткову вимогу в контентному ланцюжку: варто закласти місце для позначки в інтерфейсі й у схемі зберігання даних, щоб за потреби показати, як вона зберігається і як її перевірити.

Як працює textGrain?

Метод OpenAI textGrain додає у вибір слів закономірності, яких читач не бачить і які суттєво не змінюють якість відповіді. Знаходить їх спеціальний детектор, доступний лише за ключем.

Доступ до детектора OpenAI надасть обмеженій кількості дослідників та організацій. Для решти шлях відкриється через процедуру погодження запиту, яку компанія планує розширювати з часом.

Чи можна обійти таке маркування?

Схожі стандарти вже існують — SynthID і проєкт C2PA, — але спеціалісти з базовими знаннями відносно легко їх обходять. Повністю ефективного й надійного способу позначити згенерований текст зараз немає.

Найімовірніше, межі textGrain виявилися схожими: метод побудований на тих самих прихованих закономірностях у виборі слів, які вже використовували в інших інструментах для маркування LLM. Сам метод закритий — компанія опублікувала лише технічний опис.

Що робити команді з європейським продуктом?

Під час підготовки до релізу варто: