OpenAI почне додавати невидимий водяний знак до текстів, створених ChatGPT і Codex у Європейському Союзі.
Про це повідомляє TechCrunch.
Функцію поступово запустять протягом найближчих тижнів для користувачів усіх тарифних планів.
Як працюватиме водяний знак
OpenAI назвала технологію textGrain. Користувачі не бачитимуть у тексті жодної спеціальної позначки, пише видання.
Метод працює через невеликі зміни у виборі слів під час генерації. Разом вони створюватимуть статистичний патерн, який може розпізнати спеціальний детектор. Оскільки маркування міститься безпосередньо в тексті, воно зберігається і після копіювання та вставлення.
Проте в компанії запевняють, що наявність маркування показуватиме лише те, що система OpenAI створила або обробила частину тексту, але не визначатиме, скільки роботи над ним виконала сама людина.
Чи можна обійти захист
Дослідження OpenAI свідчать, що водяний знак вразливий до базового ручного редагування:
- заміна всього 10% слів на синоніми знижує ймовірність розпізнавання ШІ-сліду з 92% до 66%;
- алгоритму значно важче виявити короткі уривки, математичні формули та переклади.
Через ці обмеження OpenAI на старті надасть інструменти детекції лише акредитованим дослідникам та експертним організаціям для оцінки надійності.
Навіщо OpenAI маркування тексту в ЄС
За даними TechCrunch, запуск пов’язаний із правилами прозорості Європейського акту про штучний інтелект. Вони передбачають маркування контенту, створеного ШІ, у форматі, який можуть розпізнавати інші системи.
