Компания OpenAI начнет внедрять невидимые водяные знаки в текстовый контент, создаваемый ChatGPT и Codex, для пользователей в Европейском союзе. Мера связана с требованиями Закона ЕС об искусственном интеллекте, сообщает корреспондент Qazinform.

Как заявили в компании 5 октября, развертывание технологии начнется в ближайшие недели и будет распространяться на все тарифные планы в ЕС. При этом OpenAI не планирует делать текстовые водяные знаки стандартной функцией для пользователей по всему миру.

Технология получила название textGrain. Она незаметно изменяет выбор слов в тексте, встраивая статистический сигнал, который не виден читателю. Поскольку информация содержится непосредственно в формулировках, водяной знак может сохраняться даже после копирования и вставки текста.

Требования ЕС о прозрачности, вступившие в силу 2 августа, обязывают поставщиков ИИ-систем маркировать созданный искусственным интеллектом контент в машиночитаемом формате, позволяющем его обнаруживать.

По данным OpenAI, тестирование не выявило существенного влияния водяных знаков на работу моделей. Вместе с тем редактирование текста может снизить эффективность обнаружения. Например, замена 10% слов синонимами в одном из тестов снизила показатель обнаружения примерно с 92% до 66%. Дополнительные сложности возникают при работе с короткими текстами, математическими ответами и переводами.

Первоначально доступ к детектору будет предоставляться только одобренным исследователям и экспертным организациям. В OpenAI объяснили это необходимостью учитывать риск пропуска водяных знаков и ложных срабатываний.

Компания подчеркнула, что технология не позволяет установить личность пользователя, определить достоверность текста или оценить степень участия человека в его создании. Обнаруженный сигнал лишь указывает на то, что часть текста могла быть сгенерирована или обработана системами OpenAI.

При этом отсутствие водяного знака, по предупреждению компании, не является доказательством того, что текст написан человеком.

OpenAI также опубликовала технический отчет о технологии и сообщила о планах сделать ее исходный код открытым.

Ранее агентство Qazinform сообщало, что OpenAI представила Dots — новую линейку постоянно действующих ИИ-агентов, предназначенных для самостоятельного выполнения задач пользователей.