Инструменты для выявления текстов, созданных искусственным интеллектом, которые все чаще применяются университетами, пока не обеспечивают достаточной точности и могут ошибочно обвинять студентов в академическом мошенничестве. К такому выводу пришли авторы анализа, опубликованного в журнале Nature, передает корреспондент Qazinform News Agency.
Одним из примеров стала история студентки факультета химии Университета штата Айдахо Лорен Ягер. Во время подачи документов в аспирантуру она узнала, что некоторые университеты намерены проверять мотивационные письма с помощью детекторов ИИ. Несмотря на то что все эссе были написаны самостоятельно, несколько популярных сервисов определили их как почти полностью созданные искусственным интеллектом. Опасаясь отказа в поступлении, студентке пришлось переписать текст в менее «отшлифованном» стиле, после чего оценка вероятности использования ИИ снизилась. Впоследствии она была принята в аспирантуру Университета штата Юта.
Исследователи отмечают, что распространение генеративного ИИ значительно усложнило проверку академической добросовестности. В отличие от традиционных систем поиска плагиата, которые сравнивают текст с уже существующими источниками, современные ИИ-модели создают оригинальные формулировки, что затрудняет их выявление.
Поэтому многие университеты начали использовать специализированные сервисы, включая GPTZero, Copyleaks, Turnitin, Grammarly и QuillBot. Однако, как показывают исследования, точность этих инструментов существенно различается.
Так, исследование 2025 года показало, что GPTZero успешно выявляет многие тексты, созданные ИИ, но при этом ошибочно относит к ним около 16% эссе, написанных людьми. Другие исследования свидетельствуют, что большинство популярных детекторов лучше распознают тексты, созданные ранними моделями искусственного интеллекта, чем более современными системами. Кроме того, они нередко выдают противоречивые результаты при анализе подлинных человеческих текстов. В отдельных случаях некоторые сервисы даже определяли Декларацию независимости США как документ, созданный искусственным интеллектом.
Особую обеспокоенность вызывает возможная предвзятость таких систем по отношению к студентам, для которых английский язык не является родным. Исследование Стэнфордского университета показало, что более половины англоязычных эссе, написанных китайскими студентами еще до появления ChatGPT, были ошибочно классифицированы как созданные ИИ. При этом работы американских студентов распознавались значительно точнее. По мнению исследователей, причина кроется в особенностях словарного запаса и структуры предложений.
Использование подобных технологий уже стало предметом судебных разбирательств и общественных дискуссий. В одном из случаев суд в Нью-Йорке отменил дисциплинарное взыскание в отношении студента, поскольку обвинение основывалось исключительно на результатах работы детектора ИИ. В Великобритании омбудсмен по вопросам высшего образования также призвал университеты с осторожностью использовать такие инструменты после многочисленных жалоб студентов, утверждавших, что программное обеспечение необъективно оценивает их стиль письма. Некоторые университеты уже отказались от применения системы Turnitin для обнаружения ИИ из-за вопросов к прозрачности ее работы.
Авторы публикации считают, что вместо того чтобы полагаться исключительно на автоматические детекторы, вузам следует пересматривать подходы к оценке знаний, уделяя больше внимания самому процессу подготовки работы. Одним из перспективных решений называют использование инструментов, которые фиксируют историю создания и редактирования документа, позволяя преподавателям проследить, как формировалась работа студента.