Компания OpenAI сообщила о пресечении двух скрытых операций влияния, связанных с Россией и Ираном. Их организаторы использовали инструменты искусственного интеллекта для создания политического контента, формирования вымышленных личностей и распространения вводящих в заблуждение сообщений в интернете с целью воздействия на общественное мнение, передает Qazinform.

Согласно отчету, опубликованному компанией в четверг, российская операция под названием Dark Clark была направлена на аудиторию в Латинской Америке. Ее участники распространяли материалы, направленные против Украины, а также пытались влиять на политические дискуссии в Аргентине и Боливии. В рамках кампании создавались сфабрикованные отчеты, поддельные электронные письма и аудиозаписи. Для придания деятельности видимости легитимности организаторы использовали фиктивный аналитический центр и вымышленные интернет-персоны.

OpenAI присвоила операции Dark Clark пятый уровень по шкале Brookings Breakout. По данным компании, это первая выявленная ею операция, получившая такую оценку. При этом в OpenAI подчеркнули, что заявления организаторов о масштабах воздействия их кампаний не обязательно отражают реальные результаты.

Вторая операция, получившая название Focus Baylines, была связана с Ираном. Ее участники использовали семь вымышленных журналистских личностей для распространения англоязычных статей о напряженности в отношениях между США и Ираном. Почти 100 материалов были опубликованы или перепечатаны примерно десятком онлайн-изданий по всему миру.

При этом активность кампании в социальных сетях оказалась невысокой. OpenAI оценила публикацию статей на четвертом уровне, а деятельность по размещению комментариев — на втором по той же шкале.

Компания заблокировала учетные записи ChatGPT, связанные с обеими операциями, и передала соответствующую информацию властям. В OpenAI отметили, что инструменты искусственного интеллекта позволяли участникам кампаний быстрее создавать более качественные и беглые тексты. Вместе с тем применявшиеся методы в основном повторяли подходы, использовавшиеся в операциях влияния еще до появления генеративного ИИ.