Исследователи из Калифорнийского университета в Риверсайде совместно со специалистами YouTube и Google DeepMind разработали новую систему искусственного интеллекта, способную не только выявлять видео, созданные с помощью ИИ, но и определять, какая именно модель использовалась для их генерации. Об этом сообщает Qazinform News Agency со ссылкой на опубликованное исследование.
Разработка получила название SAGA (Source Attribution of Generative AI Videos). Система позволяет установить происхождение видео, определяя конкретный генератор, команду разработчиков, версию модели и даже способ создания ролика. Такой подход может значительно расширить возможности цифровой криминалистики и проверки подлинности контента.
По данным авторов исследования, SAGA анализирует видео сразу по пяти уровням. Сначала она определяет, является ли ролик сгенерированным ИИ или реальным. Затем устанавливает, был ли он создан по текстовому запросу или на основе изображения, определяет версию модели, разработчика и, наконец, идентифицирует конкретный генератор.
Одной из ключевых особенностей системы стала способность эффективно обучаться на минимальном объеме размеченных данных. Исследователи утверждают, что SAGA показала результаты, сопоставимые с полностью контролируемыми методами обучения, используя всего 0,5% размеченных данных для каждой модели ИИ.
Команда также представила новую технологию, получившую название временные подписи внимания. Она анализирует едва заметные особенности формирования движения между кадрами, что позволяет различать видео, созданные разными генеративными моделями. По мнению авторов, этот механизм поможет выявлять даже ролики, созданные ранее неизвестными системами ИИ.
Для проверки эффективности разработчики протестировали SAGA на открытых наборах данных, включающих видео, созданные 19 различными генеративными моделями. Согласно результатам исследования, система превзошла существующие методы обнаружения ИИ-контента и сохранила высокую точность даже при анализе видео, созданных моделями, с которыми она ранее не сталкивалась.
Авторы считают, что внедрение SAGA поможет повысить прозрачность цифрового контента и станет важным инструментом в борьбе с распространением сгенерированных ИИ видеоматериалов.
Ранее сообщалось, что ученые придумали несуществующее заболевание, после чего искусственный интеллект начал распространять его как реальный медицинский факт.