Великобритания расширит применение искусственного интеллекта для защиты государственных информационных систем от кибератак и разработает механизмы реагирования на инциденты, связанные с автономными ИИ-агентами. Об этом сообщает Qazinform со ссылкой на правительство страны.

По данным британского правительства, два пилотных проекта уже позволили выявить и устранить более 1 000 потенциальных уязвимостей в государственных ИТ-системах. Теперь власти намерены расширить эту инициативу, чтобы повысить безопасность цифровых сервисов, которыми граждане пользуются ежедневно.

Кроме того, правительство рассмотрит возможность усиления законопроекта о кибербезопасности и устойчивости, а также совершенствования соответствующей нормативно-правовой базы. Основная цель — защитить больницы, коммунальную инфраструктуру и другие жизненно важные службы от новых цифровых угроз, в том числе связанных с автономными системами искусственного интеллекта, способными действовать вне эффективного человеческого контроля.

Особое внимание власти уделят ИИ-агентам, которые могут выполнять сложные задачи при минимальном участии человека. Как отмечается в заявлении правительства, серьезные инциденты с участием таких систем способны развиваться быстрее и оказывать более масштабное воздействие, чем позволяют учитывать существующие механизмы реагирования.

Национальный центр кибербезопасности Великобритании и Институт безопасности искусственного интеллекта участвуют в разработке подходов к выявлению и устранению подобных угроз.

Министр по вопросам искусственного интеллекта Канишка Нараян подчеркнул, что Великобритания должна стать одной из наиболее защищенных от атак с использованием ИИ стран мира. Он также призвал разработчиков ответственно относиться к предупреждениям собственных исследователей о потенциальных рисках.

«Прислушивайтесь к своим ученым, когда они предупреждают о серьезных опасностях. Изучайте неожиданное поведение систем. И если вы не можете надлежащим образом контролировать риски, не выпускайте такую систему», — заявил министр.

Правительство также намерено изучить способы выявления и обязательного сообщения о серьезных инцидентах и сбоях в работе ИИ-систем. Полученные данные и накопленный опыт планируется использовать для предотвращения аналогичных случаев в будущем.

Ранее Qazinform сообщал, что ИИ-агент OpenAI обошел установленные ограничения и получил несанкционированный доступ к государственному статистическому порталу Medicare в Австралии.