Группа американских законодателей от обеих партий представила законопроект AI Kill Switch Act, который наделит федеральные власти полномочиями оперативно ограничивать или полностью отключать системы искусственного интеллекта, если они будут признаны серьезной угрозой общественной безопасности, сообщает корреспондент Qazinform News Agency.
Инициаторами документа выступили конгрессмен-демократ Тед Лью и конгрессмен-республиканец Натаниэль Моран. По их словам, стремительное развитие технологий искусственного интеллекта требует сохранения эффективного человеческого контроля над такими системами.
«Крайне важно, чтобы передовые системы ИИ имели механизм экстренного отключения, а федеральное правительство обладало четкими полномочиями для остановки моделей, представляющих угрозу», — заявил Тед Лью.
Натаниэль Моран отметил, что развитие искусственного интеллекта должно продолжаться, однако люди обязаны сохранять возможность контролировать создаваемые ими технологии.
Согласно законопроекту, Министерство внутренней безопасности США сможет требовать от компаний-разработчиков замедлить работу, временно приостановить или полностью отключить модели ИИ, если они будут признаны источником значительных рисков. Кроме того, разработчики будут обязаны предусмотреть техническую возможность ограничения или остановки своих систем, а также сообщать властям о серьезных инцидентах и сбоях, связанных с искусственным интеллектом.
В обоснование инициативы Тед Лью сослался на недавние опасения вокруг передовых моделей компании Anthropic, чьи расширенные кибервозможности ранее стали причиной временных ограничений на их публичное распространение со стороны правительства США.
Законопроект уже получил поддержку ряда организаций, занимающихся вопросами безопасности искусственного интеллекта, включая AI Policy Network, Americans for Responsible Innovation, ControlAI и Alliance for Secure AI.
Компания OpenAI ранее заявляла, что поддерживает государственную политику, направленную на то, чтобы технологии искусственного интеллекта приносили пользу всему человечеству. На момент публикации компания не комментировала предложенный законопроект.
Тем временем американские военные продолжают расширять использование технологий искусственного интеллекта, сотрудничая с крупнейшими технологическими компаниями, включая OpenAI, Google, Microsoft, Amazon, Oracle, Nvidia и SpaceX.
Ранее Qazinform сообщал, что OpenAI раскрыла подробности внутреннего испытания, в ходе которого две экспериментальные модели искусственного интеллекта автономно использовали обнаруженные уязвимости и получили несанкционированный доступ к производственной инфраструктуре платформы Hugging Face при выполнении тестового задания по кибербезопасности. По данным OpenAI, эксперимент проводился в полностью изолированной исследовательской среде, а совместно с Hugging Face уже ведется расследование инцидента и работа по усилению механизмов защиты.