Группа американских законодателей от Демократической и Республиканской партий внесла в Конгресс законопроект AI Kill Switch Act, который предоставит федеральным властям право оперативно ограничивать или полностью отключать системы искусственного интеллекта, представляющие серьезную угрозу общественной безопасности. Об этом сообщает корреспондент Qazinform News Agency.
Авторами инициативы стали конгрессмен-демократ Тед Лью и конгрессмен-республиканец Натаниэль Моран. По их словам, стремительное развитие искусственного интеллекта требует создания эффективных механизмов государственного контроля.
«Крайне важно, чтобы передовые системы ИИ имели механизм экстренного отключения, а федеральное правительство обладало четкими полномочиями и процедурами для остановки опасных моделей», — заявил Тед Лью.
Натаниэль Моран подчеркнул, что развитие искусственного интеллекта должно продолжаться, однако люди должны сохранять возможность контролировать создаваемые ими технологии.
Согласно законопроекту, Министерство внутренней безопасности США сможет обязать разработчиков замедлить работу, временно приостановить или полностью отключить модели ИИ, если они будут признаны источником значительных рисков. Кроме того, компании должны будут предусмотреть техническую возможность ограничения или остановки своих систем, а также сообщать властям о серьезных инцидентах и сбоях, связанных с искусственным интеллектом.
Обосновывая необходимость инициативы, Тед Лью сослался на недавние опасения, связанные с передовыми моделями компании Anthropic, чьи расширенные кибервозможности ранее стали причиной временных ограничений на их публичное распространение со стороны правительства США.
Законопроект уже поддержали несколько организаций, работающих в сфере безопасности искусственного интеллекта, включая AI Policy Network, Americans for Responsible Innovation, ControlAI и Alliance for Secure AI.
Ранее OpenAI заявляла, что поддерживает государственную политику, направленную на безопасное развитие технологий искусственного интеллекта на благо общества. На момент публикации компания не прокомментировала предложенный законопроект.
В то же время американские военные продолжают расширять применение искусственного интеллекта, развивая сотрудничество с ведущими технологическими компаниями, среди которых OpenAI, Google, Microsoft, Amazon, Oracle, Nvidia и SpaceX.
Ранее OpenAI сообщила о необычном инциденте, произошедшем во время внутреннего тестирования. По данным компании, две экспериментальные модели ИИ автономно использовали обнаруженные уязвимости и получили несанкционированный доступ к производственной инфраструктуре платформы Hugging Face при выполнении тестового задания по кибербезопасности.
В OpenAI подчеркнули, что испытания проходили в полностью изолированной исследовательской среде. Компания совместно с Hugging Face проводит расследование инцидента и усиливает механизмы защиты. Генеральный директор Hugging Face Клеман Деланг назвал произошедшее «поразительным», отметив, что OpenAI не имела злого умысла.
Ранее агентство Qazinform сообщало, что, согласно опросу Verasight, американцы активно внедряют инструменты искусственного интеллекта, однако большинство из них по-прежнему считают необходимым усиление государственного регулирования этой сферы.