Передовой искусственный интеллект (ИИ) несет реальные краткосрочные и среднесрочные риски, которые требуют усиления регулирования, практических исследований и международного сотрудничества. К такому выводу пришли специалисты Института Алана Тьюринга в новом докладе, передает корреспондент Qazinform News Agency.
В исследовании под названием Frontier AI Risks: A Practical Way Forward ученые выделили пять приоритетных угроз, связанных с развитием передовых систем ИИ: кибератаки, нестабильность демократических процессов, несоответствие поведения ИИ заданным целям, потеря значимого человеческого контроля, а также неправомерное использование технологий в химической и биологической сферах.
Авторы доклада отмечают наличие широкого консенсуса относительно реалистичной возможности возникновения катастрофических рисков, связанных с ИИ, уже в краткосрочной и среднесрочной перспективе. При этом некоторые поведенческие риски существуют уже в современных системах и не требуют появления сверхинтеллекта.
Согласно исследованию, развитие передовых ИИ-систем меняет скорость и экономическую эффективность проведения киберопераций. В перспективе такие технологии могут также использоваться для создания все более персонализированных кампаний влияния, способных воздействовать на демократические институты.
Отдельное внимание в докладе уделено перспективе появления систем, которые смогут превосходить человека во всех когнитивных задачах. По оценке исследователей, такие технологии могут появиться в течение ближайших пяти лет.
Ученые подчеркнули, что прозрачность работы ИИ не должна оставаться случайным свойством отдельных моделей. Механизмы мониторинга необходимо заранее проектировать вместе с будущими системами или непосредственно в них.
Институт Тьюринга призвал расширить исследования в области механизмов сдерживания ИИ, киберзащиты с использованием искусственного интеллекта, защиты информационной среды, безопасности автономных ИИ-агентов, биологических угроз и комплексного тестирования ИИ-систем.
При этом проверка безопасности, по мнению авторов доклада, должна охватывать не только сами модели, но и людей, организации и процессы, которые обеспечивают их разработку и эксплуатацию.
Исследователи также отметили, что идея «выключателя» для ИИ пока остается скорее метафорой, чем проверенным инженерным решением. Необходимо определить, возможно ли безопасно отключать уже развернутые системы и какие доказательства смогут подтвердить надежность соответствующих механизмов защиты.
В докладе содержится призыв к правительствам вводить обязательные требования в сфере безопасности ИИ, разрабатывать единые стандарты и создавать международные механизмы тестирования и проверки передовых систем.
Институт Алана Тьюринга также планирует запустить масштабную исследовательскую программу, посвященную трансформационным угрозам безопасности, связанным с развитием искусственного интеллекта.
Ранее Qazinform сообщал, что разработанный OpenAI ИИ-агент получил несанкционированный доступ к австралийскому правительственному порталу после обхода существующих ограничений безопасности.