Искусственный интеллект может стать источником масштабных кибератак, ускорить разработку опасных видов вооружений, усилить социальное неравенство, нанести ущерб окружающей среде и привести к концентрации власти в руках ограниченного числа компаний. К таким выводам пришли авторы международного доклада «Приоритизация рисков от искусственного интеллекта», подготовленного при участии 272 экспертов из 37 стран, сообщает агентство Qazinform.
В рамках исследования специалисты оценили 24 категории потенциальных рисков ИИ до 2030 года. Под катастрофическим ущербом авторы понимают последствия, которые могут привести, например, к гибели более миллиона человек, экономическим потерям свыше 100 млрд долларов или масштабному подрыву демократических институтов, гражданских прав и общественной стабильности.
Даже при базовом сценарии развития технологий вероятность катастрофических последствий выше 10% была присвоена 18 из 24 рассматриваемых рисков.
Одними из наиболее серьезных угроз названы использование ИИ при создании вооружений и проведении кибератак. Эксперты оценили вероятность таких последствий в 21%. По их мнению, искусственный интеллект способен значительно упростить разработку вредоносного программного обеспечения, автономных систем вооружения, а также химических, биологических, радиологических и ядерных угроз.
Еще более высокий показатель — 21,5% — получил риск появления у ИИ опасных возможностей. Речь идет о способности систем самостоятельно обманывать и манипулировать людьми, проводить сложные кибероперации, содействовать разработке оружия или участвовать в создании еще более совершенных моделей искусственного интеллекта. Авторы исследования отмечают, что подобные возможности могут использоваться злоумышленниками, а также возникать вследствие непредвиденного поведения самих систем.
Серьезной угрозой эксперты считают и концентрацию ресурсов, данных и вычислительных мощностей в руках ограниченного числа корпораций и государств. Вероятность катастрофических последствий такого сценария оценена в 18%. По мнению авторов, высокая стоимость разработки передовых моделей ИИ может привести к дальнейшему усилению влияния крупнейших технологических компаний.
Еще одним фактором риска названа усиливающаяся конкуренция между государствами и разработчиками ИИ. Вероятность негативных последствий такого сценария оценивается в 16,6%. В условиях технологической гонки компании могут сокращать объемы тестирования и внедрять новые модели до полной оценки их безопасности, чтобы не уступить конкурентам.
Исследование также указывает на возможные социально-экономические последствия широкого внедрения искусственного интеллекта. Автоматизация рабочих процессов способна изменить рынок труда, ухудшить качество занятости и увеличить разрыв между владельцами передовых технологий и остальным обществом. Даже при наличии механизмов регулирования вероятность катастрофического ущерба от роста безработицы и неравенства эксперты оценили в 11%.
Отдельное внимание в докладе уделено экологическим последствиям развития ИИ. Обучение и эксплуатация крупных моделей требуют значительных объемов электроэнергии, воды, вычислительных мощностей и специализированного оборудования. Вероятность серьезного экологического ущерба оценивается в 12%.
Кроме того, исследователи предупреждают о риске массового распространения дезинформации. Современные системы ИИ способны создавать реалистичные тексты, изображения, аудио- и видеоматериалы, что может осложнить проверку информации, усилить политические манипуляции и снизить доверие к СМИ и государственным институтам. Вероятность катастрофических последствий от распространения ложной информации эксперты оценили в 12,8%. При этом более пятой части участников исследования включили дезинформацию и утрату общего понимания реальности в число трех наиболее серьезных угроз, связанных с развитием искусственного интеллекта.
Авторы доклада подчеркивают, что представленные оценки отражают коллективное мнение экспертов, а не являются точными прогнозами. Кроме того, многие из рассматриваемых рисков взаимосвязаны и могут реализоваться одновременно.
Ранее агентство Qazinform сообщало, что власти Токио расширяют программу поиска потенциальных партнеров для брака с использованием искусственного интеллекта.