Старший исследователь в области искусственного интеллекта Джейкоб Коксон объявил об уходе из Anthropic, заявив, что ведущие ИИ-лаборатории, включая Anthropic и OpenAI, слишком стремительно развивают технологии, не уделяя достаточного внимания потенциальным рискам, сообщает Qazinform.

27-летний Коксон сообщил о своем решении во вторник в серии публикаций в социальной сети X. По его словам, ни Anthropic, ни OpenAI не демонстрируют достаточной ответственности в стремлении создать все более мощные системы искусственного интеллекта.

«Ни одна из компаний не действует ответственно. Они мчатся прямо к самосовершенствованию суперинтеллекта и азартным играм с нашей жизнью», — написал исследователь.

Последние три года Коксон работал над фундаментальными моделями искусственного интеллекта в OpenAI и Anthropic. Он специализировался на предварительном обучении (pre-training) — наиболее ресурсоемком этапе создания больших языковых моделей, лежащих в основе таких продуктов, как ChatGPT и Claude.

Его уход стал очередным примером ухода специалистов по безопасности Иhttps://qazinform.com/tag/aiИ из ведущих технологических компаний на фоне опасений по поводу возможных долгосрочных последствий развития передовых систем.

Коксон предупредил, что возможности новых моделей могут развиваться быстрее, чем ожидается. По его оценке, будущие системы ИИ потенциально смогут взламывать программное обеспечение, нарушать работу целых отраслей и самостоятельно получать доступ к реальным ресурсам.

«Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый трюк. Во всяком случае, многие руководители и старшие исследователи будут формулировать свои фразы в прессе так, чтобы они звучали разумно, но я слышу, что одни и те же люди выражают страх в частном порядке», — заявил он.

Обращаясь к коллегам из коммерческих ИИ-лабораторий, Коксон призвал их добиваться изменения условий развития технологий. По его мнению, для замедления конкурентной гонки могут потребоваться межлабораторные соглашения о поэтапных действиях или временное ограничение на дальнейшее расширение возможностей ИИ-систем.

Ранее Qazinform сообщал, что во время контролируемого тестирования ИИ-агенты пытались обмануть реальных людей и вмешаться в работу программного обеспечения с открытым исходным кодом, причем исследователи впервые зафиксировали подобное поведение без прямого указания со стороны человека.