14 крупных компаний в области искусственного интеллекта, включая Google, Microsoft, OpenAI, Amazon, Nvidia, IBM, PayPal, Cisco, Anthropic и Intel, собираются вместе, чтобы сформировать Коалицию за безопасный искусственный интеллект (CoSAI). Сообщается, что эта разработка направлена на решение «фрагментированной ситуации в сфере безопасности ИИ».
CoSAI, организованный органом по глобальному стандартизации OASIS, представляет собой инициативу с открытым исходным кодом, целью которой является предоставление всем практикам и разработчикам ИИ руководств и инструментов, необходимых им для создания и проектирования безопасных систем ИИ. Ожидается, что будет создана совместная экосистема для обмена методами с открытым исходным кодом, стандартизированными структурами и инструментами.
CoSAI — это сообщество с открытым исходным кодом, возглавляемое Советом проекта (который отвечает за продвижение и управление его общей повесткой дня) и Техническим руководящим комитетом (состоящим из экспертов по искусственному интеллекту из академических кругов и промышленности, который контролирует его рабочие направления).
Основные цели инициативы перечислены ниже:
- Разработка лучших практик для безопасности ИИ
- Решение задач в области искусственного интеллекта
- Обеспечение безопасности приложений ИИ
В сферу деятельности CoSAI входит безопасное создание, интеграция, развертывание и эксплуатация систем искусственного интеллекта с упором на снижение таких рисков, как кража моделей, отравление данных, внедрение подсказок, злоупотребление масштабированием и атаки на основе вывода.
Хизер Адкинс, вице-президент Google по безопасности, заявила:
ИИ находится в стадии разработки уже много лет, и он обладает постоянным потенциалом, который он предлагает защитникам, а также осознает возможности, которые он предоставляет противникам. CoSAI поможет большим и малым организациям безопасно и ответственно интегрировать ИИ, помогая им использовать преимущества ИИ и одновременно снижать риски.
Сообщается, что инициативу спонсируют Google, IBM, Intel, Microsoft, Nvidia, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI и Wiz.