В целях улучшения безопасности искусственного интеллекта (ИИ), ведущие технологические корпорации, включая Google, OpenAI, Microsoft, Amazon, Nvidia, и Intel, сформировали Коалицию за безопасный ИИ (CoSAI).

Цель CoSAI — устранить разрозненность в подходах к безопасности ИИ, обмениваясь передовыми практиками, фреймворками и инструментами с открытым исходным кодом для гарантирования встроенной безопасности систем ИИ.

Коалиция, действующая под патронажем OASIS — некоммерческой организации, специализирующейся на разработке открытых стандартов, привлекла к сотрудничеству также IBM, PayPal, Cisco и Anthropic.

Основные направления деятельности CoSAI включают разработку стандартов безопасности ИИ, адресацию уникальных проблем, связанных с ИИ, и повышение уровня безопасности ИИ-приложений.

Представитель Google акцентировал на двойственном характере ИИ, указывая на его возможности как в защитных, так и в агрессивных аспектах применения.