Nvidia, Google, IBM создали Коалицию за безопасный ИИ

Более десяти крупнейших ИТ-компаний мира создали Коалицию на безопасный искусственный интеллект (англ. Coalition for Secure AI, CoSAI). В число участников и спонсоров CoSAI вошли Nvidia, Microsoft, IBM, Google, Intel, Cisco, OpenAI, PayPal, Amazon, Atrophic, Chainguard, Cohere, GenLab, и Wiz. 

– Мы стремимся сотрудничать с организациями, которые находятся в авангарде ответственных и безопасных технологий искусственного интеллекта, – отметил сопредседатель управляющего совета CoSAI Омар Сантос. – В CoSAI мы будем использовать наш совокупный опыт и ресурсы для ускорения разработки надежных стандартов и методов безопасности ИИ, которые принесут пользу всей отрасли. 

В рамках Коалиции специалисты будут создавать методологию с открытым исходным кодом, которая позволит стандартизировать разработку ИИ-моделей с помощью безопасных и проверенных фреймворков и инструментов. Особое внимание уделяется безопасной интеграции нейросетей в действующие ИТ-инфраструктуры, чтобы минимизировать вероятность кражи данных и повысить устойчивость сервисов к кибератакам. 

Безопасная разработка искусственного интеллекта – одна из центральных тем отрасли, поскольку многие эксперты по нейросетям предупреждают, что ряд компаний в погоне за прибылью ставить под угрозу само существование человечества. В этом часто обвиняют OpenAI, одну из ведущих ИИ-компаний, которая также вошла в Коалицию. Недавно ее сотрудники анонимно обратились в Комиссию по ценным бумагам и биржам США, заявив, что OpenAI запрещает сообщать регуляторам о разрабатываемых технологиях, даже если они могут нанести вред.