7 月 19 日消息，昨日舉辦的阿斯彭安全論壇（Aspen Security Forum）會議中，谷歌、微軟、OpenAI、亞馬遜、英偉達、英特爾等 14 家 AI 領域的大公司宣布聯合組建安全人工智能聯盟（Coalition for Secure AI，CoSAI）。
CoSAI 由 OASIS 全球標準機構主辦，是一項開源計劃，旨在為所有 AI 從業人員和開發人員提供創建設計安全人工智能系統所需的指導和工具。CoSAI 將建立一個合作生態系統，共享開源方法、標準化框架和工具等等。
CoSAI 的創始贊助商包括谷歌、IBM、英特爾、微軟、英偉達和 PayPal。其他創始贊助商包括亞馬遜、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 首先將致力于實現三個目標：
-
開發人工智能安全的最佳實踐
-
應對人工智能領域的挑戰
-
確保人工智能應用的安全
CoSAI 的工作范圍包括安全地構建、集成、部署和運行人工智能系統，重點是降低模型盜竊、數據中毒、提示注入、規模濫用和推理攻擊等風險。
CoSAI 是一個開源社區，由項目理事會和技術指導委員會領導，前者負責推進和管理其總體技術議程，后者由學術界和產業界的人工智能專家組成，負責監督其工作流。
IT之家附上谷歌安全副總裁希瑟?阿德金斯（Heather Adkins）在聲明中的部分內容如下：
AI 發展多年，為防御者帶來的持續潛力，同時也認識到它為對手帶來的機遇。
CoSAI 將幫助大大小小的組織安全、負責任地整合人工智能，幫助他們利用人工智能的優勢，同時降低風險。