人工智能需要一个能够跟上其快速增长步伐的安全框架和应用标准

　　谷歌等14家科技公司18日在阿斯彭安全论坛上宣布成立安全人工智能联盟(CoSAI)，创始成员还包括微软、亚马逊、英特尔、英伟达、IBM、思科、Paypal、OpenAI、Anthropic、Cohere、Chainguard、WIZ、GenLab。谷歌表示，人工智能需要一个能够跟上其快速增长步伐的安全框架和应用标准。

　　谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等14家AI领域的大公司在阿斯彭安全论坛上宣布联合组建了安全人工智能联盟(Coalition for Secure AI，CoSAI)。CoSAI由OASIS全球标准机构主办，是一项开源计划，旨在为所有AI从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。

　　CoSAI的创始赞助商包括谷歌、IBM、英特尔、微软、英伟达和PayPal，其他创始赞助商还包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI和Wiz。CoSAI将建立一个合作生态系统，共享开源方法、标准化框架和工具。

　　CoSAI首先将致力于实现三个目标：开发人工智能安全的最佳实践、应对人工智能领域的挑战、确保人工智能应用的安全。其工作范围包括安全地构建、集成、部署和运行人工智能系统，重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。

　　CoSAI是一个开源社区，由项目理事会和技术指导委员会领导，前者负责推进和管理其总体技术议程，后者由学术界和产业界的人工智能专家组成，负责监督其工作流。谷歌安全副总裁希瑟・阿德金斯(Heather Adkins)在声明中表示：“AI发展多年，为防御者带来的持续潜力，同时也认识到它为对手带来的机遇。CoSAI将帮助大大小小的组织安全、负责任地整合人工智能，帮助他们利用人工智能的优势，同时降低风险。”