构筑 AI 安全，谷歌、微软、英伟达等 14 家公司组建安全 AI 联盟
来源：本站
时间：2024-07-22
7 月 19 日消息，昨日举办的阿斯彭安全论坛(Aspen Security Forum)会议中，谷歌、微软、OpenAI、亚马逊、英伟达、英特尔等 14 家 AI 领域的大公司宣布联合组建安全人工智能联盟(Coalition for Secure AI，CoSAI)。
CoSAI 由 OASIS 全球标准机构主办，是一项开源计划，旨在为所有 AI 从业人员和开发人员提供创建设计安全人工智能系统所需的指导和工具。CoSAI 将建立一个合作生态系统，共享开源方法、标准化框架和工具等等。
CoSAI 的创始赞助商包括谷歌、IBM、英特尔、微软、英伟达和 PayPal。其他创始赞助商包括亚马逊、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI 和 Wiz。
CoSAI 首先将致力于实现三个目标：
开发人工智能安全的最佳实践
应对人工智能领域的挑战
确保人工智能应用的安全
CoSAI 的工作范围包括安全地构建、集成、部署和运行人工智能系统，重点是降低模型盗窃、数据中毒、提示注入、规模滥用和推理攻击等风险。
CoSAI 是一个开源社区，由项目理事会和技术指导委员会领导，前者负责推进和管理其总体技术议程，后者由学术界和产业界的人工智能专家组成，负责监督其工作流。
谷歌安全副总裁希瑟・阿德金斯(Heather Adkins)在声明中的部分内容如下：
AI 发展多年，为防御者带来的持续潜力，同时也认识到它为对手带来的机遇。
CoSAI 将帮助大大小小的组织安全、负责任地整合人工智能，帮助他们利用人工智能的优势，同时降低风险。
来源：IT之家