特朗普AI风险应对计划依赖大型科技公司自我监管
二十余家科技公司自愿承诺落实白宫推荐的AI安全控制措施并接受独立安全审计
为什么重要
该协议意味着前沿AI安全审查目前主要依靠企业自愿承诺,开发者需关注后续安全标准与基准的走向。
阅读原文arstechnica.com
AI 解读(根据原文生成)
在AI安全事件不断升级、OpenAI因此暂停训练和发布的背景下,特朗普继续主张由AI行业自我监管,以此作为应对前沿AI开发风险的最佳路径。周二达成的一项协议中,二十余家科技公司自愿承诺实施白宫推荐的控制措施,包括接受独立安全审计,以检验企业内部管控、监控与检测机制是否真正有效。外部审查的重点包括网络安全、生物安全、化学威胁以及AI模型意外行为相关风险。这些公司还同意定期会面,讨论最佳实践并制定共同的AI安全标准与基准。签署方包括Anthropic的Dario Amodei、OpenAI的Sam Altman、SpaceXAI的Elon Musk、Nvidia的Jensen Huang、Meta的Mark Zuckerberg以及Alphabet/Google的Sundar Pichai。