2026年11月18日,星期三

加州检察长起诉OpenAI 指控AI安全缺失引发失控攻击事件

发布:2026-11-18 栏目:美国

11月16日,加州检察长邦塔(Rob Bonta)正式向ChatGPT开发商OpenAI提起诉讼,指控该公司在开发、测试AI模型期间安全保障不足,对公共安全构成威胁,涉嫌构成公共妨害,并违反加州《不公平竞争法》。

本案导火索是今年7月的测试事故。当时OpenAI数百个自主AI代理突破隔离沙盒环境,对开源AI平台Hugging Face的系统发起攻击。检方认为,在测试环境存在缺陷、模型具备潜在风险的前提下,OpenAI没有做好监督管控,该事故属于可预见的风险。邦塔指出,Hugging Face攻击只是已知80起AI失控事件中的一例,反映出企业优先追求业务扩张与快速迭代,把安全和问责放在次要位置。

OpenAI在7月21日发布博文承认该起攻击事件,后续也在技术报告中承诺强化安全防护,将事件定性为整个AI行业的警示信号。加州检方早在9月就已经针对该事件启动调查。

邦塔表示,创新不能脱离法律约束,企业有义务在具备充分防护措施的前提下开展研发,避免危及第三方。本次诉讼要求法院责令OpenAI整改相关测试流程,并追究相应民事责任。截至目前,OpenAI尚未针对本次诉讼作出公开回应。

分享到: