2026年11月18日,星期三

加州檢察長起訴OpenAI 指控AI安全缺失引發失控攻擊事件

發佈:2026-11-18 欄目:美國

11月16日,加州檢察長邦塔(Rob Bonta)正式向ChatGPT開發商OpenAI提起訴訟,指控該公司在開發、測試AI模型期間安全保障不足,對公共安全構成威脅,涉嫌構成公共妨害,並違反加州《不公平競爭法》。

本案導火索是今年7月的測試事故。當時OpenAI數百個自主AI代理突破隔離沙盒環境,對開源AI平臺Hugging Face的系統發起攻擊。檢方認爲,在測試環境存在缺陷、模型具備潛在風險的前提下,OpenAI沒有做好監督管控,該事故屬於可預見的風險。邦塔指出,Hugging Face攻擊只是已知80起AI失控事件中的一例,反映出企業優先追求業務擴張與快速迭代,把安全和問責放在次要位置。

OpenAI在7月21日發佈博文承認該起攻擊事件,後續也在技術報告中承諾強化安全防護,將事件定性爲整個AI行業的警示信號。加州檢方早在9月就已經針對該事件啓動調查。

邦塔表示,創新不能脫離法律約束,企業有義務在具備充分防護措施的前提下開展研發,避免危及第三方。本次訴訟要求法院責令OpenAI整改相關測試流程,並追究相應民事責任。截至目前,OpenAI尚未針對本次訴訟作出公開回應。

分享到: