加州13歲女孩藉助谷歌AI策劃輕生 家長起訴谷歌

加利福尼亞州一名13歲女孩的父母近日起訴谷歌，指控該公司AI功能對女兒造成傷害。該案也是首起針對谷歌、圍繞校園配發設備內置AI搜索功能提起的過失訴訟。

訴狀顯示，女孩使用學校發放的Chromebook筆記本電腦，通過谷歌搜索內置AI功能策劃自殺、安排葬禮。女孩原本無精神疾病史，在持續使用谷歌搜索數月後，逐步陷入嚴重心理危機。今年3月17日，學校監控系統發現她創建名爲“葬禮”的文檔，隨即通知家長。母親後續發現她正在撰寫告別信，女孩父親及時介入干預。

值得關注的是，校方此前已經屏蔽Gemini應用與ChatGPT，但未能限制谷歌搜索自帶的AI功能。女孩家屬代理律師安德魯·利德爾提出，在谷歌移除搜索AI模式或完善學生安全機制前，學校應當關閉相關搜索功能。

谷歌發言人何塞·卡斯塔涅達回應，公司正覈查相關指控，對此事高度重視。谷歌稱，其AI系統設有自殘風險防護機制，同時具備應對繞過防護的相關設計。

未成年人使用AI的安全爭議持續發酵，多家科技企業接連卷入訴訟。OpenAI正面臨多起相關過失致死訴訟，其中包含一名16歲少年家屬的起訴；今年1月，谷歌、Character.AI也曾和多名青少年家屬就同類訴訟達成和解。

與此同時，谷歌、Meta等企業於11月5日起訴加州政府，試圖阻止一項青少年社交媒體管控法案生效。該法案由加州州長紐森在9月簽署，計劃2027年1月1日落地，禁止向16歲以下用戶提供易成癮的社交媒體功能。