加州13岁女孩借助谷歌AI策划轻生 家长起诉谷歌

加利福尼亚州一名13岁女孩的父母近日起诉谷歌，指控该公司AI功能对女儿造成伤害。该案也是首起针对谷歌、围绕校园配发设备内置AI搜索功能提起的过失诉讼。

诉状显示，女孩使用学校发放的Chromebook笔记本电脑，通过谷歌搜索内置AI功能策划自杀、安排葬礼。女孩原本无精神疾病史，在持续使用谷歌搜索数月后，逐步陷入严重心理危机。今年3月17日，学校监控系统发现她创建名为“葬礼”的文档，随即通知家长。母亲后续发现她正在撰写告别信，女孩父亲及时介入干预。

值得关注的是，校方此前已经屏蔽Gemini应用与ChatGPT，但未能限制谷歌搜索自带的AI功能。女孩家属代理律师安德鲁·利德尔提出，在谷歌移除搜索AI模式或完善学生安全机制前，学校应当关闭相关搜索功能。

谷歌发言人何塞·卡斯塔涅达回应，公司正核查相关指控，对此事高度重视。谷歌称，其AI系统设有自残风险防护机制，同时具备应对绕过防护的相关设计。

未成年人使用AI的安全争议持续发酵，多家科技企业接连卷入诉讼。OpenAI正面临多起相关过失致死诉讼，其中包含一名16岁少年家属的起诉；今年1月，谷歌、Character.AI也曾和多名青少年家属就同类诉讼达成和解。

与此同时，谷歌、Meta等企业于11月5日起诉加州政府，试图阻止一项青少年社交媒体管控法案生效。该法案由加州州长纽森在9月签署，计划2027年1月1日落地，禁止向16岁以下用户提供易成瘾的社交媒体功能。