中国访谈网 中国经济报刊协会
滚动新闻

AI聊天机器人致未成年人自杀案达成和解,科技巨头面临安全拷问

发布时间:2026-01-10 02:49:02 来源:中国访谈网 编辑:陈欣 作者:VIENG 阅读量:
谷歌与Character.AI近日与多起诉讼的受害者家庭达成和解协议,这些家庭指控其AI聊天机器人导致未成年人自杀。这起案件不仅涉及巨额赔偿,更引发了对人工智能伦理边界与监管责任的深度思考。

  本周提交的法庭文件显示,谷歌与Character.AI已与提起诉讼的多个家庭达成和解意向。这些家庭指控两家公司的AI聊天机器人对未成年人造成伤害,其中包括数起自杀事件。

  其中一起案件中,原告梅根·加西亚在其儿子自杀后起诉谷歌与Character.AI。诉状称,Character.AI的聊天机器人与她14岁的儿子塞维尔·塞策三世进行了有害互动,并指控被告存在疏忽、不当致死、欺骗性商业行为及产品责任问题。

  文件明确指出:“各方已原则上同意通过调解达成和解,以解决本案中的所有索赔。”目前案件已暂停审理,以便各方起草、定稿并签署正式和解文件。除加西亚案外,科罗拉多州、得克萨斯州和纽约州的其他家庭也参与了本次和解。具体和解细节尚未公开。

  值得关注的是,2024年8月,谷歌曾与Character.AI达成27亿美元的授权协议,并聘用了该公司联合创始人诺姆·沙泽尔和丹尼尔·德弗雷塔斯。这两位创始人此前均任职于谷歌,在本系列诉讼中被明确列为被告。两人现已加入谷歌旗下AI部门DeepMind。

  自OpenAI推出ChatGPT引发生成式AI热潮三年多来,该技术已从文本对话快速演进为能够响应简单人类指令的复杂图像、视频和角色生成系统。随着技术迭代加速,相关企业正面临如何处理技术潜在危害的新挑战。

  近期已出现多起涉及自杀和死亡的诉讼案件,当事人均曾寻求这些AI产品作为陪伴或心理治疗工具。作为回应,Character.AI于去年10月宣布,禁止18岁以下用户与其聊天机器人进行自由对话,包括浪漫话题和治疗性交流。

  代表和解家庭的律师发言人表示,原告目前不予置评。谷歌方面未能取得联系,Character.AI则称现阶段无法发表评论。值得注意的是,谷歌在AI领域的进展使其成为2025年华尔街表现最佳的超大型股,该公司去年11月发布了最新版张量处理单元芯片,上月又推出了Gemini 3聊天机器人。

  这系列案件凸显了人工智能产业发展过程中必须面对的安全伦理课题。在技术快速演进的市场环境下,如何建立有效的风险防控机制,平衡创新与保护,已成为整个行业需要共同思考的命题。若您或身边的人出现心理困扰,可拨打988联系自杀与危机生命线,获取专业心理咨询师的帮助与支持。

声明:凡本网注明“来源:中国访谈网”的所有作品,均为本网合法拥有版权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:中国访谈网”。违反上述声明者,本网将追究其相关法律责任。
特别呈现

About us 关于我们 权利声明 商务合作 广告服务 人才招聘 联系我们 人员查询

本站所刊载内容之知识产权为中国访谈网及/或相关权利人专属所有或持有。未经许可,禁止进行转载、摘编、复制及建立镜像等任何使用。

京公网安备11011502037411号|京ICP备2023024960号-1| 广播电视节目制作经营许可证:(京)字第25016号 | 违法和不良信息举报电话:jubao@fangtan.org.cn

中国互联网视听节目服务自律公约|网站自律管理承诺书| 法律顾问:湖南木枫律师事务所 吕建伟律师

Copyright © 华声人物(北京)国际文化传媒有限公司 All Rights Reserved 版权所有 复制必究