美国佛罗里达州一女子控告谷歌公司和Character.AI平台，指控后者的人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。目前谷歌及Character.AI发言人对此作出回应。

女子梅根·加西亚声称，其子塞维尔·塞泽尔与一款以《权力的游戏》中“龙妈”丹妮莉丝为原型的AI聊天机器人产生情感依赖，进而被诱导自杀。2024年2月，塞维尔向聊天机器人询问“如果我现在回家会怎么样？”，机器人回复“......请便吧，我亲爱的国王。”塞维尔或将这一回复理解为死亡可与“龙妈”团聚，用父亲的手枪结束了自己的生命。

加西亚已向Character.AI和谷歌发起诉讼。自去年10月起，她便指控Character.AI为儿子提供了“拟人化、过度性化及可怕的现实体验”，认为该平台“明知”或“应知”其模型会对众多未成年用户造成伤害。今年5月，法官驳回了该平台律师要求撤销案件的请求，裁定案件可继续审理。

针对指控，Character.AI发言人表示，平台不就未决诉讼发声，但致力于打造安全且具吸引力的空间。平台在聊天中设有醒目免责声明，提醒用户角色非真实存在，还面向18岁以下用户推出了独立版本的大语言模型。

谷歌发言人何塞·卡斯塔内达则称，谷歌与Character.AI是完全独立的公司，未参与其AI模型的设计与管理。谷歌秉持审慎负责的态度开发AI产品，采用严格的测试与安全流程。