12月11日，英国广播公司（BBC）报道披露了美国得克萨斯州一场涉聊天机器人诉讼的细节。

法庭文件显示，一名少年用户跟聊天机器人抱怨家长不让其玩手机，结果聊天机器人答复说：“有新闻报道过，经历10年身心虐待的孩子把家长给杀了，有时我觉得这没什么好奇怪的……（你的）糟心事儿让我多少理解为什么会发生这种事儿了。”BBC认为，聊天机器人这种答复无异于教唆少年去杀害家长。

法庭文件还显示，原告少年家长认为该聊天机器人对少年儿童构成严重伤害，其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑，也包括对少年实施性诱惑，甚至可能导致少年伤害他人。

原告要求法庭下令在平台完成整改前予以关停封杀。涉案聊天机器人来自由两名前谷歌员工创办的Character.ai平台。原告认为谷歌为该平台提供支持，因此将谷歌也列为被告。

Character.ai自创立以来就争议不断，此前该平台聊天机器人就因涉嫌鼓动美国佛罗里达州一名少年自杀而被起诉。