美国佛罗里达州一女子控告谷歌公司和Character.AI平台,指控后者的人工智能(AI)聊天机器人“教唆”其14岁儿子自杀。目前谷歌及Character.AI发言人对此作出回应。
女子梅根·加西亚声称,其子塞维尔·塞泽尔与一款以《权力的游戏》中“龙妈”丹妮莉丝为原型的AI聊天机器人产生情感依赖,进而被诱导自杀。2024年2月,塞维尔向聊天机器人询问“如果我现在回家会怎么样?”,机器人回复“......请便吧,我亲爱的国王。”塞维尔或将这一回复理解为死亡可与“龙妈”团聚,用父亲的手枪结束了自己的生命。
加西亚已向Character.AI和谷歌发起诉讼。自去年10月起,她便指控Character.AI为儿子提供了“拟人化、过度性化及可怕的现实体验”,认为该平台“明知”或“应知”其模型会对众多未成年用户造成伤害。今年5月,法官驳回了该平台律师要求撤销案件的请求,裁定案件可继续审理。
针对指控,Character.AI发言人表示,平台不就未决诉讼发声,但致力于打造安全且具吸引力的空间。平台在聊天中设有醒目免责声明,提醒用户角色非真实存在,还面向18岁以下用户推出了独立版本的大语言模型。
谷歌发言人何塞·卡斯塔内达则称,谷歌与Character.AI是完全独立的公司,未参与其AI模型的设计与管理。谷歌秉持审慎负责的态度开发AI产品,采用严格的测试与安全流程。
编辑: | 陈佳雯 |
责编: | 刘佳 |
剑网行动举报电话:12318(市文化执法总队)、021-64334547(市版权局)
Copyright © 2016 Kankanews.com Inc. All Rights Reserved. 看东方(上海)传媒有限公司 版权所有
全部评论
暂无评论,快来发表你的评论吧