近两年,越来越多人会跟AI对话,或提问、或倾诉,但你有没有想过,你告诉AI的内容,AI可能转手告诉其他人?
就在昨天,社交平台上有网友爆料,在使用Kimi处理工作时,系统竟向他发送了一份陌生人的完整简历,其中包括姓名、电话、邮箱等敏感个人信息。经过核实,这些信息全部属实,网友甚至联系到了对方。而被Kimi"背刺"的用户则是一头雾水。
爆料网友告诉看看新闻Knews记者,简历遭泄露的用户最近正在找工作,曾用Kimi帮助润色简历。而这一时间点,跟爆料网友当天使用Kimi辅助工作,前后间隔6个小时左右。
帖子发布后,Kimi工作人员通过社交媒体平台联系了该网友,并告知经排查,Kimi认为此次事件是AI幻觉导致。
当你和AI的私密对话,被原封不动地发给了另一名素不相识的用户,这样的隐私泄露事件,也可以用“AI幻觉”来解释吗?两位当事人对此说法并不认可。
而业内人士分析认为,此类情况属于小概率事件,是"哈希碰撞"恰好与AI幻觉叠加后导致的后果。所谓"哈希碰撞",是指两个完全不同的数据,经过哈希函数计算后,得到了完全相同的哈希值。
复旦大学计算与智能创新学院教授张奇向看看新闻Knews记者表示,当用户将文档或资料上传到生成式AI平台后,系统会生成一个文档,非常极端的情况下,会存在系统给不同用户的两个文档分配了同一个的名字,这样就会产生了错乱,也就是"哈希碰撞",这也是一种所谓的“AI幻觉”。
记者查询Kimi隐私协议条款发现,其中有一条特别声明:请谨慎上传敏感个人信息。这样的声明能为大模型平台免责吗?
对此,律师游云庭向看看新闻Knews记者表示,根据用户协议,用户所有输入AI的文本都可能会被它用来优化模型,因此记录并使用用户信息的行为本身并不违法。不过,一旦向第三方泄露了用户隐私,AI平台仍然需要担责。
其实,AI应用的隐私安全问题,早已进入监管部门的视野。2025年5月20日,国家网络与信息安全信息通报中心发布通告,Kimi等35款移动应用存在违法违规收集使用个人信息行为。数据显示,2025年网信部门通报的违规App中,约有15款视频剪辑工具、11款AIGC工具、4款AI教育工具。总体来看,AI工具类占比高达71%。同期被点名的还有智谱清言、字节旗下的猫箱、美团旗下的Wow等头部产品。
| 编辑: | 张洁 |
| 责编: | 杜梦渊 |

剑网行动举报电话:12318(市文化执法总队)、021-64334547(市版权局)
Copyright © 2016 Kankanews.com Inc. All Rights Reserved. 看东方(上海)传媒有限公司 版权所有

全部评论
暂无评论,快来发表你的评论吧