当AI让造假门槛变低 我们还能分辨真假吗？

AI 技术愈发普及，制图、修图门槛越来越低，可偏偏有人动起歪脑筋，把AI当成违法牟利的工具。

近日，上海杨浦区人民法院就审理了一起利用AI造假实施敲诈勒索的案件。被告人杨某在2025年11月至 2026 年1月期间，频繁在辖区内多家餐饮店消费，堂食、点外卖后，利用AI修图、绘图功能，伪造出急性肠胃炎诊断证明、就医病历、电子发票等材料，甚至还P出虚假呕吐物照片，谎称自己和女友吃完食物后身体不适。手握全套 “虚假证据” 后，杨某开始向商家索要医药费赔偿，还放出狠话：如果不赔钱，就向监管部门投诉、在消费平台刷差评。

而不少商家担心店铺口碑受损，无奈之下选择妥协。经核查，杨某通过这套AI造假碰瓷手段，实际敲诈到手2500元，另有7000余元敲诈行为未遂。

庭审中，杨某也如实承认，所有虚假图片、凭证都是靠AI批量制作而成。

承办法官介绍，根据法律规定，敲诈勒索公私财物数额达到 2000 元以上，就已构成敲诈勒索罪。综合案件情节，加之杨某到案后主动坦白、全额退赔钱款，并获得受害商户谅解，法院最终依法判处杨某拘役四个月，缓刑四个月，并处罚金2000元。

通过AI造假已经并非个例。此前湖北就有房东用AI生成虚假水电表照片，当作诉讼证据提交法院，当场被法官识破，当事人也因提交虚假证据、妨碍民事诉讼受到训诫。层出不穷的AI造假行为，也给司法证据核验工作带来新挑战。

不少网友疑惑：现在AI修图、改图这么厉害，难道真能做到完全以假乱真、肉眼分辨不出？

记者在跟着网上有人分享的指令，试图让AI凭空创作一张拍摄手机聊天内容的照片后发现，AI凭空制作的图片，还是很容易出现头像错乱、文字生硬、表情图片违和等漏洞。

可一旦依托真实原图进行局部修改，成品仅凭肉眼确实很难辨别真假。

对此，复旦大学信息学院副教授凌力解释，再逼真的AI造假图片也留有破绽。图片光影、清晰度、色彩亮度编码等细节，都会和原图存在差异，借助专业检测工具，依旧可以发现AI合成痕迹。法院也表示，今后会通过源头核查、证据链比对、专业技术鉴定等多种方式，严审各类可疑证据。

法官也郑重提醒所有人：AI是便民、赋能工作与生活的工具，绝非违法犯罪的“帮凶”。

利用AI制作虚假材料搞碰瓷、敲诈、诬告等行为，轻则违反治安法规，重则触犯刑法，必将受到法律惩处。在此也呼吁大家，理性、合法使用AI技术，坚守法律底线，别让前沿技术沦为违法工具。