看看新闻
看看新闻APP

扫描二维码下载APP

下载APP
登录

⁺

历史

⁺

收藏

⁺

订阅

个人中心
退出登录
新闻放大镜
点赞
收藏
分享
用手机看

AI小伙花式整活儿?警惕情绪价值的“温柔一刀”

2025-03-24 14:27:06 看看新闻Knews记者 严相莉  陈昱卉  翟静

在短视频平台的海量内容中,一种特殊账号正越来越活跃。这些账号里,由AI生成的数字人,要么扮演成西装笔挺的“投资大师”,要么化身温柔体贴的“健康顾问”,看似情感真挚却是暗藏玄机。还有一些主播花式打造人设,编撰家长里短、跌宕起伏的剧情,吸引中老年人关注,但最后,瞄准的还是大家的钱包。



在一个名为“建国弟弟”的账号中,几条视频都是相同的形象,男子动作表情生硬,语调单一,有时口型甚至对不上台词,人物形象边缘也出现明显的抠图印记。但评论区里,还是有不少阿姨给他送上爱心和玫瑰花。



记者在某社交平台搜了下“建国”,就发现包括“李明哥”、“海阔天空”等账号名的18个“建国”,每个账号的粉丝数从几千到几万不等,在部分作品不明显的位置,有用小字标记的“通过AI数字人打造”字样,其中10个账号开通了橱窗,售卖所谓的“健康食品”等商品。



这类账号通常拥有高度相似的背景、人物形象乃至动作神态,唯一不同的是播报的内容,涵盖情感交流、国学文化、中医养生等多个领域,旨在精准击中中老年用户的兴趣点,从而迅速积累粉丝和流量。


一些老年消费者表示,这些账号发布的视频,乍一看很难分辨出是AI制作的。视频中的人物形象亲切、说话好听,很具有迷惑性。


不过,从熟悉视频制作的人看来,大部分AI数字人神态、语气都有不自然的地方,为什么部分老年人仍然会投入情感,沉迷其中,甚至心甘情愿掏腰包呢?特约评论员沈彬指出,尤其中老年女性,对网络内容的辨别能力不强,又渴望精神满足,就容易被一些别有用心的人重重围猎。之前有假靳东,有“秀才”摆拍,还有这一次的“建国弟弟”AI假人。AI人一张嘴就是“宝贝姐姐,建国弟弟想你了,岁月是一首诗”,一些内心比较空虚的老年妇女可能就被假象所迷惑。而且中老年人不一定能马上识别AI生成内容。网信部门几年前就明确规定,对于AI生成内容要做强制标注。但是我们看到一些AI骗局中,标注字体非常小、非常淡,很容易被受害者所忽视。



事实上,养生、情感内容一直是“收割”老年消费者的重灾区,被骗通常与受教育程度无关,而是沉迷视频带来的情绪价值。


有媒体报道,市面上已经涌现出制作数字人的外包公司,帮助客户搭建数字人形象,指导运营账号,服务价格在5000-10000元不等,相关AI账号目的就是利用老年人的同理心卖货。



根据宣传,在AI工具的辅助下,理论上一天可以创作出100条视频,最少3天就可以起号,从而轻松实现月入过万。变现方式包括创作分成、短视频或直播带货、广告变现等。


且不说AI账号带货的商品真假、质量如何,这些账号首先就触及了平台规则红线,有被封禁的风险。例如,腾讯视频号就有《细则》明确禁止使用AI工具生成的虚拟形象直播带货。


而随着技术快速迭代,针对中老年的AI换脸诈骗案也开始频繁出现。去年,江西就有一位老人被换脸视频蒙蔽,要贷款200万元给网恋男友“靳东”拍戏。此外,还有用AI换脸真人制作色情影片、盗刷医保的违法案例。



今年两会期间,除了政协委员靳东再次提到AI换脸的危害,小米创始人 雷军也抱怨自己的形象被做成了“AI人”。



AI技术的普及,不仅让带货骗局大行其道,还大幅降低了诈骗门槛,为“个人独狼式”的电诈提供滋生土壤,现在,甚至一两个诈骗分子就可以完成作案。


散发小广告的、编写钓鱼代码的、物色目标猎物的、利用话术引人上钩的、受害人上当后分散转移赃款的,甚至还有囚禁虐待电诈人员的“打手”。在电影里,成百上千人分工明确,流水式作业展开诈骗。



而现在在AI技术辅助下,一两名诈骗分子就可以作案,AI承担了从目标筛选到身份伪装,再到实施诈骗和逃避打击等以往诈骗中的关键任务,而这种情形在最新的案例中已经超过六成。


新型诈骗中,AI技术被“武器化”的程度令人咋舌。分析103篇诈骗案新闻报道可见,AI换脸技术使用率近一半。犯罪分子通过非法获取的人脸照片和语音样本,利用开源AI工具生成逼真的虚拟形象。



AI技术的普及使得诈骗手段更加多样化和难以防范,没有深厚技术背景的人也能轻松获取和使用相关技术实施诈骗,诈骗场景的多样性超出想象,冒充公检法机关、伪造亲友求助、虚拟投资平台等套路层出不穷。


数据显示,在所有AI诈骗案例中,冒充类诈骗占比高达62%,其次是金融类和交易类诈骗。还有诈骗分子把AI技术应用到了交友“赛道”。



随着AI技术的不断升级,甚至逐渐形成了一条分工明确、相互协作的完整化黑色产业链。上游技术提供者通过暗网兜售“AI换脸套餐”,价格从几百元到数万元不等。中游推广者利用非法获取的个人信息库,通过短信、社交软件精准投放诈骗信息。下游洗钱者则通过虚拟货币、跑分平台等渠道转移资金。整个过程中,技术、数据、资金形成了完整闭环,而随着AI技术不断发展,黑色产业链也在不断升级和演变,打击AI诈骗面临着更大的挑战。


AI技术一日千里,老年人成了最容易上当的群体之一,怎样帮助老年人反诈?如何识别AI皮套下的骗术?我们还能做些什么?特约评论员沈彬介绍,这个月我国网信部门发布了《人工智能生成合成内容标识办法》,今后,相关标识一定要非常明确、必须强化AI的显著标识,不能再打“擦边球”,要让用户能够辨别出是真人还是假人,不允许在网上以假乱真。另一方面,也要强化司法的有所作为,对这样的AI假人能够及时“亮剑”,坚决斩断黑灰色产业链。而互联网平台也要守土有责,履行社会责任,决不允许大量劣质的“AI人”在互联网上打“擦边球”。另外,还要加强针对中老年人的互联网知识普及,让他们明白网上什么是真的,什么是假的,帮助他们提升AI的鉴别能力。

编辑: 陈昱卉 翟静
责编: 严相莉
版权声明:本文系看看新闻Knews独家稿件,未经授权,不得转载
关键词: AIAI数字人诈骗中老年

全部评论

请先登录后发表评论

暂无评论,快来发表你的评论吧

推荐视频

01:16
中朝最高领导人举行会谈
子午观潮3天前
00:16
中朝领导人会谈 金正恩:感谢中方!赞赏中方!
时讯3天前
00:12
钟南山佩戴“共和国勋章”观礼:非常震撼
时讯2025/09/03
00:17
80年80响礼炮对天齐鸣 仪仗队气势昂扬齐步走来
看现场2025/09/03
00:06
“世纪之行” 俄罗斯总统普京神采奕奕走上红毯
看现场2025/09/03
00:24
天安门广场布置好了!三色观礼包与广场座椅对应
时讯2025/09/02
00:08
中俄签了20多份!普京:俄中关系达历史最高水平
时讯2025/09/02
00:09
普京专机降落天津 来华4天 先去上合再看阅兵
时讯2025/08/31
00:09
气场拉满!“中国排面”抵达越南参与阅兵式彩排
时讯2025/08/30
00:41
推广尼古丁袋!投诉鲁迅夹烟墙画的当事人被封号
时讯2025/08/30
00:31
上海男子懵了:缴了停车费还吃罚单?官方提醒
新闻坊2025/08/30
00:50
《论持久战》——指导抗战走向最终胜利
东方番茄酱2025/08/30
00:16
卢卡申科:我将“奔向中国” 白俄罗斯正全方位向中国学习
时讯2025/08/30
00:13
美军计划向日本部署“堤丰”中程导弹?外交部回应
时讯2025/08/29
02:02
中方对联黎部队任期最后一次延长表示遗憾
环球交叉点2025/08/29
01:19
外交部:中方一贯坚决反对美国在亚洲国家部署“堤丰”中导系统
蓝厅之声2025/08/29
00:18
坐高铁!过生日!中国最高形式元首外交成就佳话
时讯2025/08/29
01:21
外交部:30个欧洲国家近50位贵宾确认出席!
蓝厅之声2025/08/28
00:17
阅兵嘉宾名单没提到西方主要国家 外交部回应
时讯2025/08/28
01:05
国台办:9月3日盛大阅兵将会邀请台湾同胞出席
权威发布2025/08/27
看看新闻
  • 关于我们
  • 广告服务
  • 联系我们
  • 投诉建议
  • 友情链接
  • 产品服务
  • 法律条款
网上有害信息举报专区
  • 互联网违法和不良信息举报
  • 上海互联网举报中心
儿童色情信息举报专区

举报电话:021-62870000

举报邮箱:service@kankanews.com

网络社会征信网
上海工商电子标识
广播电视节目制作经营许可证:(沪)字第510号 互联网新闻信息服务许可证:31120240001 网络文化经营许可证:沪网文[2018]4466-313号 互联网ICP备:沪ICP备10207042号-1 沪ICP备10207042号-4 网视备(沪)02020000020-1号 违法与不良信息举报邮箱:service@kankanews.com

剑网行动举报电话:12318(市文化执法总队)、021-64334547(市版权局)

Copyright © 2016 Kankanews.com Inc. All Rights Reserved. 看东方(上海)传媒有限公司 版权所有

看看新闻APP
沪公网安备 31010602001114号