《甄嬛传》变身枪战片、《红楼梦》改成武打戏、孙悟空骑着摩托车扬长而去，在AI加持下，观众永远猜不到下一秒会发生什么，更让某些人发现了所谓“新的商机”。

例如，有人利用AI合成了刘德华的声音，为自己增加流量。AI合成的“张文宏”深夜带货，自然也不令人意外。

ChatGPT的人机交流带给世界的兴奋还没持续多久，人工智能黑暗的另一面就令人警惕。统计显示，2023年，基于AI的深度伪造欺诈暴增了3000%，今年上半年，AI诈骗案超过1.85亿，美国过去一年里人工智能诈骗事件同比增幅超过了50%。此前，世界经济论坛发布《2024年全球风险报告》，将人工智能生成的错误信息和虚假信息名列“未来两年全球十大风险”之首。

面对危机，各国也有所行动。日前，广电总局网络视听司发布管理提示，要求各相关省局督促辖区内短视频平台排查清理这类视频，并且对在平台上使用、传播的各类相关技术产品严格准入和监看。欧洲今年通过了史无前例的《人工智能法案》，禁止某些“威胁公民权利”的AI应用，还要求所有AI生成的图像、音频或视频等，都要有明确的标签。

针对AI技术导致的不法行为，公众意见不一，激进的意见甚至觉得应该彻底抵制。当然，技术本身是中性的，该被绳之以法的，还是那些其心不正的使用者。监管能不能赶上AI技术的进步，现在还是个问题，人工智能的监管和治理需国际合作，共同防范风险。

而我们人类自身，也要不断自我调节适应新变化，眼下，就是保护好包括人脸等生物信息，不过度分享照片、视频。更重要的是，要认识到AI生成技术面前，有图不一定有真相，眼见更不一定是实。