随着AI技术发展，近来各种“AI魔改”视频、照片在网络大行其道，乱象频出。《甄嬛传》变身枪战片、《红楼梦》改成武打戏、孙悟空骑着摩托车扬长而去，在AI加持下，观众永远猜不到下一秒会发生什么。

另有一些人还迅速从AI合成视频技术中发现商机。例如，某AI应用程序上，用户只需提供两张照片，支付一定价格所谓的制作费，就能利用AI合成技术生成长约5秒的所谓和明星“接吻”或“拥抱”的短视频。

针对上述乱象，日前，广电总局网络视听司发布《管理提示》，要求各相关省局督促辖区内短视频平台排查清理这类视频，并且对在平台上使用、传播的各类相关技术产品严格准入和监看。9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，其中明确，相关服务提供者应当在视频显著位置添加提示标识，视频传播平台也应当提醒用户主动声明发布内容中是否包含生成合成内容，同时做好相应的监测，在发布内容周边添加显著的提示标识。

但是对于这一新课题，到底如何有效监管呢？上海人工智能研究院数字化治理中心主任彭嘉昊认为，对于AI生成式技术的使用和监管，目前还存在不少难点甚至盲点。