西藏日喀则市定日县发生的地震灾情牵动人心，当地流传出的各种救援画面，更是令人揪心不已。然而，却有一些不真实的内容趁机浑水摸鱼，利用人们的同情心进行误导、吸引流量。某视频平台上一位博主发布的照片显示：一个戴帽子的小孩被压在倒塌的建筑物下，全身铺满尘埃。下方文字标签还和西藏日喀则地震关联。在某短视频平台上，至少有10个以上的账号转发了这张图片，有账户甚至获得好几万的转发和点赞。

而实际上，这张小男孩的图片是由AI生成的，图中孩子的左手显示为六根手指，是常见的AI图片错乱之处。此外，平台也在相关图片下方给出文字提示：“疑似使用AI生成技术，请谨慎甄别”。虽然平台有提示，但仍有不少网友仍被误导，为图中的孩子难受落泪，甚至在评论区追问图片中的小孩是否获救。这并非个例，在某视频平台上，以“日喀则地震群众被埋”为关键词进行搜索发现，不少视频博主都发布了AI生成的灾区图片，且都在配文中与日喀则地震关联。

网友利用AI技术生成图片，关联地震灾区现场，这样的行为是否欠妥？如果引发不良影响，该承担哪些责任？律师刘锋今天在接受看看新闻Knews的采访时表示，如果这张图片是在地震前就用AI生成并发布在社交平台，其实并不违法。但是在地震发生后，这张照片被多个帐号转发并误导大家以为这是真实存在的，就有违新闻真实性的原则，所以在这个时间点发布这样的照片非常不妥，脱离了原来创作这张作品的初衷，演变成博眼球、博流量，这种行为已经涉嫌违法。

刘锋说，虽然发布者在图片的下方给出了提示，但提示的字体有多大？是不是可以让大家很清晰的看到？还有即便是备注为AI生成图片，但发布的内容如果是为了博眼球、吸引流量，甚至引发大家恐慌或者误解的，就不能完全免责，我国《治安管理处罚法》明确规定，散布谣言、谎报险情、警情、扰乱社会公共秩序的，可处5天以上10天以内拘留，并处500元以下的罚款。

如今，AI技术在给生产生活带来便利的同时，也为不法分子提供了便利。AI去衣、AI换脸，不少不法分子将这些先进的技术变成敲诈勒索的工具。今年6月，一家互联网公司的技术员就利用AI技术伪造近7000张淫秽图片进行贩卖，嫌疑人因以制作、贩卖淫秽物品牟利被追究刑事责任。AI生成文字或视频还被用于制造虚假信息。今年4月，上海长宁警方查处了一起利用AI编造女星去世短视频的案件，对造谣者处以行政拘留3天。

以前我们都说“有图有真相”，但随着AI的发展，有图也未必有真相。尤其是在出现重大灾情、重大事件的时候，难以避免有人利用人们的同情等情绪，将AI技术用以编伪消息、造假新闻，以此来获得网民关注和点赞量，进而实现流量变现。那么，我们要如何甄别 AI文章、AI图片、AI视频？去年9月，我国曾发布人工智能生成合成内容的征求意见稿，规定AI生成的图片、视频、虚拟场景等，均应添加显著提示标识；但实际上，部分发布者和平台，为了享受AI工具带来的流量红利，采取睁一只眼、闭一只眼的态度。

为治理AI乱象，近年来相关部门也出台了多项政策和措施。从2023年起，施行的多部管理规定明确，提供和使用生成式人工智能服务，应当遵守法律、尊重社会公德和伦理道德。不得侵害社会公共利益、扰乱经济和社会秩序。此前，一些发布者将图文内容移花接木、肆意编造网络谣言，引发公众关注、传播。公安机关已经依法追究其法律责任。这其实也是在提醒受众，网络信息鱼龙混杂，你看到劲爆图片或震撼视频时，要留心是不是AI生成的，是不是应该采信，都要多个心眼。

此外，对于在不少平台，AI生成图片及相关视频能立刻发出，平台审核是否应进一步加强管理？对于AI生成图片的相关视频立刻能发出，发出约1小时后才出现“疑似AI技术生成”的提示语，在律师刘峰看来，这在某种程度上说明平台审核存在问题，其审核规则具有滞后性，提示方式也存在不够明显的漏洞。

刘峰还表示，平台在发布内容前应进行必要的审核，以确保信息的真实性和准确性。特别是在涉及灾害等敏感话题时，更应加强审核力度。且尽管有文字提示，但仍有网友误解，这也进一步说明，平台的提示方式不够醒目和有效。刘峰说，平台每天有大量的文字、图片在发布，对于平台来说审核的压力也很大，所以平台适用避风港原则，也就是说平台只要不是恶意为之，或者说当受害者通知平台，平台立即处理，也可以不承担责任，但如果平台对违规行为采取姑息态度，依旧需要承担相关责任。对此，刘峰呼吁，平台应该改进审核机制，提高审核效率，并采用更加直观有效的提示方式，以避免虚假信息的传播。