今年两会期间,全国政协委员、360集团创始人周鸿祎再度聚焦大模型安全。他认为,DeepSeek-R1等先进模型带来了前所未有的机遇,也同样面临无法通过传统网络安全手段解决的安全挑战。对此周鸿祎呼吁各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全的前提下最大化地释放大模型技术的潜力。
周鸿祎认为,大模型应用安全主要集中在基座模型、知识库和智能体三个方面。基座模型安全方面,由于大模型普遍存在的幻觉现象,特别是在生成文本时可能输出与现实不符的信息,这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。
编辑: | 斯雯 |
责编: | 邓爱华 |
剑网行动举报电话:12318(市文化执法总队)、021-64334547(市版权局)
Copyright © 2016 Kankanews.com Inc. All Rights Reserved. 看东方(上海)传媒有限公司 版权所有
全部评论
暂无评论,快来发表你的评论吧