作为第四次工业革命的重要标志，人工智能极大地解放了社会生产力，也带来了重大的经济、文化、政治、伦理、法律、安全等方面的巨大变化；但因人工智能技术的不成熟和管理模式的不完善，人工智能安全事件频发。人工智能技术在推动经济社会创新发展的同时，也在重塑人类安全的未来。

上海是人工智能产业的集聚地、技术革新的前沿阵地。当前，上海正致力于打造国家级人工智能发展高地，不仅拥有巨大的市场规模，更聚集了全国乃至全世界的优秀企业和人才。上海市人民政府办公厅印发的《关于本市推动新一代人工智能发展的实施意见》指出，要加快建成以人工智能芯片及传感器、机器人及智能硬件、智能无人系统及软件等为重点的世界级新兴产业集群，到2020年实现人工智能重点产业规模超过1000亿元。

9月18日，上海黄浦江畔的国际会议中心迎来2018世界人工智能大会·人工智能安全高端对话。对话以“人工智能：挑战与机遇”为主题，旨在研判人工智能时代的安全挑战，探索人工智能安全发展的创新之道，促进人工智能产业的健康发展，确保人工智能发展造福人类未来。

本次高端对话由世界人工智能大会组委会主办，上海赛博网络安全产业创新研究院、中国信息通信研究院安全研究所联合承办，腾讯公司安全管理部、上海社会科学院互联网研究中心、《探索与争鸣》杂志社共同协办。中国互联网发展基金会理事长马利、上海市经济和信息化委员会巡视员陈跃华、中国科学院院士何积丰、联合国人工智能和机器人中心主任伊莱克利·伯利兹、美国著名智库欧亚集团科技战略主任保罗·特里奥洛、中国信息通信研究院副院长王志勤、上海社会科学院副院长王振等嘉宾出席对话。国内外专家学者与产业精英也作为发言嘉宾受邀参加本对话。

作为世界人工智能大会的重要分论坛之一，人工智能安全高端对话聚焦“人工智能安全伦理规范”、“人工智能重塑国家安全”、“人工智能助力网络安全” 这三大前沿议题，从经济、政治、社会伦理等多个不同的角度围绕人工智能技术失控、自动驾驶安全、智能算法歧视、自动化武器、人工智能国家安全与军事博弈、人工智能打击网络犯罪等话题展开精彩讨论。

对话在充分吸纳国内外人工智能安全共识基础上发布了《人工智能安全发展上海倡议》及《人工智能安全白皮书》、《人工智能时代的国家安全：风险与治理》、《人工智能赋能网络安全：模式与实践》等三份重磅报告，积极引导和推动人工智能产业健康持续发展。

联合国人工智能和机器人中心主任伊莱克利•伯利兹

人工智能技术的进步不断冲击和刷新人类的认知和社会关系，衍生出一系列伦理、法律和安全难题。人工智能是否有失控的风险，未来的机器人是否会形成自主意识，挑战人类的主体地位？人与机器的从属关系是否会发生错位？“阿尔法狗”战胜全球顶尖围棋高手，人工智能在智力上是否真正能超越人类极限？全球第一个机器公民“索菲亚”的诞生，“她”是否享有与人类公民同样的权力？这些问题若未解决，将持续困扰人类发展。与会专家在高端对话中探讨了人工智能的安全伦理规范。

何积丰院士

中国科学院院士何积丰表示，在事件发生以前发生中间和发生后面，都可以用人工智能技术来提高政府的管理水平。“人家攻我们，你溯源可以知道敌人在哪里。或者发生自然灾害了，我们可以知道什么事情我们没有做到位。”人工智能安全伦理研究不仅可保障人的隐私权、自主权，更能保证人工智能在人类限定的系统范围内开展工作，设计出符合人类道德规范的人工智能。

与此同时，人工智能也是维护国家安全的的核心技术之一，在国防、军事、网络安全等方面有着广泛应用，各国纷纷抢占该领域的制高点，发达国家利用人工智能的技术优势，不断调整国家安全战略，改变国家间力量的对比，扩大与其他国家之间的安全力量优势，进而影响全球和平与稳定。以美国为代表，美国国防部计划在5年之内投资20亿美元用于人工智能新项目的开发，目的在于增强国防实力。由此可见，从国家战略、技术变革、产业发展等多角度研判人工智能技术对国家安全博弈的影响，对于探寻人工智能与国家安全的关系将有重要意义。

正如一个硬币的两面，人工智能技术具有双面性。一方面，凭借其强大的运算能力，以人工智能为驱动的网络攻击威胁的可能性越来越大，同时它将赋能自动化武器，使其攻击能力从网络空间向物理空间扩散；另一方面，机器学习大大缩短了人类分析网络攻击事件所需的时间，能够做到快速响应，同时也为应对网络安全中存在的信息泄露、隐私安全、预防犯罪等问题提供了方案。如何趋利避害，积极推动人工智能安全技术发展，防范网络空间安全风险，是人工智能安全发展的重点。

（看看新闻Knews记者：王琳琳 编辑：陈佳雯）