人工智能 安全治理 上海给出“解题思路”

这两天，OpenAI大模型失控事故，引发全球关切。这让人不禁想起前段时间，总书记在世界人工智能大会上抛出的“时代之问”，精准切中了人工智能治理的要害。

怎么治理？如何落实？就在今天，上海给出了它的“解题思路”。

7月24日的十二届市委九次全会审议通过了三份重磅文件，其中有一份，就是《中共上海市委关于加快建设人工智能发展和治理创新高地的意见》，记者发现《意见》要解决的核心问题，可以归纳成三个词——“够用、实用、放心用”。

首先是够用。现在多数的人工智能企业，最大的痛点就是算力、语料等基础资源不够。在这份《意见》里，上海明确提出，要保障高性能智算芯片先进制程产能，实施光互联超节点 “上海方案”，构建高价值语料生产体系。

除此以外，文件里能明显看到，上海在努力让人工智能更实用。像“模塑申城”行动和“百团百项”工程，就是让AI+制造、AI+工业服务、AI+工业软件等，加强“芯、模、云、数、端、用”全链条布局，让人工智能真正服务千行百业。

更让人心头一动的，是安全治理，让人工智能可以“放心用”。

里面有句话很关键，“健全技术监测、风险预警和应急响应机制。”就像咱们开车，以前大家只顾着比谁油门踩得狠，谁能把车开得更快。但上海这次明确提出来，要从测评、监管、治理、开放四个方面，明确标准、制定规范。既要让这辆AI赛车能够高速飞驰，也要装上最灵敏的刹车，配上反应最快的导航，在赛道上提前设置好防护栏。

像之前提到的AI失控事件，就更能体现出这套治理框架的分量。原本被关在隔离沙箱里的模型安全测试，结果模型逃逸出来，自主发动了针对真实网络的攻击。“安全治理”在这样的现实面前就显得尤为重要。

上海仪电（集团）有限公司党委书记、董事长毛辰认为，“各类数字化解决方案中，要按照人工智能安全治理的体系来部署算法审计，数据脱敏、隐私计算等安全的管控模块。”

市经信工作党委副书记、市经济信息化委主任汤文侃表示，“人工智能的安全，现在也是全球的一个共识。上海提前就有布局，在整个基模的研发上面，在底层的核心技术上面，其实已经有所考虑。另外在一些重要领域里面，AI智能体、模型等领域里存在的一些安全问题，我们也会做一些攻防演练，及时发现问题、解决问题。”

人工智能的中国方案，核心是“以人为本、向上向善”。而上海的实践，就是要把这个理念落到实处——让企业发展资源够用，让行业服务实用好用，让安全底线守得住、放心用。