AI，可信吗？

今天，国内首本《可信人工智能白皮书》正式发布，对人工智能的安全提出5大标准，可靠可控、透明可释、数据保护、明确责任和多元包容。

 “我们先关注哪些标准，标准可以细化，比如，数据可信和安全，各个行业是不一样的，行业标准也要跟上，这样的标准才有生命力”，中国科学院院士、工信部新一代人工智能标准与应用重点实验室主任委员何积丰告诉记者。

那么，如今的人工智能是否真的可信呢？

在展会现场，一项能够让人在数字世界"隐身"的技术，引起了关注。

通过这一技术，当有人面向一台摄像机镜头时，镜头背后的人工智能算法，就能迅速监测到有人员出现，对应的监控屏幕中，人员的四周，会出现蓝色小框和英文标记；不过，当同样一个人，穿上一件印有特殊花案的白色T恤后，蓝色小框就消失了，这也意味着，对于人工智能算法而言，人实现了“隐身”。

技术专家告诉记者，人工智能算法的"看"和人眼有很大的不同，通过增加特定的图案，能够对人工智能产生误导，甚至产生看不见的效果，这样人或者物，对于人工智能就"隐身"了。利用这一原理，技术团队还曾在实验中，用一副带有特殊图案的眼镜，解锁了多部智能手机。

“加上图案之后，对AI本身的算法，AI的模型产生误导，让算法模型，把它认成另外一个物体，或者说直接判断不出来”，北京瑞莱智慧科技有限公司首席执行官田天告诉记者。

数字世界，"眼见不一定为实"。从技术角度出发，人工智能除了模型和算法的安全；另一类，则是数据安全，这在当前则面临更大的挑战。

在国家网络与信息系统安全产品质检中心的实验室里，研究员发现，一款购物资讯类APP正常下载、安装之后，APP要求使用用户手机的相机、相册、地理位置等权限。当检测人员拒绝授权之后，APP直接退出。

闪退之后，APP处于无法使用的状态，但是，它却在后台偷偷采集用户的个人信息。

“利用大数据、人工智能去挖掘用户‘画像’，为后续的广告推送等提供便利条件” 国家网络与信息系统安全产品质量监督检验中心、移动安全实验室负责人张艳向记者介绍。

面对日益严峻的数字安全问题，隐私计算技术正发挥重要作用。以金融机构为例，面对公共数据开放等大量数据流通、使用等需求，通过将数据的所有权和使用权进行拆分，提升数据安全。

“隐私计算解决的就是跨机构 数据传输安全的问题。最明显的效果，就是我可以合法、合规使用这些数据”，交通银行金融科技创新研究院高级研究员陆文杰说。

再比如，针对网购中无处不在的电信诈骗，全球首个应用于反欺诈的AI交互式风控产品，也正式上线。它能利用人工智能技术，对网购环境中，屡见不鲜的虚假交易地址，或是给陌生人转账等欺诈行为，做出判断和干预。

“第一个层面就是，我们通过AI的技术，识别到了这笔欺诈。我们通过交互式语音互动的形式给到了用户，以实时的安全的拦截反馈信息”，蚂蚁集团安全科技品牌运营陈倩华介绍。

从1956年至今，人工智能经历了两代发展，前两代人工智能虽解决了部分问题，但不安全、不可靠、不可信和不容易推广应用，也成为了其明显的短板。如今，以安全、可控为特征的第三代人工智能，正在将知识、数据、算法和算力四个要素相结合，加快到来。

“人工智能不光要能力强，还要靠谱，还要可信。人工智能除了对风险的控制，它更关键的是要取得人类的信任”，蚂蚁集团首席AI科学家漆远表示。

（看看新闻Knews记者：金普庆 赵一凡 张英 编辑：夏定伟）