何积丰是中国科学院院士、著名计算机软件科学家。他主要从事计算机软件理论及应用研究，针对软件的复杂性、正确性和可靠性等问题开展系统性的研究。在8月25日播出的《未来说·执牛耳者》节目中，何积丰介绍他现在在研究的是安全可信人工智能。

万物互联的时代正在到来，电力运行、轨道交通、航空航天、大型装备……越来越多关系国计民生的大型系统，都要靠复杂而智能的软件系统运行，人工智能的概念越来越被大众熟知，但人工智能是否安全可信？

比如某公司自动驾驶致死事故，其原因在于人工智能未能识别道路清扫车，比如达芬奇手术机器人，因为血溅到摄像头，导致机器人“失明”，感知系统无法正常运作，如果这些软件系统“带病”上岗，一旦“发病”或被人操控，后果将不堪设想。

何积丰介绍，如何选择无人驾驶汽车，主要看它的安全保障措施有哪些？

因为机器里面智能是通过数据训练的，因此我们要看汽车生产过程中间，它自动驾驶设备，场景训练次数有多少，级别比较低，那证明安全性目前可能还没有到位，这个是第一位的。

第二点，看整个环境是不是有保障措施，智能车里面有个叫做车路互联互通的问题，如果我们路没准备好，让那辆车在路上开，可能多数人还是一开始不敢坐，现在有的无人车前景比较好，在一个无人环境里面，比如在我们洋山港用的运货车，它也是无人的，当时在东海大桥上只有这辆车开，所以不存在说环境干扰它的问题，现在条件是比较成熟，高新技术演化有个过程。

我相信上世纪初，我们汽车代替马车的时候，人家也说汽车比马车不安全，尽管我们那时候叫马路了，证明这个路是为马车准备的，那么经过几十年以后，它升级迭代以后，它越来越安全了。现在很多老百姓觉得不开车很不方便，那么安全性能的要求标准，就慢慢被大家所接受了，有这样的一个过程。

何积丰估计，大概没有五到十年积累，很难得到已经很安全的结论。

任何高新技术都是双刃剑，如果安全可信问题不解决，这个高新技术不会对你生活美好，提供有益的帮助，所以安全可信是个重要的要素。

点击观看完整版视频

（素材来源：《未来说·执牛耳者》节目组）