受图灵奖得主、上海期智研究院院长姚期智先生邀请，诺贝尔物理学奖和图灵奖得主、多伦多大学教授Geoffrey Hinton首次来到中国上海参加两场AI领域国际重要会议：第四届AI安全国际对话IDAIS(International Dialogues on AI Safety)和2025 WAIC(World Artificial Intelligence Conference)。与全球顶尖的人工智能 (AI) 科学家齐聚上海，共同围绕未来人工智能系统可能超越人类智能水平带来的失控风险，进行了深入的交流与研讨。继7月22日至25日IDAIS高浓度思想碰撞后，7月26日下午，Geoffrey Hinton与姚期智在WAIC “人工智能发展与安全”全体会议中进行了长达1小时的巅峰对话。他们重点围绕人工智能与神经科学、人工智能的“自我意识”、量子计算对人工智能发展的影响等前沿话题展开深度讨论。

本段Geoffrey Hinton与姚期智对话，讨论AI 领域最重要的未解决问题是什么？

Geoffrey Hinton谈及一个重要问题是训练出善良的AI，他认为训练AI很像养育孩子。“养孩子的时候，你可以给他定规矩，但那几乎不起什么作用。你可以奖赏惩罚他，有一点效果。或者你可以给他展示好的行为榜样。如果父母表现出良好的行为，孩子通常会成长为一个品德高尚的人。所以我觉得我们应该用精心筛选的数据来培养 AI。当 AI 开始学习时，它只接触好的行为。我们把所有人的不良行为先存起来，等它学会了什么是好的行为之后，再把那些不良行为给它看。”