就在本届世界人工智能大会开幕前3天，特朗普正式发布《美国AI行动计划》，这份长达28页、涉及90多项具体行政指令的AI施政方案，不仅改变了拜登时期的强监管模式，通过放松监管加速AI创新、加快美国本土AI基建，最后一章更直接点明：要向全球输出美国的软硬件标准，做世界AI霸主。

正正经经，政经金观察！

本周，2025世界人工智能大会在上海举行。今年的大会上，人工智能大模型、人形机器人依旧是主角，不过对于AI是否会失控、甚至反噬世界的担忧也明显增加。当AI超越人类，我们该怎么办？

展览现场，被称为人工智能“新物种”的AI智能体展现出的强大的能力，不仅能吟诗作画，AI智能体展现出的执行多任务和推理的复杂任务解决能力，让人印象深刻。

国内“AI六小龙”之一的阶跃星辰创始人、首席执行官姜大昕介绍：“将来的智能体可以总结为12个字，总在场、能做事、有记忆、能进化，它可以一直伴随着你，能够看到你所看到的，能够听到你所听到的，还能自我进化，更加适应你，很像电影《蜘蛛侠》里的贾维斯，或者电影《她》里面的萨曼莎。”

7月，OpenAI官宣发布迄今为止最强的“AI智能体”，从写代码、预订机票、抓取数据，到跨软件多轮自动化执行流程，已初具“代理人”雏形。

同月，马斯克也发布了号称“全球最强大的AI模型”Grok 4，在包含2500个专家级问题、涵盖上百个学科，被称为“人类最后的考试”（HLE）中，Grok 4在不用工具的情况下拿下了26.9%的高分，马斯克称其几乎在所有学科上都比人类研究生更聪明。

AI世界一日千里，超级智能将到来吗？它真的会反噬世界吗？

大会主旨演讲中，首度在中国线下公开亮相的诺贝尔奖、图灵奖获得者辛顿博士，提出了一个尖锐的比喻，当前，人类与AI的关系，就像饲养了一只老虎幼崽，可爱却也可能致命。人类只有两个选择，要么驯服它，要么消灭它。不过，由于AI已经证明能大幅提升医疗、教育、气象预测等工作效率，消除AI已几乎不可能，即便有国家想消除，其他国家也不会认同。因此人类必须找到办法驯服AI。

“我的观点是，当今的多模态聊天机器人已经具有意识，所以，各国可以分享让它善良的技术，即使它们不愿意分享让它聪明的技术。”辛顿说。

即便是马斯克发布的号称“全球最强”的AI模型GROK 4，也由于赞美希特勒、反犹等言论引发巨大争议，被批评“不负责任、充满危险”；再比如，近些年每每提到AI，常有人担心，AI和机器人会不会“抢”走人类的工作、加剧不平等？

在我看来，这都是人工智能治理要去解决的问题。作为生成式人工智能领域的权威专家，香港科技大学首席副校长、香港生成式人工智能研发中心主任郭毅可告诉我，人工智能的治理需要技术和规则并重，“让人工智能有能力、有导向性的学习，它懂得什么叫好、什么叫坏，走向善道路。AGI L1（通用人工智能级别1）、AGI L2（通用人工智能级别2），就跟智能驾驶一样，这可以定义清楚，一步步走，这可能又是治理上面很重要的问题。”

要聪明、更要善良，AI的发展需要全球协作，共同寻求对策。然而已经站在“悬崖边”的人类，似乎还没有真正达成共识。

刚发布的《美国AI行动计划》原本是美国发展AI产业的战略规划，却充满了对抗、限制和打压中国的地缘政治意图。我注意到，该计划在第三支柱部分明确指出“在国际治理机构中对抗中国影响力”，进一步收紧人工智能芯片对华出口管制。

亮相今年大会炉边对话的谷歌公司前首席执行官、同时也是美国前国务卿基辛格的学生埃里克•施密特坦言，基辛格在人生最后的15年里，密切关注着AI迅猛发展的技术浪潮，他认为这将是人类共同面对的巨大挑战，因此迫切需要全球的沟通协作，共同维护人类对技术的控制权。

连续举办的世界人工智能大会，中国正是为全球提供了一个平台，不同国家、不同肤色的人群都可以一起坐下来谈，探讨一个各国都能接受、真正可行的人工智能的治理规则和方案，让人工智能的技术能在更多国家普惠应用。

从发布多灾种早期预警服务中国方案“妈祖”，到应对缅甸7.9级地震灾后救援，中国人工智能团队仅用7小时开发出中缅英三语互译系统等，中国向世界分享人工智能技术和经验。

尼泊尔通讯与信息技术部专家夏力格·帕拉朱里表示：“作为一个多山的国家，通过与中国的AI合作，我们能够跨越喜马拉雅山脉提供各类智能服务。”

匈牙利创新署首席运营官罗伯特•索莫吉表示：“思考人工智能政策、伦理、规则及标准化的合作至关重要，人工智能不能被局限在单一国家，它是开放且跨国界的。”

回到片头提出的问题，当AI不断进化，它真的会最终反噬人类吗？

正如辛顿在演讲的最后所说，没有一个国家希望AI统治世界，每个国家都希望人类能够掌控世界。面对超级智能，全球需要基于这些共识，研究如何训练超级AI向善，共享安全测试数据，并建立持续对话机制，让AI辅助人类，而不是最终接管人类。

你们觉得呢？欢迎评论区留言。