图灵奖得主姚期智对话“机器学习之父”迈克尔·欧文·乔丹：未来人工智能的变革图景

作为通用人工智能（AGI）安全议题的全球引领者，姚期智在此次对话中提出，AGI在AI研究领域起到旗帜引领作用——AGI定义模糊，而正因如此，不同研究者能够贡献不同想法。具身智能或说超智能机器人是实现AGI的一条可靠路径。从长远来看，其将会实现且将给社会带来积极影响。当前商业界和科学界都有着强烈动机去尝试创造强大的人工智能体，大约在未来3-5年内，每个人都会拥有一个自己的人工智能助手甚至“第二自我”。

Michael I. JORDAN从不同角度指出，当与大型语言模型（LLM）互动时，人们实际是在与70亿人的数据互动，因此应将LLM理解为智力市场。他强调，以LLM为代表的很多技术其实只是暴力穷举技术，人们对人类智能的科学解释尚显粗糙，若AGI能够涵盖社会智能（即人类创造经济、交换和市场的能力）而不仅是个体智能，追求AGI才显得更加合理。

在他看来，真正改变世界的应是分布式智能系统。他提出了这样一幅图景：未来的“AGI助手”将是计算机与人类的结合，并且有其经济学含义：它们具有自主性，有自己的愿望和目标，并有一定的策略性。在公有版本之外，每个人都会拥有基于自己数据的“本地化大语言模型”。

关于AI安全与风险，姚期智强调“可证明安全的人工智能”：若把AI视为等同人类的主体并让其掌控关键基础设施，必须努力确保能够证明其系统是安全的。他以“曼哈顿计划”作为类比，提出研发超级智能必须采取同样的、极其严谨的态度，需要构建一个融合了数学、统计学和商业直觉的方法，但目前尚不清楚具体应如何实现。

Michael I. JORDAN对此表示，AI风险更多体现在个体层面如何面对和处理新能力带来的不确定性——AI助手正在进入每个人的生活，当我们每个人都获得了AI这种“可能是正确的，也可能是错误的”新能力时，不确定性控制和可靠的量化评估成为关键。

对于AI发展与中美竞争，姚期智认为，发展模式与国家历史息息相关，中国AI发展以人为本、造福全民，这种“和”的理念是中国AI领域以及各个方面科学发展的最强大力量。但中国的不足之处在于，“从0到1”的突破不足且科技成果转化效率不如硅谷。

“硅谷已经迷失，不适合做这个时代的领导者。”Michael I. JORDAN对此表示，硅谷的领军人物只想着发展规模、“更快更大”，“个人主义”哲学太过强烈。他认为应以五十年为尺度看问题，AI最终会像化学工程、电气工程等对人类带来巨大影响的工程学科一样全球扩散，依赖思想与实物贸易进行传播。在他看来，在人工智能涉及的社会层面，中国的进展要快得多。

谈及AI行业的资源配置，Michael I. JORDAN主张，应将更多资金用作启动资金和研究人员的资助资金，因为科学研究往往是自下而上进行的，人力资源比其他任何资源都更费钱但最值得投资。

关于AI人才培养，两位专家建议学生除AI核心课程外，还应认真学习物理、经济学和博弈论和统计学。此外，学生还应具备一定的艺术感受力，音乐是一个应特别关注的领域，因为音乐帮助净化心智，至少留出时间进行反思和自我认知。