“AI教父”辛顿：多模态聊天机器人已具有“意识”，各国应分享让AI“善良”的技术

“AI教父”辛顿表示，现在的多模态AI（人工智能）聊天机器人在某种意义上“是有意识的”，各国应尽快分享让AI“善良”的方法。

7月26日，2025世界人工智能大会（WAIC）正式开幕。在上午的开幕仪式上发表主题演讲后，图灵奖得主、诺奖得主、“AI教父”杰弗里辛顿（Geoffrey Hinton）出席了下午的科学前沿全体论坛，与上海AI Lab主任周伯文展开一场尖峰对话。在现场，辛顿受到了全体观众的热烈欢迎。

可以说AI“有意识”，各国应分享让AI善良的方法

首先，周伯文询问了辛顿对于“多模态和语言模型能发展出自己的主观体验”的观点的解读。辛顿表示，这严格来说并不是一个科学问题，而是取决于对“主观体验”或“意识”的定义，实际上，许多人对这些概念的理解存在系统性错误。

为解释这一观点，辛顿先谈到了自己在1987年发表的论文《The Horizontal-Vertical Delusion》中的经典案例，他指出，许多人在描述水平与垂直的概念时虽然能够正确区分，但在实际判断中存在系统性混淆，忽视了“垂直”其实是一种非常特殊的方向。

将其类比到“模型是否有主观意识”的论点，辛顿指出：“我认为，许多人对于‘主观体验（subjective experience）’这类术语的理解完全错误。他们的理论很有说服力，但完全错误。这并非一个科学问题，而是建立在一个错误的关于心理状态的模型上，关于这些术语的运用。所以，我的观点是，当今的多模态聊天机器人已经具有意识。”

在辛顿之前，2024图灵奖得主、阿尔伯塔大学教授Richard Sutton也在会上发表了视频演讲，称AI发展已进入一个模型能够在真实环境中持续学习和积累经验的新阶段。

关于主观体验，辛顿进一步阐释道，当AI以机器人等形式进入世界，它们就有了自己的“体验”，可以从自己的经验中学习：“我认为它们会有经验，但经验不是事物。而且经验不像照片，经验是你和一个物体之间的关系。”

关于AI安全，辛顿再次强调，让AI“聪明”和“善良”是两个截然不同的问题，为了实现这两者，即使是同一个大模型也需要两种训练技术：“所以，国家应该分享让模型善良的技术，即使他们不愿意分享让模型聪明的技术。”

辛顿补充道，可能存在让AI善良的通用训练方法，但当AI变得越来越智能时，保证其善良的现有方法也可能失效，所以需要在这个方面进行大量研究。

建议年轻研究者“着眼于那些你认为所有人都做错了的领域”

在对话中，辛顿还谈到，自己获得诺贝尔物理学奖是一个“错误”：“他们很想颁奖给AI领域，但没有AI领域的诺贝尔奖，所以他们只能将物理学奖颁给AI（的科学家）。”

关于AI对其他领域科学发展的影响，辛顿认为，AI确实为科学做出了许多贡献，最显著的一个例子是医药领域的蛋白质折叠，相信AI今后也能为科学带来更多突破。

最后，被问到对年轻研究者们的建议，辛顿表示，在进行原创研究时，要着眼于那些“认为其他所有人都做错了”的领域：“通常在这种情况下，你会钻研自己认为正确的更好的方法，并最终理解为什么其他人会那样做、为什么你是错的。但是，不要放弃，不要认为自己的方法很愚蠢，不要在意导师的意见，坚持自己的方法直到理解错在哪里。而有时，当你坚持自己所相信的，结果是你没有错。这就是出现重大突破的地方。轻易放弃的人无法成功，你需要在其他人反对时坚持下去。”

辛顿补充道，有一种逻辑能够支撑这一观点：“你要么拥有好的直觉，要么拥有坏的直觉。如果你的直觉好，你当然应该坚持自己的直觉；如果你的直觉不好，那么做什么都无关紧要，所以你依然应该坚持自己的直觉。”

在当天上午的演讲中，辛顿发表了一篇围绕AI安全的主题演讲。辛顿表示，人类实际上很像大语言模型。他将人类目前的处境比作养小老虎当宠物，如果人类想要生存，必须找到办法训练AI，不要让AI消灭人类，让一个真正聪明的AI不想接管世界：“我们目前根本不知道如何做到这一点，长远来看，这是人类面临的最重要的问题。好消息是，这是一个所有国家都应该能够合作解决的问题。”

2024年10月8日，瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰霍普菲尔德和加拿大多伦多大学的杰弗里辛顿，以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。辛顿是卷积神经网络理论的领军人物，也被视为由ChatGPT掀起的本轮AI技术跃进背后的奠基性科学家，被誉为“AI教父”。

本次世界人工智能大会以“智能时代 同球共济”为主题，共规划了超100场专业论坛，汇聚1200余位全球专家，12位图灵奖、诺奖得主，大会将持续至7月28日。