“没有一个国家希望AI统治世界，如果有一个国家找到办法预防和防止AI操控世界，这个国家肯定很乐意告诉其他国家。所以希望能够有一个AI安全机构构成的一个国际社群研究技能、培训AI，让他们向善。”
2025世界人工智能大会暨人工智能全球治理高级别会议7月26日上午在上海世博中心开幕。作为大会主论坛的第一位重量级演讲嘉宾，2024年诺贝尔物理学奖得主、2018年图灵奖得主、加拿大多伦多大学计算机科学名誉教授杰弗里辛顿（Geoffrey Hinton）发表了关于“是否数字智能会取代生物智能”的主旨演讲，对通用人工智能（AGI）的前沿趋势进行探讨和研判。
杰弗里辛顿（Geoffrey Hinton）
“大语言模型比人类更厉害”
辛顿被称为“AI教父”，他从1985年开始进行语言模型的研究。大会主持人将他称之为：深度学习泰斗、神经网络之父、人类大脑的探究者。
辛顿说，大概60多年了，对AI有两种不同的范式和路径，一个是逻辑型的，过去一个世纪都是以逻辑式的范式认为，人工智能本质在于推理，人们通过一些符号规则、对符号的表达进行操作来实现推理；另外一种是以生物作为基础来理解AI，就是图灵和冯诺依曼所相信的，理解是第一位的，然后才能够学习AI。
“1985年时，我做了一个非常小的模型，想把这两个理论结合在一起，更好地理解人们是如何理解一个词的。每一个词我都放了好几个不同的特征，把前一个数字的特征记录下来，可以预测下一个数字是什么、下一个词是什么，再预测再下一个词是什么。”辛顿说，就像他做的小模型一样，如今的大语言模型与人类理解语言的方式一样，理解就是把这些语言转化为一些特征，然后把这些特征以一种非常完美的方式整合在一起，这就是AI各个层次所做的事。
辛顿用乐高积木举了例子，“通过乐高积木可以做成任何3D模型，可以把一辆车的小模型造出来。如果把一个词视为多维度的乐高积木，可能有几千个不同的维度，这种类型的乐高积木可以做这么多维度，可以是一个建模，有很多维度，可以是语言的建模，每个积木都是一个词。乐高模型相对比较确定，正方形插到正方形的小孔里。”
“但语言不一样，每一个词都有很多的手，比如你想更好地理解这个词的话，就是让这个词和另一个词之间合适地进行握手，一旦这个词的造型发生变形的话，和另一个词的握手方式就会不一样，这里有优化的问题。一个词变形以后，意思变了，这个词怎么和下一个词握上手、理解变化的意思，这就是人脑去理解意思或者说神经网络理解意思最根本之处。”辛顿认为，人们理解语言的方式和大语言模型理解的方式几乎一样，人类有可能就是大语言模型，人类也会和大语言模型一样产生幻觉，因为人类也会创造出来很多具有幻觉的语言，大语言模型也会。
但辛顿同时指出，大语言模型和人类也有不一样的地方，而且比人类更厉害，这是计算机科学存在的意义。在一个软件里，知识是永恒存在的，这个软件、程序永远放在那里。可以把所有的硬件都毁灭了，只要这个软件存在，知识随时随地都会被复活，从这种意义来说，计算机程式是永恒的，不会死亡的。“人的脑子和硬件不一样，这就带来了问题。我们做不到永生，这些知识软件和硬件可以做到。”
“必须找一个办法训练AI，让他们不要消灭人类”
谈及人工智能的安全性这一广受关注的话题，辛顿表示，现在的情况就好比有个人把老虎当宠物，小虎仔是很可爱的宠物，如果一直养这个宠物，要确保它长大时不会把你杀了，一般来说，养老虎当宠物不是一个好的想法。只有两个选择：如果你养老虎的话，一个是你把它训练好，它不来杀你；或者你把它放了。用AI的话，我们没办法把它消灭，AI很多方面做得很好，比如医疗、教育或气候变化、新材料，几乎可以帮助所有的行业变得更有效率。
“我们没办法消除AI，即使一个国家消除AI，别的国家也不会这么做，这不是一个选项，意味着如果我们想让人类生存，必须找一个办法训练AI，让他们不要消灭人类。”辛顿强调，“我们现在的局面没有一个国家希望AI统治世界，每个国家希望人类掌控世界，如果有一个国家找到办法预防防止AI操控世界，这个国家肯定很乐意告诉其他国家。所以我们希望能够有一个AI安全机构构成的一个国际社群研究技能、培训AI，让他们向善。我们的希望是训练AI向善的技巧和训练AI聪明的技术不一样，每个国家可以做自己的研究，让AI向善。”
演讲最后，辛顿提出一个提议：全球主要国家或AI主要国家应该思考建立一个网络，包括各个国家的一些机构来研究这些问题，研究怎么来训练一个已经非常聪明的AI，让AI不想要消灭人类、不想要统治世界，让AI很高兴做一个辅助工作。
“尽管AI比人要聪明很多，我们现在还不知道怎么去做这件事。从长期来说，这可能是人类面临最重要的问题，我们的好消息就是，在这个问题上所有的国家都是可以一起合作的。”辛顿说。
还没有评论，来说两句吧...