【思想者茶座】AI奠基人特伦斯·谢诺夫斯基：AI不是随机鹦鹉，如何应对“有主见”的AI ...

2025年，堪称中国大语言模型的元年，这一年DeepSeek横空出世，很快在全球掀起风暴，甚至抢走了OpenAI的风头。

但是AI大范围应用后，有关AI技术的各种担忧也接踵而至：AI是否会抢走人们工作？大语言模型为什么存在偏见？为什么会编造事实？各国如何监管AI技术？未来是否会出现有意识的超级AI威胁人类？等等，这些都成为热烈讨论的话题。

观察者网【思想者茶座】远程连线美国四院院士特伦斯·谢诺夫斯基，与他讨论了上述问题。特伦斯是全球计算机神经科学领域的奠基人之一，也是人工智能研究的先驱。他在神经网络、机器学习等领域取得了诸多开创性成就，包括与图灵奖获得者杰弗里·辛顿共同发明了玻尔兹曼机——这是最早能够学习多层网络中复杂模式的算法之一，他二人被誉为“AI的莱特兄弟”。

面对一个文科背景的访问者，特伦斯用通俗的语言讲述了，为什么AI技术在经历了60年的研究后最近几年才突飞猛进，变得如此强大并广泛应用。他用科学家的激情和热忱，逐一打消了我们对于AI大语言模型“编造事实”、带有偏见、抢人类工作、甚至未来可能威胁人类的各种担忧。他还讲述了自己在1980年代和其他科学家一起挑战语言学权威和数学权威，将语言之间的联系用方程写出来，从而奠定了大语言模型基础的故事，并以此来鼓励年轻人，科学探索要不畏惧权威，“当专家告诉你某件事不可能时，不要听他们的。”

此外，针对各国纷纷出台的AI监管法案，他一再强调AI大语言模型还处在初级阶段，监管过早过细会影响科学发展。新技术只有被大规模使用，科学家们才能通过试错，发现解决问题的办法。以下是我们的对话实录。

被誉为"AI莱特兄弟"的特伦斯·谢诺夫斯基（左）和杰弗里·辛顿（右）

经过40年的研究，特别是我的合作者兼朋友杰弗里·辛顿，他确实为此问题努力了40年，试图扩大规模并解决越来越难的问题。

转折点大约出现在10年前，当时他和他的学生们能够解决一个在当时来说非常困难的视觉图像识别问题。换句话说，AI能够看着一张图片说，“嘿，那是座山”或“嘿，那是头大象”。这对我们来说似乎很容易，但事实证明并非如此，这在计算机视觉中是个非常困难的问题。后来，杰弗里在一个我协助组织的名为“神经信息处理系统大会”（NeurIPS）的会议上做了报告，这个会议如今是全球最大的AI会议。

这成了一个巨大的技术突破。大约三年前，OpenAI发布了ChatGPT。如你所知，它一夜间取得了巨大成功，这看似是一夜间的成功，但背后是40年的研究积累。所以现在我们知道了问题的答案：神经网络的扩展性好得惊人，难以置信。现在正在发生的是一场革命，AI正在对世界产生巨大影响。

大语言模型是“云端的大脑”，没有情感、没有长期记忆

观察者网：而且这项技术正在逐步改进，这很神奇。上个月Sora 2也发布了，标志着AI视频生成技术又前进了一步，令人惊叹。您在书中提到，大语言模型受人类大脑启发，但只模拟了大脑皮层称为编码功能的一小部分，就已经达到如此高的水平。这是否意味着大语言模型能够无限改进，甚至达到您在书中提到的可能对人类构成威胁的超级AI（Super AI）的程度？

特伦斯·谢诺夫斯基：好的，让我们退一步说。首先，这些大语言模型在整合知识的量上已经远超大脑。换句话说，人类非常擅长特定领域的学习，例如如果你是医生，你会非常擅长诊断疾病，但你不擅长法律，而律师擅长法律。也就是说，人类是专家型的。但ChatGPT的惊人之处在于它能回答任何问题，所以在这方面它已经超乎常人了。

但这并不意味着它要接管一切或其他什么。我认为，它只是一个更好的工具，是推动进步、提供帮助的更好方式。它确实是一种帮助人类提高生产力的方式，这正是它如今如此受欢迎的原因。因为它对你有帮助，我们都有同感。实际上，它仍然是一个需要学会如何使用的工具。你需要学习如何提问，学习如何与AI进行对话，那些能够最有效使用AI工具的人正是取得最大进步的人。

你刚刚提到了大脑，我是一名神经科学家，我研究大脑，我的专业是计算神经科学。这意味着什么？从事计算神经科学的人试图理解大脑是如何进行计算的。我刚才提到了神经网络，那是一个好例子。但大语言模型基于一种特殊的架构，这种架构是受人类大脑皮层启发的。大脑皮层是大脑表面的一层薄层，它非常重要，是我们知识的储存库。但大脑中还有数百个其他区域，这对人类的生存同样重要。ChatGPT在其他区域的能力并未被使用。它有点像云端的大脑，没有手臂和腿，没有眼睛，它所知道的只有词语，因为它是基于词语训练的。不过这种情况正在改变，现在新的网络也开始基于图像和电影进行训练。这只是过去几年取得进展的又一个例子。

作者认为，新技术出现后，人类不会放弃传统能力，比如计算器早就发明出来了，但是数学运算能力仍然还是一代一代传承

现在你知道问题所在了。不幸的是，这正在美国发生。有人主张，也许不需要练习，只要读一本关于乒乓球的书就行了，书里有图片教你怎么握拍等等。但是，书无法替代亲自练习。你必须进入现实世界，真正去打乒乓球才能提高打球技术。做算术也是一样的道理。你不能只按按钮，也不能只读书。你必须进入现实世界，思考数字，使用数字，哪怕只是为了估算。你要对数字有良好的感觉，这一点必须通过练习来获得。

所以，看，这就是你现在正在做的事情，你在练习英语，你在实践，这就是保持认知能力的方法。但顺便说一句，如果你停止练习，任何技能都会开始生疏。你必须持续使用才能维持这些技能。所以不用担心，使用AI不会让你失去语言能力，未来的人们也仍然需要用以前的方式来学习语言技能。

而且，你使用AI的方式恰恰是提高语言技能的正确途径。顺便说一下，很多英语是第二语言的科学家觉得写作非常困难。我的实验室里也有这样的人，他们年轻的时候除了在学校学英语，其余时间对外语接触不多。他们的英语还算不错，但写作时语法仍不太准确。英语是一门很难写的语言，也许没有中文那么难，但也相当困难。所以他们现在的做法是，写好论文后交给ChatGPT，说“请改进语法”。结果你看，效果很好。所以，这是一个极好的工具，可以将你自身的技能提升到更高的水平。

AI在某方面比你强，就会抢走你的工作，这是错误的看法

观察者网：下一个问题是关于工作的。人们很担忧， AI的到来会砸掉很多人的饭碗。特别是在中国，除了AI，还有机器人等技术，AI正开始逐步替代很多领域的工作，比如翻译，以及许多初级文职工作。您认为，人们应该如何为这种转变做准备？在这个AI成为常见工具的世界里，哪些新技能对人类取得成功最为重要，会成为人类最根本的、独一无二的特质？

特伦斯·谢诺夫斯基：我做公开演讲时，最常被问到的问题就是：我会失业吗？人们为什么害怕失业？因为他们从报纸上读到，AI来了，人们可能会失业。报纸上这么说是为了销量，所以他们要抛出能吸引眼球的东西。如果媒体上说，AI在某方面比你强，那你的工作就会消失，这是一种错误的看法。

顺便说一下，2018年，我在我的第一本书《深度学习：智能时代的核心驱动力量》（这本书有中文版）里就做过预测：你不会失去工作，但你的工作会发生变化；你需要学习新的技能，以便能够使用这些工具来提高你的工作表现；如果你不学习这些技能，你可能会失业。

如果你现在是成年人，你就需要自己去学习，这将极大地提高你的工作能力和生活质量。因为你可以从重复性的、繁琐的工作中解脱出来，腾出时间去做更有创造性的事情。这正是每个领域正在发生的。

在医学领域，医生使用AI来帮助他们诊断疾病，这比他们单独诊断的效果更好。律师现在能够在更短的时间内处理更多的案件，原本需要数周时间，现在按个按钮，当天就能得到结果。建筑师也一样，他们能更快地设计出房屋。这就是未来的方向。这将会改变一切。

我们再回到农业的例子。我说过以前99%的人在务农，他们现在去哪了？他们在工厂工作，在办公室工作。工业革命等一系列技术革命发生之后，新的工作岗位会被不断创造出来，这些是以前不存在的。将来的孩子们会以不同的方式工作学习，从事新创造的工作。

互联网就是一个很好的例子。想想现在所有的工作：网页设计师、互联网内容创作者（如播客）等等，之前都是没有的。举个更贴切的例子：过去，如果你想成为一名记者，你得去报社工作。现在不需要了，因为有社交媒体，有博客、播客等等。你可以作为一名“网红“过上很好的生活，可以在家工作，不用通勤。“网红“这个职业以前是不存在的，因为互联网改变了一切。

AI的到来也会发生同样的事情。它会改变一些东西，有些人可能会落后，通常是像我们这样的年长者。但年轻人会直接接纳它，他们没问题。他们会像学习任何新事物那样去学习AI。社会的进步就是这样发生的。

AI不是随机鹦鹉，如何应对“有主见”的AI，需要年轻一代的努力

观察者网：下一个问题是关于大模型的偏见，您之前也已经提到过，比如我搜索同一个中国政治类话题，DeepSeek中文版的内容比较正常，但是如果切换成英文搜索，或者用ChatGPT直接查英文时，其回复常常表现出与西方媒体叙事一致的观点，负面、带有偏见。您也曾警告过在全球地缘政治竞争背景下AI被武器化的风险，这是个非常及时且重要的提醒。我的问题是，如何来减轻AI系统中的这种政治和文化偏见？

特伦斯·谢诺夫斯基：这是个很好的问题，也是一个意外后果的例子。我们当初没有内置这方面的考量，但它出现了。

AI是如何变得有偏见的？因为它吸纳了人类所有的文本资料，而人类本身就是有偏见的，所以它吸收了所有这些偏见。现在我的问题是：我们想要扭转这些偏见，你觉得，是扭转人类的偏见容易，还是扭转大语言模型的偏见容易？哪个会更容易？

观察者网：大语言模型。

特伦斯·谢诺夫斯基：是的，说得对，就是这样。

观察者网：确实。对于人类来说，改变别人想法很难……

特伦斯·谢诺夫斯基：很难。没错，正是如此。所以，正如我前面所说，我们还处于起步阶段。我们会找出改变偏见的方法，而且这已经在发生了，所以不用担心。

还有另一点值得思考。人类非常有主见，我们都有各自的看法，真正的问题是，我们将如何应对那些同样“有主见”的大语言模型。我们人类在成长过程中面对的是前所未有的事物，这和文化有关。你在中国长大，与你在美国长大很不同，也与你在非洲某些地方长大不同。那么，哪种文化更好呢？

观察者网：不能说哪种更好。

特伦斯·谢诺夫斯基：说得对。所以，如果科学家用所有文化来训练大语言模型，AI模型要怎么判断你喜欢哪一种呢？实际上，大语言模型正在教给我们一些东西，一些我们应该吸取的教训，我认为这将帮助我们理解自身。

我举一个例子。目前专家们正在进行一场巨大的辩论，这些专家包括语言学家、研究大脑如何思考并产生新想法的认知科学家，还有心理学家，争议的焦点在于大语言模型是否理解语言。

语言学家诺姆·乔姆斯基，至今对大语言模型不买账

我给你最后一个例子。

在上个世纪，像诺姆·乔姆斯基这样的世界顶尖语言学专家认为，语言的特殊性在于有一种叫做“句法“的东西。什么是句法？就是语法。你在学校学过，不同的词有不同的角色，有名词、动词和形容词。所以它们组合在一起的顺序对于理解句子非常重要。他们基于句法建立了一个庞大的理论体系，但结果呢，我们现在知道他们完全搞错了方向。事实证明，“句法”当然也是语言的一部分，但那不是语言的关键；语言的关键叫做“语义”，它建立在句法之上，语义就是关于一个词的含义。我们现在有工具可以深入这些大语言模型内部，并且我们已经发现，有很多不同的线索可以用来判断一个词的意义，这就是上下文。

一个词可以有多种不同的意思，所以你必须从上下文中推断出它的具体含义，而这正是大语言模型所擅长的。它们非常擅长结合上下文审视这个词，以及在整个对话中你所用过的所有其他句子和词语的语境。它综合所有这些词语，来推断下一个词会是什么。我们已经深入其内部观察过了，我们发现句子的内部结构是基于语义的。在这个高维空间中，事物是根据意义的相似性聚集在一起的。而AI能回答新问题的唯一方式，就是AI能够理解这个问题。这就是我们学到的东西。

这几乎就说明了，上个世纪的语言专家们的理解偏差太大了。我认为，他们实际上阻碍了我们对语言的理解，因为他们过于专注于语言的某一个细小部分。我本人不是语言学家，所以我只能说，这真的很遗憾，因为当年那些大专家正是现在那些说“不，ChatGPT不理解语言”的人。

他们在否认，为什么？因为他们是既得利益者。他们建立了自己的声誉，曾被认为是语言学界最顶尖的人物。而现在我们已经表明，他们的理论是可疑的，他们不再是（最顶尖的）了，时代变了。抱歉，他们必须向前看。我们确实取得了重大突破。如果你不想承认，那也没关系，但我们会继续前进。

我想，我们这个访谈的听众有很大一部分是年轻人。他们不像我们这一代人，我们已经尽了最大努力。虽然我还在工作，但未来将由下一代、由年轻一代创造。我给你们的建议是，当专家告诉你某件事不可能时，不要听他们的。

因为肯定会有某个年轻人出现，并找出行得通的方法。这是我的经验，也是永恒的经验。创造革命、创造未来的总是年轻一代。马克斯·普朗克是量子理论的先驱之一。在上个世纪，物理学中的量子理论与相对论一起，是最重大的理论之一，它都是由二三十岁的年轻人创造的，就像我们当年研究神经网络一样。马克斯·普朗克年老时说了一句名言：物理学的进步是一次葬礼接一次葬礼地进行的。换句话说，是世代的更迭使进步成为可能。

量子力学奠基人马克斯·普朗克

如果我们处在一个固步自封的社会，它不是基于推动进步，而纯粹是想阻碍进步发生，那么就意味着你无法进步，事物会停滞不前。但幸运的是，人类在不断变化，因为我们有新人一代又一代人地出现，他们正在创造未来。所以，年轻人，未来是你们的。不要听我们这些“老古董“的话，我们在这里只是为了帮助你们。

政府对AI监管过细过早，不利于探索试错

观察者网：太棒了！我希望我们的年轻读者能听到您的话，这对他们很有帮助。最后一个问题。关于AI治理，目前像欧盟、美国和中国等不同国家和地区采取了不同的监管方法。您也倡导个体包容的全球化，以避免冷战式的AI竞赛。您认为这会导致全球技术格局碎片化吗？有哪些实际步骤可能促进国际合作？

特伦斯·谢诺夫斯基:你知道，我们以前经历过这种情况，我们也会再次经历。我是全球最大规模人工智能会议之一的神经信息处理系统大会（NeurIPS）基金会的主席，今年12月，我们将有3万人在圣地亚哥参加这个会议。它从39年前的几百人起步，至今已有万人参加的规模。

我们对这些问题非常敏感。换句话说，我们不仅仅是生活在真空中制造机器的工程师和科学家，我们也是社会的一部分，我们和公众一样关注这些问题。不同之处在于，我们理解这项技术，并正在努力解决所有我们知道AI技术存在的问题。

而我们能够做到这一点的另一个条件是，我们必须能够不断探索和尝试新事物。如果政府限制说不能做这个，不能做那个，那我们就永远无法解决这些问题。因为很多进步都来自试错。所以我赞成自我监管，我认为我们能做到，我们的社群里有真正聪明的人可以帮我们做到这一点。

目前，我认为政府试图加以限制还为时过早。因为如果不进行探索，你无法真正理解什么是防止坏事发生的最佳方式。显然，一旦出现意外后果，你希望防止最坏的情况发生，而这已经开始发生了。

一个例子是，欧盟提出了一个长达100页的《人工智能法案》，里面充满了各种细节，比如，你不能用AI来评估求职简历。这很荒谬。就好像说，你不能用大模型来改善你的英语语法。这100页的法案，全是细枝末节，微观管理，你打算如何执行呢，这很荒谬，这是错误的做法。我认为我们能找到更好的方法。

不同国家会以不同方式处理，我认为中国做得相当不错。我刚好了解到，中国出台的规则比欧盟提出的要合理得多。美国目前治理机构陷入僵局，所以没有新规则出台。这也许是件好事，也许这就是为什么美国AI技术能够快速推进、能取得快速进展的原因。

我没有定论。每个人都有自己的看法，做任何事都没有所谓的最佳方式。我们只是在摸索，尽力而为。历史告诉我们，必须让事情随着时间逐步展开。只要决策者心里装着人类的最大利益，事情总会解决的。

观察者网：好！您对AI技术的信心令人鼓舞。感谢您用通俗的语言讲述这么复杂的问题，就像您说的，一切才刚刚开始，我们每个人都应该去尝试这项新技术，感谢您接受我们的采访！

本文系观察者网独家稿件，文章内容纯属作者个人观点，不代表平台观点，未经授权，不得转载，否则将追究法律责任。关注观察者网微信guanchacn，每日阅读趣味文章。