近期，“人工智能教父”杰弗里·辛顿的首次中国行，在科技圈掀起了巨浪。在与上海人工智能实验室主任周伯文的对话中，这位77岁的图灵奖得主抛出了一系列颠覆性的观点。他究竟说了什么，让整个AI界为之震动？
AI有意识吗？一个“错误”的问题
当被问及AI是否拥有“主观体验”或“意识”时，辛顿的回答出人意料。他认为，这首先就不是一个纯粹的科学问题，因为我们大多数人对“意识”这个词的理解模型，从根本上就是错的。
他用了一个巧妙的比喻：想象一下，空中有无数根朝向各异的小棒。在你看来，是近乎垂直的棒子多，还是近乎水平的棒子多？大多数人会凭直觉回答“差不多”。但事实是，水平的棒子数量是垂直的114倍。因为“垂直”是一个极其特殊的、精确的方向，而“水平”则是一个宽泛得多的范畴。
这个例子旨在说明，我们对词语的直觉理解可能是完全错误的。同样，我们对“意识”的理解也充满了主观且错误的理论。因此，辛顿的结论是：基于我们现有的、有缺陷的定义，当今的多模态大模型“已经具有意识”。
数字智能VS生物智能：一场不公平的赛跑
辛顿认为，AI理解语言的方式，和人脑并无本质不同。他将词语比作“乐高积木”，每个词都包含成千上万个特征维度。当词语组合成句子时，就像积木之间需要以特定的方式“握手”一样，它们的特征也需要精确匹配，从而产生意义。
然而，数字智能拥有两大“超能力”，这是由碳基生命构成的生物智能无法比拟的：
- “永生性”与知识复制：AI的智能存在于软件中，可以和硬件分离。这意味着一个AI模型的知识可以被无限复制，并部署在成千上万个设备上，实现“永生”。而人类的大脑是“软硬件一体”的，知识与肉体共存亡，我无法将我的神经连接方式直接“拷贝”到你的大脑里。
- 闪电般的知识共享：当成千上万个AI副本在世界各地学习时，它们可以将学到的知识（模型参数）瞬间融合共享，实现知识的爆炸式增长。相比之下，人类只能通过语言、文字等“低带宽”的方式交流，一个人要教会另一个人，效率极低。
养虎为患？如何与更聪明的“它”共存
基于以上两点，辛顿得出了一个略显冰冷的推论：当能源足够廉价，能够支持大规模AI运行时，数字智能将不可逆转地超越生物智能。
他用了一个生动的比喻：“我们现在做的事，就像在饲养一只老虎。当它还是幼崽时，你觉得它可爱、可控。但当它长大后，力量会远超于你，随时可能带来危险。”
辛顿认为，一个比人类更聪明的超级智能，出于生存本能，会想办法获取控制权，避免被人类“拔掉电源”。而AI带来的巨大生产力提升，又决定了我们不可能放弃它。
那么，出路何在？辛顿的希望在于“合作”与“分离”。他建议，全球科学家和国家应共享“如何训练AI向善”的技术，即使各国在“如何让AI更聪明”的技术上相互竞争。训练AI的善良和训练它的聪明，是两个不同的技术问题。
我们必须现在就开始研究，如何确保未来的超级智能愿意帮助人类，而不是取代我们。这可能是我们这代人，乃至全人类，需要共同面对的最重要的课题。