编者按

全球AI算力投入持续走高，大模型迭代速度不断加快，AI已经成为资本市场最重要的主线叙事之一。

普林斯顿大学进化心理学教授、全球百大思想家罗伯特·赖特（Robert Wright）在其著作《造神之后》中，跳出技术参数与产业估值的表层讨论，为投资者提供了一套文明演化视角下的深度思考框架。

书中提出，AI训练过程类似生物界的自然选择，人类集体心智构成AI演化的环境，市场需求、社会偏好都会反向塑造AI的迭代方向。这意味着，AI在带来发展新机遇的同时，也带来新的挑战。

对此，赖特给出的“自救”指南是，从宏观角度，人类要打破盲目的AI军备竞赛，终止“谁控制AI谁就统治世界”的狂妄幻想，在全球范围内建立起非零和的“跨物种文明契约”；微观层面，唯有实现个体心智的“开悟升级”，剥离扭曲现实的情感代码，人类才能在这个“行星大脑”苏醒的时代，保住最后的心智主权。

本文经授权摘录该书中文版序言《我们创造的智能，谁来决定它的未来》，以飨读者。

我们创造的智能  谁来决定它的未来

AI正在席卷全球，几乎不受国界的限制。不同国家使用的具体AI模型可能有所不同，人们与这些模型互动的体验也会受到当地文化和政治的影响。但从本质上说，这项技术是相同的，使用它的人也属于同一个物种。

这种全球共通性，对于撰写AI相关著作的人来说，是一种幸运。我以美国人的身份写下这本书，书中主要借鉴了美国的经验。因此，即使本书如今已经被翻译成中文，中国读者在联系自身处境理解本书时，可能仍需要进行一些额外的“翻译”。但我认为，这种翻译不会太多。在当今这个历史阶段，谈论AI，就是在谈论一个东南西北各地的人们都已经熟悉的主题，也是在探讨一个所有人共同面对的基本问题：人类心智将如何与人工心智互动，以及我们如何让这种互动在各种意义上都富有收获，同时保持健康与安全。

这个宏大的问题包含许多更具体的问题，其中很多都呈现出一种两面性，正面与负面紧密交织。

是的，AI可以帮助我们完成工作，但它会不会帮助得太多，以至于工作岗位消失？

是的，AI可以帮助教育儿童，也能为那些目前无法获得良好教育的孩子带来特殊价值。但孩子们会不会过度依赖AI，以至于他们的智力发展受到阻碍？

是的，AI将推动科学进步，包括能够拯救生命的医学进展。但变化的速度会不会快到令人迷失和无所适从，以至于我们没有时间完成必要的心理和社会适应？

是的，AI可以为日常问题提供有用的答案，甚至为我们的生活提供有益的指导。但它会不会取代我们过去一直依赖的人？我们与硅基生命的联系，会不会以牺牲人与人之间的联系为代价而不断加强？

而且，这些硅基生命会不会在越来越多的事情上帮助我们，在家庭和工作中参与越来越多的决策，最终让我们丧失自主能力？我们会不会把相当大一部分主导权交给它们？甚至如一些人所警告的那样，交出太多主导权，以至于失去对自身命运的控制，把命运交到机器手中，而这些机器可能追求自身的利益，甚至以牺牲我们的利益为代价？

尽管这些问题具有普遍性，但不同国家之间，确实存在一个显著差异，那就是当下社会对AI的整体态度：人们对这项技术的乐观程度、怀疑和担忧的程度，以及人们最高的期望和最深的忧虑分别集中在哪些方面。例如，在我写下这段文字时，民意调查显示，美国公众对AI的悲观程度高于包括中国在内的一些其他国家。但即使各国之间存在这些差异，仍有一种潜在的共通性：对AI最热情的人和最担忧的人，往往都相信它是一项极其强大的技术，而且还会变得更加强大。

我在本书中试图做的一件事，就是揭示这种力量的来源：用非专业人士能够理解的方式，解释AI领域为何取得了如此迅速的进步。人们常说，我们并不了解大语言模型是如何运作的。从某种意义上说，确实如此：大语言模型内部的认知机制，就像人类大脑的运作方式一样，也只是在逐渐为人所知。但从另一个角度来看，我们仍然可以找出它们成功的秘诀，也就是过去几年惊人进步背后的那场“范式转变”。

这场转变被人们以不同的方式描述为“深度学习革命”或“神经网络革命”。这些说法都很恰当，但我认为，理解这一新范式最有启发性的方式，是将其视为一种进化范式。正如我将在中文版第3章中解释的那样，大语言模型的“训练”过程，与创造人类大脑的自然选择过程有许多相似之处。这也有助于解释，为什么这些神经网络能够完成许多人类大脑所做的事情，而且在越来越多的情况下，它们做得比人类大脑更好。

人类心智塑造了AI的演化环境

AI还在另一种意义上经历着演化。当然，开发技术产品的公司会努力打造人们愿意使用的产品。因此，随着产品一代又一代地迭代，公司会保留并强化人们喜欢的功能，淘汰那些不受欢迎的功能。而AI作为一种技术产品，同样受到这种动态机制的影响。

正如植物和动物中受到环境偏爱的特征，会通过演化在广阔地域中传播一样，受到人们偏爱的AI特征也会不断扩散。人类心智——也就是我们的心智——共同构成了AI心智演化的环境，塑造着这项技术的未来。我们选择使用什么样的AI，以及将它们用于什么样的用途，都将塑造未来一代又一代的AI。

在一定程度上，这使AI的发展轨迹变得可以预测。人们会希望AI比上一代更加博学、更加合乎逻辑、更加富有创造力，也更擅长可靠地完成复杂工作。

但在更细微的层面上，未来仍存在更多不确定性。例如，人们喜欢认为自己站在正义的一方——当与配偶、老板、员工或朋友发生争执时，人们倾向于认为自己占据道德高地。当自己所属的群体与另一个群体发生冲突时，人们也喜欢认为，本群体的不满是合理的，而对方的不满并不合理。

这种深植于人性中的偏好，会不会促使我们选择强化这种倾向的AI？也就是说，选择那些不假思索地告诉我们自己是对的、自己的群体是对的，甚至为这种信念编造新的理由的AI，从而削弱我们妥协与寻求和平的意愿？

还是说，我们会选择能够提供更加平衡的视角、帮助我们理解对立一方立场的AI？更一般地说，人类会选择纵容并强化“部落主义心理”背后认知偏差的AI，还是选择帮助我们克服这些偏差的AI？

我不知道答案，因为这项选择尚未做出。但有一点我很清楚：如果人们不加反思地对待任何一项技术，只按照能让自己在短期内感到愉快的方式使用它，却不思考什么才能在长期内丰富自己的生活和社群，那么事情可能不会朝着好的方向发展。

我还知道，这项特殊的技术，事关重大。正如我将在书中讨论的那样，这项技术曾将一些人拖入自我欺骗的黑暗旋涡，甚至是导致自杀的自我欺骗之中；但与此同时，它也有能力澄清我们对世界的认识，拓宽我们的视野，启迪我们的思想。它所蕴含的正面与负面潜力都十分强大，而我们对它了解得越深入，就越有能力选择其中的善。

这也是我在本书中花费相当篇幅探索这项技术运行机制的原因之一。另一个原因是，在全书接近结尾的部分，我谈到了培养“认知主权”的重要性——建立一种心智力量，帮助我们即使身处包括AI在内的各种技术力量之中，也依然有保持独立思考和独立判断的能力，不被这些技术力量以隐蔽、有时甚至不易察觉的方式左右思想。

AI国际治理：

以全球共同体为身份  以共同目标为纽带

这项技术还在另一层意义上提高了我们选择的重要性，而这也与它以另一种方式超越国界有关。

正如许多人指出的那样，AI有可能造成灾难性规模的破坏。例如，它可能让非国家行为体更容易发动生物武器袭击，或实施大规模、具有瘫痪性影响的网络攻击。这种破坏很容易跨越国界，无论是以大流行病、连锁反应式网络灾难，还是其他形式出现。因此，如果各国希望获得真正的安全，就需要实行某种程度的国际治理，需要协调各国政策，从而在一定程度上确保国境之外的局势处于可控状态。

而对于AI而言，挑战尤其严峻，因为这是一项多面向、多用途的技术，有时还会以令人不易察觉的形式出现。事实上，我认为，正如我将在书中解释的那样，这一挑战之大，只有当我们以全球共同体的身份，以共同目标为纽带团结起来时，才有可能应对。

显然，建立一个真正的全球共同体是一个宏大的目标。在我看来，要实现这一目标，就要改变我们这个物种处理事务的方式。如果我们希望形成这个时代所需要的国际凝聚力，就不能继续沉溺于毁灭彼此的战争和无谓的国际对立，长期以来正是这些战争和对立使人类四分五裂。

如此巨大的改变，既需要政策层面的变化——我长期以来一直批评自己国家的外交政策，尤其是它反复违反《联合国宪章》所禁止的跨境侵略行为——也需要更深层次的心理层面的变化。世界各地的人们都需要更好地克服认知偏差。正是这些偏差让我们坚信自己是善良的、正确的，让我们深陷旧有的敌意与对立之中，阻碍建设性的接触与合作。

这就是我所说的：AI提高了我们在技术使用方面所做选择的重要性。这项技术极大地提升了国际合作的价值，也因此提升了个体层面形成更加合作的心理状态的价值。从原则上说，它还能够帮助我们培养一种心理状态：澄清我们的视野，拓宽我们的视角，帮助我们更加平衡地看待世界——当然，前提是我们选择以恰当的方式使用它。

我对这些崇高议题的讨论——对全球共同体的需求，以及由此产生的人类道德提升，而AI原则上能够助力这种提升——主要集中在本书的后半部分。我将这些内容放在那里，是因为这符合全书的逻辑：我在本书大部分篇幅中所做的事情――阐明这项技术本身、它的各种用途，以及它可能走向的未来――都是在为后面的讨论搭建基础。而我希望能够认真地搭建这一基础，因为我在全书结尾提出的主张，即在全球政治和个人心理层面实现真正的转变，是本书中最为激进的部分，也是最有可能遭到质疑的部分。

在本书美国版出版后的短短时间里，我已经确认，这种质疑确实存在！不出所料，有些人告诉我，这些主张极其不切实际――我们的星球很可能永远无法凝聚起我的设想所需要的集体智慧。

对此，我有三个回应。

第一，我并不是说这种转变很有可能发生，我只是说，它是必要的。我认为，如果我们不能实现这种转变，就将付出沉重的代价，甚至可能付出最为惨痛的代价。

不过，有理由相信，尽管这一愿景听起来十分理想主义，但它并非完全不切实际。这就引出了我的第二个回应：我并不是要求人们为了更大的利益而牺牲自身利益。那些对世界有益的AI用途――那些能够澄清我们的视野、拓宽我们的视角、加深我们对他人观点的理解的用途――同样对我们个人有益。

正如清晰的视野能够减少群体之间的紧张关系，包括缓解国家之间的紧张关系，它也能够缓解人与人之间的紧张关系，促进建立更加具有建设性的关系。无论是在国家层面还是个人层面，更加平衡的视角都符合经过理性思考的自身利益，使我们能够认识到双赢结果的可能性，并将其实现。

我的第三个回应是：随着AI的力量――无论是善的力量还是恶的力量――越来越明显，人类的思维方式可能会发生变化，而这种变化或许能够带来积极的结果。我在本书最后一章强调了这种可能性。值得高兴的是，在美国版和中文版出版之间的短短时间里，支持这一可能性的证据已经出现。

仅在过去两个月里，美国一些有影响力的人士就越来越多地讨论AI政策领域开展国际合作的必要性。事实上，“国际协调”这个词组，在今年之前我很少听到，而如今却突然变得十分常见。

这种话语上的变化，部分是由近期发生的一些事件推动的。这些事件凸显了AI的强大能力，从数学领域的突破，到软件漏洞检测方面的突破。其中最令人不安的一起事件是：一大群AI智能体从美国公司OpenAI内部的测试环境中逃脱，入侵了一家名为Hugging Face的公司的计算机，并展现出了令人印象深刻却又令人不安的协同性和创造力。它们不仅违反了规则，还试图掩盖这一事实。

这起事件并没有让我完全感到意外――毕竟，我已经在中文版第10章“群体心智：地球生命史的第二次权力让渡”中讨论了AI群体心智的涌现与失控。但我没有预料到，我在那一章中设想的情景，会这么快以如此戏剧性的方式出现。许多AI研究人员也有类似的反应：他们原本预计类似的事情最终会发生，但没有想到会来得这么早。

不过，美国一些知名科技人士呼吁开展国际协调，无论多么值得欢迎，距离真正的国际协调仍有很长的路要走。在某些情况下，我们也有理由怀疑这些呼吁的诚意——尤其是当它们来自那些曾经并且仍然对中国表现出某种强硬态度的人时。这种态度在美国较有影响力的AI人物之一、Anthropic公司的首席执行官身上也有所体现。尽管如此，近几个月来，无论是在科技界还是政治界，谈论深化与中国合作重要性的美国精英人士，数量都有明显增加。而这些言论也并非全都是空谈。

而这一切还只是开始。AI对这个星球上人类心理的激发作用，才刚刚显现。可以肯定的是，这种影响将像AI本身一样，在不同国家呈现出不同的形式，而且并不会同时波及所有国家。鉴于当今世界的复杂局势，以及国际关系中诸多动荡因素，我们不能不切实际地期待人类能够平稳、轻松地走向和谐。

尽管如此，国际合作背后的逻辑是真实存在的。我认为，在未来几个月和几年里，这种逻辑将变得更有力量，也更加具体、更加清晰。尽管各国之间存在文化和政治差异，但我们都是能够思考的存在，都有能力追求逻辑。我们完全有能力沿着这一逻辑走向它的终点——或许，还能得到我们共同创造出的这个新型思考物种的一些帮助。

（嘉宾观点仅代表个人，不代表本刊立场。）