我经常思考并讨论强大 AI 的风险。作为 Anthropic 公司的 CEO，我的公司在如何降低这些风险方面做了大量研究。正因为如此，有时人们会认为我是个悲观主义者，甚至觉得我认为 AI 大部分情况下会带来糟糕或危险的结果。然而，我并不这样认为。事实上，我关注这些风险的主要原因之一是，它们是阻碍我们进入我所认为的积极未来的唯一障碍。我认为，大多数人低估了 AI 的潜在好处，就像他们低估了 AI 可能带来的风险一样。

在这篇文章中，我尝试描绘一个未来的美好蓝图——如果一切顺利，拥有强大 AI 的世界会是什么样子。当然，没人能确切预测未来，尤其是强大 AI 的影响可能比以往的技术变革更加难以预料，因此我所描述的必然带有一些猜测。但我尽力提出经过深思熟虑、具有参考价值的预测，尽管其中大多数细节最终可能会被证明是错误的。我列出许多具体的细节，是因为我认为一个具体的愿景比过于笼统和抽象的描述更有助于引发讨论。

首先，我想简要解释一下我和 Anthropic 为什么不经常谈论强大 AI 的好处，并且为什么我们总体上可能会继续更多地谈论风险。特别是，我做出这个选择的原因包括：

• 最大化影响力：AI 技术的基本发展及其许多（虽然不是全部）好处似乎是不可避免的（除非风险阻碍了这一切），并且受到强大市场力量的推动。相反，风险并非必然发生，我们的行动可以显著改变其发生的概率。

• 避免被视为宣传：AI 公司谈论 AI 的各种好处可能会显得像是在自我宣传，或试图转移公众对风险的关注。我也认为，原则上，花太多时间去“推销自己”对精神健康是不利的。

• 避免自大：我对一些 AI 风险公共人物（更不用说某些 AI 公司领导人）谈论后 AGI（通用人工智能）世界的方式感到不满，他们好像认为自己的使命是带领人类走向某种拯救的道路。我认为，将公司视为单方面塑造世界的力量是危险的，而将技术目标赋予宗教使命感也是非常危险的。

• 避免科幻小说式的负担：尽管我认为大多数人低估了强大 AI 的好处，但那些讨论激进 AI 未来的小群体往往会用一种过于“科幻”的语气，例如讨论上传意识、太空探索或赛博朋克的情节。这种讨论方式让人们不太愿意认真对待这些主张，并且让它们带上了某种不切实际的色彩。问题不在于这些技术是否可能发生，而在于这种“氛围”带来了大量文化包袱和未经说明的未来期待，使这些主张变成了少数亚文化的幻想，难以被广泛接受。

尽管有上述担忧，我仍然认为讨论强大 AI 可能带来的美好未来是非常重要的，同时尽量避免落入这些陷阱。事实上，我认为拥有一个真正鼓舞人心的未来愿景是至关重要的，而不仅仅是制定风险应对计划。虽然强大 AI 可能带来一些对抗性或危险的影响，但最终我们需要有一个共同奋斗的目标，一个让每个人都受益的正和结果，只有这样才能激励人们超越当前的分歧，共同迎接未来的挑战。恐惧是一种动力，但仅靠恐惧不足以推动我们前进：我们还需要希望。

强大 AI 的潜在应用领域非常广泛（如机器人技术、制造业、能源等，详细赛道分析请看原创研究: AI 算法分析 94 家海外 AI 独角兽），但我将重点放在少数几个我认为最有潜力直接改善人类生活质量的领域。让我最兴奋的五个领域是：

按照大多数标准，我的预测可能显得激进（除了一些科幻小说中的“奇点”愿景 2 外），但我是真诚地提出这些观点的。正如我前面提到的，这些预测可能完全错误，但我至少试图将它们基于对各个领域进展速度的半分析性评估，并设想这些进展可能带来的实际影响。我很幸运拥有在生物学和神经科学领域的专业经验，同时也是一名在经济发展领域有见解的业余爱好者，尽管我可能会犯很多错误。在写这篇文章的过程中，我意识到，邀请一群领域专家（如生物学、经济学、国际关系等领域）来共同撰写一个更好、更有深度的版本将非常有价值。或许可以将我在这里的努力视为为这个团队提供的一个起始提示。

为了让整篇文章更加精确并有依据，我们需要明确定义什么是强大 AI（即 5-10 年倒计时的起点），并为我们思考这种 AI 出现后可能带来的影响提供一个框架。

关于强大 AI 会是什么样子、它何时（或是否）会出现，这本身就是一个非常庞大的话题。我之前公开讨论过这个问题，也可能会专门为此写一篇文章（很有可能会在某个时候写出来）。显然，许多人对强大 AI 是否会很快被开发出来持怀疑态度，有些人甚至怀疑它是否能够被实现。我个人认为，最早可能在 2026 年就能看到它的到来，尽管也有可能需要更长的时间。但为了这篇文章的目的，我想暂时搁置这些争议，假设它会在相对不远的将来出现，并集中探讨它在出现后的 5-10 年内可能会带来的影响。同时，我还会假设这种 AI 系统的特性、能力以及它与外界互动的方式，尽管对此可能会存在不同的看法。

我所指的强大 AI 是这样的一个模型：在形式上可能类似于今天的大语言模型（LLM），但它也可能基于不同的架构，涉及多个相互作用的模型，且采用不同的训练方式，并具备以下特性：

• 从纯粹智力的角度来看，它在大多数相关领域（如生物学、编程、数学、工程、写作等）上比诺贝尔奖获得者还要聪明。这意味着它能够证明未解的数学定理、撰写出色的小说，甚至能从零开始编写复杂的代码库。

• 它不仅仅是一个“聪明的对话者”，它还拥有类似于人类在虚拟工作中使用的所有“接口”，包括文本、音频、视频、鼠标和键盘控制，以及互联网访问能力。通过这些接口，它能够在互联网上执行操作、发出或接收指令、订购材料、指导实验、观看和制作视频等，且它完成这些任务的技能超越了世界上最顶尖的人类。

• 它不仅仅是被动回答问题；它可以被赋予需要数小时、数天甚至数周才能完成的任务，并像一个聪明的员工那样自主执行任务，只在必要时询问问题。

• 虽然它没有物理形态（除了存在于计算机屏幕上），但它可以通过计算机控制现有的物理工具、机器人或实验设备；理论上，它甚至可以设计自己所需的机器人或设备。

• 训练这种模型的资源可以重新利用来运行数百万个实例（这与预测的~2027 年集群规模相匹配），且该模型能够以 10 到 100 倍于人类的速度吸收信息并做出反应。当然，它也可能会受到物理世界或与之交互的软件响应时间的限制。

• 这些数百万个实例可以独立执行不同的任务，或者在需要时协作完成任务，类似于人类的团队合作；同时，其中一些子群可以专门被微调来执行某些特定任务。

我们可以将其形象地总结为“一个在数据中心里的天才国家”。

显然，这样的 AI 可以非常迅速地解决极其复杂的问题，但要具体确定其解决速度却并不容易。两种极端的观点看起来都是错误的。一种观点认为，世界会在几秒钟或几天内发生剧变（即所谓的“奇点”），因为超级智能会自我提升，并迅速解决所有科学、工程和运营问题。然而，现实中存在诸多物理和实际限制，例如硬件制造和生物实验的时间需求。即便是一个由天才构成的虚拟国家，也无法避开这些限制。智能可能非常强大，但它不是魔法。

相反，另一种观点认为，技术进步已达到饱和，或者被现实世界的数据和社会因素所限制，因此即便 AI 比人类智能更强，也不会带来显著的提升。对我来说，这同样不合理。事实上，我能想到数百个科学或社会问题，如果有一大群非常聪明的人介入，他们将极大地加速这些领域的进展，尤其是在他们不仅仅进行分析，还能够直接在现实世界中采取行动的情况下（我们的假设“天才国家”就能够做到这一点，包括指导或协助人类团队）。

我认为，真实情况可能介于这两种极端观点之间，不同任务和领域的情况各异，且细节非常复杂。我相信，我们需要一种新的框架来更高效地思考这些复杂情况。

经济学家常常讨论“生产要素”：比如劳动力、土地和资本。而“劳动 / 土地 / 资本的边际回报”这个概念表明，在特定情况下，某一要素可能是限制因素，也可能不是。例如，空军既需要飞机也需要飞行员，如果缺少飞机，那么再增加飞行员也无济于事。我认为，在 AI 时代，我们应该讨论“智力的边际回报”，并试图弄清哪些因素与智力互补，哪些因素在智力极高时成为瓶颈。我们不习惯这样思考问题——问“变得更聪明对这个任务有多大帮助，以及在什么时间尺度上有帮助？”——但这是构想一个拥有强大 AI 世界的正确方式。

我推测，限制或与智力互补的因素可能包括：

• 外部世界的速度：智能体需要与世界交互来完成任务并进行学习，但外部世界的运行速度是固定的。例如，细胞和动物的自然运行速度无法改变，因此生物实验需要一定的时间，无法压缩。硬件、材料科学、人与人之间的沟通，甚至我们现有的软件基础设施也存在类似问题。此外，科学实验通常需要依次进行，每一个实验都建立在前一个实验的基础上。这意味着一些重大项目（如癌症治疗的研发）可能存在一个最低时间限制，即使 AI 的智力继续提升，这个时间也无法减少。

• 数据需求：有时缺乏原始数据，在这种情况下，再聪明的 AI 也无济于事。今天的粒子物理学家尽管已经非常聪明，但由于加速器数据的不足，无法在众多理论中做出选择。即使是超智能 AI，如果没有数据支撑，它们的进展也会受到限制，除非它们能够加快建设更大加速器的速度。

• 内在复杂性：有些问题本质上是不可预测的或混沌的，即使是最强大的 AI 也无法比现有的人类或计算机更好地解决。例如，尽管超级 AI 在处理混沌系统（如三体问题）时表现更好，但其提升也是有限的。

以上这些仅是限制智力发挥的一部分因素，而解决这些问题的关键在于我们如何运用强大 AI 的能力，以更合理的方式加速科技和社会的发展。

• 外部世界的运行速度：智能体需要通过与世界互动来完成任务并学习，但外部世界的运行速度是固定的。比如，细胞和动物的自然运行速度是不可更改的，因此实验往往需要花费一定的时间，这种时间可能是不可压缩的。无论是硬件的制造、材料科学的发展，还是人与人之间的沟通，甚至我们现有的软件基础设施，都存在类似的限制。此外，科学实验通常需要依次进行，每个实验都基于之前的实验结果，这意味着某些重大项目（如癌症治疗的研发）需要一定的时间，即使 AI 的智力再高，这个时间也无法缩短。

• 数据需求：有时问题并不在于 AI 的智力有多强，而在于缺乏足够的原始数据。在这种情况下，再聪明的 AI 也无法有效发挥作用。比如，今天的粒子物理学家虽然已经开发了众多理论，但由于粒子加速器所能提供的数据有限，他们无法在这些理论中做出最终的选择。即使是超智能 AI，如果没有足够的数据支撑，也难以取得实质性的突破，除非它能够加速获取更多数据的进程，例如通过加快建设更大、更先进的加速器。

• 内在复杂性：有些问题本质上是复杂的或混沌的，即使是最强大的 AI 也无法大幅度提升其解决能力。比如，在混沌系统（如三体问题）中，即便超级 AI 能够在某些方面提升预测能力，但由于系统的内在复杂性，这种提升也是有限的。

• 来自人类的约束：许多问题受制于法律、伦理和社会结构的约束，不能轻易突破。比如，符合伦理的 AI 不会通过伤害人类或违反法律的方式来解决问题。即使技术上已经具备了实现某些突破的条件，但受到法律和社会规范的约束，这些突破也可能无法立即实现。例如，尽管核能、超音速飞行技术早已成熟，但由于社会对安全性和法规的担忧，这些技术的广泛应用仍然受限。

• 物理法则：有些物理定律是不可打破的。例如，物质不可能超越光速，搅拌过的液体无法自动复原，芯片在单位面积内的晶体管密度也有其上限。这些物理法则限制了技术进步的空间，也限制了智能体的作用范围。

还有一个重要的因素是时间尺度的区分。虽然某些限制在短期内无法突破，但随着智力水平的提高，它们可能会在长期内变得更加灵活。比如，AI 可以开发新的实验方法，通过体外实验获取以往需要通过活体实验才能获得的数据，或者设计新的实验设备，加快实验进程。智力还可以通过改进科学本身来减少对某些实验的依赖，或者找到更快速、有效的途径解决现有问题。

因此，我们可以构想出一个图景：一开始，AI 的智力可能受到其他生产要素的严重制约，但随着时间的推移，智力将逐步突破这些限制，尽管某些绝对的物理法则依然无法改变。关键问题是，这个过程会发生得有多快，以及按照什么顺序发生。

在以上框架的基础上，我将尝试为文章开头提到的五个领域提供一些预测和思考。

生物学可能是最有潜力直接改善人类生活质量的科学领域之一。在过去的一个世纪中，人类终于战胜了一些历史上最顽固的疾病（如天花），但还有许多疾病依然困扰着我们。攻克这些疾病将是一个巨大的公益成就。除了治愈疾病之外，生物科学还有可能通过延长健康寿命、增加对自身生物过程的控制和自由、解决人类面临的日常健康问题，从根本上提升我们的生命质量。

在之前讨论的“限制因素”中，智能在生物学领域的应用主要受到数据、实验速度和系统复杂性的制约（实际上这三者彼此关联）。在开展人类临床试验时，人为因素的约束也在某些情况下成为后期的主要挑战。我们可以逐一分析这些问题。

在细胞、动物甚至化学过程中的实验往往受限于物理世界的进展速度。许多生物实验方案需要培养细菌或其他细胞，或等待化学反应完成，这个过程可能需要几天甚至几周，且通常没有明显的加速方法。动物实验可能需要数月，而人类试验通常需要数年，甚至几十年，尤其是那些需要长时间观察结果的研究。此外，数据问题并非数量不足，而是质量不高：我们缺乏足够清晰、明确的数据来区分出特定生物效应，或者找到因果关系，或者直接测量效果，而不是依赖间接推断。即使是大量的定量分子数据，例如我在使用质谱技术时收集到的蛋白质组数据，仍然嘈杂且缺乏足够细节（例如蛋白质在哪种类型的细胞中？细胞的哪个部分？处于细胞周期的哪个阶段？）。

这些数据问题的部分原因来自生物系统的复杂性。如果你曾看过人类代谢过程的图表，你会明白在如此复杂的系统中，孤立某个部分的影响是多么困难，更不用说以精确或可预测的方式进行干预了。最后，除了实验本身所需的时间之外，临床试验还涉及大量的官僚程序和监管要求，许多人（包括我在内）认为这些程序增加了不必要的时间成本，拖延了进展。

基于上述种种原因，许多生物学家对 AI 和大数据在生物学中的作用持怀疑态度。历史上，尽管数学家、计算机科学家和物理学家在过去 30 年间将他们的技能应用于生物学领域并取得了一些成功，但并没有带来他们最初期望的变革性影响。虽然像 AlphaFold（其创造者刚刚获得诺贝尔化学奖）和 AlphaProteo 这样的重大突破减少了一些怀疑声，但大多数人仍认为 AI（无论是现在还是将来）只能在有限的场景中发挥作用。常见的观点是：“AI 可以更好地分析数据，但无法生成更多数据，也无法提升数据质量。垃圾输入，垃圾输出。”

然而，我认为这种悲观观点对 AI 的潜力存在误解。如果我们对 AI 进展的核心假设是正确的，那么我们应该将 AI 视为虚拟生物学家，而不仅仅是数据分析工具。AI 应该可以执行生物学家做的所有工作，包括设计实验、操作实验设备（例如通过机器人控制实验室），或者指导人类研究人员如何进行实验。它甚至可以发明新的生物学方法和测量技术。通过加速整个研究过程，AI 才真正能够推动生物学的进步。这也是许多人在讨论 AI 如何改变生物学时常犯的一个误解：AI 不仅仅是一个分析工具。按照我们对“强大 AI”的定义，我指的是 AI 能够执行、指导并优化几乎所有生物学家的工作。

具体来说，生物学的重大进展往往来自极少数的突破性发现，这些发现通常与新型测量工具或技术有关，这些工具允许我们以精确、可编程的方式干预生物系统。每年可能会有一到两次这样的重大发现，而这些发现可能推动了 50% 以上的生物学进步。这些技术和工具之所以如此强大，是因为它们能够突破生物系统的复杂性和数据限制，直接提升我们对生物过程的理解和控制。每隔几年就会出现的这些发现，极大推动了基础生物学的理解，同时也催生了许多最有效的治疗方法。

以下是一些例子：

• CRISPR：一种可以对生物体内任何基因进行编辑的技术。自开发以来，CRISPR 技术不断改进，针对特定细胞类型的精确度和安全性都在提高，减少了基因编辑的错误。

• 各种显微技术：如高级光学显微镜、电子显微镜和原子力显微镜，使我们能够更精确地观察生物体内的活动。

• 基因组测序和合成：其成本在过去几十年内大幅下降。

• 光遗传学技术：通过光照控制特定神经元的活动。

• mRNA 疫苗：原则上允许设计出可以快速调整的通用疫苗（COVID-19 疫苗就是其中的典型应用）。

  
  

• 细胞疗法：如 CAR-T 疗法，重新编程免疫细胞以攻击特定疾病。

• 概念性发现：如疾病病原理论和免疫系统与癌症的关系等。

列举这些技术，是为了提出一个关键观点：如果有更多聪明且富有创造力的研究人员，发现的速度可以提升 10 倍以上。换句话说，这些发现的“智力回报”非常高，而生物学和医学的其他进展基本都依赖于这些关键突破。

为什么我这么认为？首先，这些发现往往由少数研究人员作出，通常是同一批人多次作出重大发现，说明研究技能起到了决定性作用，而非随机运气。其次，很多发现其实“本可以更早作出”，例如 CRISPR 早在1980 年代就已被发现存在于细菌的免疫系统中，但直到 25 年后，才被重新利用于基因编辑。这种延迟通常是因为有前景的研究方向缺乏足够的支持。最后，成功的研究项目往往最初并不被大规模资助，而是由一些简单而独特的想法推动的。

尽管一些发现存在“顺序依赖性”（需要先完成 A 发现，才能进行 B 发现），但很多发现是相对独立的，因此可以同时进行。基于这些事实，以及我在生物学领域的经验，我认为如果科学家变得更聪明、更善于整合已有的生物学知识，仍然有大量未被发现的突破等待发掘。像 AlphaFold 和 AlphaProteo 这样的工具显示了 AI 在解决复杂问题上的巨大潜力。

因此，我预计强大的 AI 至少能够将这些重大发现的速度提高 10 倍，让我们在 5 至 10 年内实现未来 50 至 100 年的生物学进展。当然，要实现 100 倍的进展还有一些现实限制，比如实验时间和设备设计的顺序依赖性。我甚至愿意接受 5 到 10 年内实现 1000 年进展的设想，但认为在 1 年内实现 100 年进展是不太现实的。实验和硬件设计存在固有的“延迟性”，需要经过多个迭代阶段，才能获得无法通过纯粹逻辑推导的知识。然而，在这些限制条件下，仍然有可能通过并行研究加速整体进展。

关于临床试验，尽管其中存在大量的官僚程序和效率低下的问题，但事实上，大部分（尽管不是全部）的进展缓慢，最终是由于对那些疗效较小或不明确的药物进行严格评估的需求所致。令人遗憾的是，这种情况在大多数现有疗法中普遍存在：以癌症药物为例，通常只能将患者的生存期延长几个月，而且还伴随着显著的副作用，这些副作用必须仔细监测（阿尔茨海默病药物也是类似情况）。为了达到统计上的显著性，研究规模需要扩大，同时也增加了决策的复杂性，导致审批流程变得冗长繁琐，而监管机构由于官僚主义作风和多方利益的纠缠，往往难以迅速作出权衡。

但当某种疗法的效果非常显著时，审批速度会明显加快。加速审批通道可以让这种疗法更快通过，尤其当疗效突出时，审批的难度也会大大降低。比如，COVID-19 的 mRNA 疫苗在 9 个月内获得批准，远远快于通常的药物审批速度。然而，即便如此，临床试验仍然被认为过于缓慢——按照这种速度，mRNA 疫苗本应该在两个月内获得批准。大约一年内完成一个药物的完整研发周期，再加上大规模并行化和适当的迭代需求，是可以在 5 到 10 年内带来重大转变的。更乐观地看，AI 驱动的生物科学还可以通过开发更好的动物和细胞实验模型，甚至是更精确的人体反应模拟，来减少临床试验中的迭代次数。这在开发抗衰老药物时尤为重要，因为衰老过程需要几十年的时间，而更快的迭代周期将有助于加速研发进程。

最后，值得明确的是，尽管生物医学创新面临一些社会障碍，但相比其他技术，生物医学领域的创新在成功部署方面具有显著优势。正如前言所提到的，尽管某些技术由于社会因素无法广泛应用，生物医学却往往能够成功实现其技术转化。这种成功记录应该让我们对 AI 驱动的生物医学进展更加乐观。

总的来说，我的预测是，AI 驱动的生物学和医学将在未来 5 到 10 年内实现相当于人类生物学家在未来 50 至 100 年中能取得的进展。我将这种情况称为“压缩的 21 世纪”——随着强大 AI 的到来，我们将在生物学和医学领域实现整个 21 世纪的进步，而时间只需短短数年。

尽管预测 AI 在短短几年内的成就仍具有不确定性和推测性，但如果我们反过来问：“如果没有 AI 辅助，人类在未来 100 年能取得哪些进展？”则显得更为具体。这可以通过回顾 20 世纪的成就，或者 21 世纪前 20 年的进展，来推测强大 AI 可能带来的总体进步水平。比如，如果我们拥有 10 个像 CRISPR 这样的工具和 50 个 CAR-T 疗法，能够取得哪些突破？这些推测都为我们提供了合理依据来衡量强大 AI 带来的变革。

接下来，我将列出我们可能在未来期待的进展。尽管这些预测并不基于严格的方法论，细节上也很可能存在偏差，但它们旨在传达我们可以期待的变革水平：

• 几乎所有自然传染病的预防和治疗。考虑到 20 世纪在传染病防治方面取得的巨大进展，设想我们能够“彻底解决这个问题”并不算激进。mRNA 疫苗和类似技术已经指明了“针对任何疾病的疫苗”的方向。至于能否在全球范围内彻底消灭传染病，还取决于贫困和不平等等问题，详见第三部分。

• 消除大部分癌症。过去几十年里，癌症的死亡率每年大约下降 2%，按这种进展速度，我们有望在本世纪内消除大部分癌症。某些癌症亚型已经基本治愈（如通过 CAR-T 疗法治愈的某些白血病），而我更期待的是能够在癌症早期将其扼杀的精准药物。AI 还将使得针对癌症基因组的个性化治疗方案大规模普及，尽管这些技术已经存在，但目前由于成本高昂和对专家的依赖，尚未广泛应用。通过 AI 技术，有望实现 95% 以上的死亡率和发病率下降。当然，癌症种类繁多且适应性强，完全消除癌症仍是一个艰难的目标，少数恶性肿瘤可能依然存在。

• 遗传疾病的预防和治疗。大幅改进的胚胎筛查技术或将使我们能够预防大部分遗传疾病，而更安全、可靠的 CRISPR 后续技术也可能治愈现存患者中的大部分遗传疾病。不过，影响大部分细胞的系统性遗传疾病仍是一个难以攻克的挑战。

• 阿尔茨海默病的预防。尽管我们仍未完全弄清阿尔茨海默病的确切病因，但 AI 有望通过更先进的测量工具来攻克这一难题。最终，我们或许能够通过相对简单的干预手段加以预防。然而，逆转已经发生的阿尔茨海默病仍可能极具挑战性。

• 其他常见疾病的改进治疗。这一类疾病包括糖尿病、肥胖、心脏病和自身免疫疾病等。这些问题“比癌症和阿尔茨海默病更容易解决”，且近年来，相关发病率已显著下降。例如，心脏病死亡率已减少了 50% 以上，像GLP-1 激动剂这样的药物在对抗肥胖和糖尿病方面也取得了巨大的进展。

• 生物自由。过去 70 年，我们在避孕、生育和体重管理等方面取得了进步。AI 驱动的生物学将进一步扩展这些能力，使人们能够完全掌控自己的体重、外貌、繁殖等生物过程。这就是我们所说的“生物自由”：每个人都应有能力选择自己想要的样子，并以最理想的方式生活。当然，确保全球公平获取这些技术是关键问题，详见第三部分。

• 人类寿命的翻倍。虽然听起来激进，但20 世纪人类预期寿命几乎翻了一倍（从 40 岁到 75 岁），因此“压缩的 21 世纪”将人类寿命再翻一番至 150 岁并非不可思议。延缓衰老的干预措施将与上世纪防止过早死亡的措施有所不同，但这种变化的幅度并非前所未有。已有一些药物能延长大鼠 25% 到 50% 的寿命，且副作用有限。一些动物（如某些种类的龟）寿命超过 200 年，表明人类寿命并未达到理论极限。我预计，最重要的突破将是找到可靠且不会受到偏差影响的衰老生物标志物，以便加速实验和临床试验的进展。

最后，回顾这一预测清单，如果这些成果能在未来 7 至 12 年内实现，世界将发生怎样的剧变。这将是一次前所未有的巨大人道主义胜利，能够在短时间内消除困扰人类数千年的疾病。我的许多朋友和同事正在抚养孩子，我希望这些孩子长大时，谈起疾病就如同我们现在提起坏血病、天花或黑死病那般陌生。同时，他们还将受益于更多的生物自由和自我表达，甚至有可能在未来拥有掌控自己寿命的自由。

在前一节中，我重点讨论了生物学和身体健康，但没有涉及神经科学或心理健康。然而，神经科学其实是生物学的一个分支，而心理健康对人类福祉的重要性丝毫不亚于身体健康。事实上，心理健康对人们的影响甚至可能更加直接。全球有数百万人因为抑郁、上瘾、精神分裂症、自闭症、创伤后应激障碍（PTSD）、精神病态或智力障碍等问题，导致生活质量极其低下。除此之外，还有数十亿人面临日常生活中的各种困难，这些困难常常是严重心理问题的轻度版本。与身体健康一样，我们或许也能够超越问题的解决，进一步提升人类整体的心理健康水平。

我为生物学设立的框架同样适用于神经科学。这个领域的进步往往依赖于少数与测量或精准干预工具相关的重大发现。例如，上文提到的光遗传学是神经科学中的一项突破，近期的 CLARITY 技术和扩展显微镜也是类似的进展。此外，许多普通的细胞生物学方法也可以直接应用于神经科学。我相信，AI 的加入将加速这些发现的速度，正如我们在生物学领域看到的那样，"在 5 到 10 年内实现 100 年进展"的思路同样适用于神经科学。20 世纪，神经科学取得了巨大进展，例如直到 20 世纪 50 年代我们才真正了解神经元的发放信号机制。因此，我合理地预测，AI 驱动的神经科学将在短时间内带来巨大飞跃。

此外，AI 自身的研究进展也可能为神经科学的突破提供帮助，尽管该领域仍然主要由人类主导。可解释性是一个明显的例子。虽然生物神经元与人工神经元的工作机制表面上截然不同，但两者在“通过简单单元组成的分布式网络协同工作以执行复杂计算”这一点上是相似的。我怀疑，在许多有趣的计算和电路问题上，神经元的细节可能并不那么重要。例如，AI 可解释性研究中发现的一些计算机制，最近就在小鼠大脑中得到了重新验证。

在人工神经网络上进行实验要比在真实大脑中容易得多（后者往往需要切开动物大脑），因此可解释性很可能成为帮助我们理解神经科学的有力工具。而且，强大的 AI 也可能比人类更擅长开发和应用这些工具。

不仅如此，我们从 AI 中学到的关于智能系统训练的知识，也应当（尽管现在还不完全确定）为神经科学带来革命性改变。当我从事神经科学研究时，很多研究重点放在我现在认为是错误的问题上，因为当时没有“扩展假设”或“苦涩教训”的概念。如今，我们知道，通过简单的目标函数和大量数据，可以驱动非常复杂的行为，这让理解目标函数和架构偏差变得更加重要，而对复杂计算细节的研究则显得次要。我不确定计算神经科学家们是否已经完全接受了这一教训，但我认为这对于他们理解智能的工作原理至关重要。

神经科学家应该将这些 AI 领域的洞见与大脑的特定属性（如生物物理学的限制、进化历史、感官输入 / 输出的细节等）结合起来，解决神经科学中的关键问题。我相信，AI 驱动的神经科学将在这方面取得更大的突破，推动研究更快进展。

我预计，AI 将通过四条路径加速神经科学的发展，并希望这些路径协同合作，帮助治愈精神疾病并改善大脑功能：

• 传统的分子生物学、化学和遗传学。这一部分与生物学领域的故事类似，AI 可能通过同样的机制加速该领域的研究进展。许多药物通过调节神经递质来影响大脑功能，从而改变警觉性、情绪或感知能力，AI 将帮助我们发现和开发更多的药物，甚至加快精神疾病遗传基础的研究。

  
  

• 精准的神经测量与干预。这包括对大量个体神经元或神经回路的活动进行测量，并通过干预改变其行为。技术如光遗传学和神经探针已经能够在活体生物中进行测量和干预，未来还可能出现更加先进的技术，例如能够读取大量神经元活动模式的分子记录设备。

• 先进的计算神经科学。现代 AI 的相关见解以及系统性思维模式，可能会被应用到系统神经科学的问题中，例如揭示精神疾病的根本原因及其动态变化。

• 行为干预。尽管我的讨论主要集中在神经科学的生物学方面，但精神病学和心理学在 20 世纪发展了许多行为干预手段，AI 也可以加速这些干预措施的发展。比如，AI 教练可以帮助人们更好地管理自己，改进日常生活中的表现。

• 大多数精神疾病可能被治愈。虽然我不是精神疾病的专家，但我相信，像 PTSD、抑郁症、精神分裂症、成瘾等疾病将通过上述四条路径的结合得到有效治疗。

• 结构性问题可能更难解决，如精神病态或智力障碍，但不一定没有希望。重塑大脑听起来可能很困难，但这也是一个高回报的任务。

• 有效的精神疾病基因预防是可能的。大多数精神疾病有部分遗传因素，AI 可以帮助我们更好地理解这些基因影响，从而实现有效的预防。

• 日常心理问题的改善。许多人有日常的心理问题，比如注意力难以集中或容易焦虑。未来可能会有更多药物或其他干预方式来帮助改善这些问题。

• 人类基线体验的提升。AI 或许可以帮助人们更频繁地体验到超越感、创造力、满足感等非凡时刻，进而提升人们的生活质量。

最后，尽管“心智上传”是科幻小说中的常见话题，但我认为这个技术在理论上是可能的，然而它超出了我们讨论的 5 到 10 年的时间窗口，仍然面临巨大的技术和社会挑战。

总之，AI 加速的神经科学有望极大地改善精神疾病的治疗，甚至治愈大多数精神疾病，同时大幅提升人类的认知和心理自由，改善整体福祉。这种进步与前述身体健康的革命性改善一样，将使世界变得更加美好，并为人类自我实现提供更多机会。同时，心理健康的改善也可能缓解许多当前看似与政治或经济相关的社会问题。

在前两部分中，我讨论了如何通过开发新技术来治愈疾病并改善人类的生活质量。然而，从人道主义的角度来看，一个显而易见的问题是：“这些技术能否惠及每个人？”

开发治愈疾病的方法是一回事，但彻底消灭这种疾病则是另一回事。更广泛地讲，许多现有的健康干预措施尚未在全球范围内普及，事实上，这一现象不仅限于健康领域，许多其他技术改进也未能普及。换句话说，全球很多地区仍然生活在贫困之中，比如撒哈拉以南非洲的人均 GDP 大约是 2000 美元，而美国则高达 75000 美元。如果 AI 在提升发达国家经济增长和生活质量的同时，未能为发展中国家带来相应的帮助，那将是一场重大的道德失败，也会玷污前两部分中提到的人道主义胜利。理想情况下，强大的 AI 不仅应当在发达国家带来革命性变革，还应帮助发展中国家缩小与发达国家的差距。

我对于 AI 能否解决全球不平等和促进经济增长的信心，不如它在技术发明上的表现那样强烈。因为在技术领域，智能回报率显然很高（包括克服复杂性和数据不足的能力），而经济则受到更多人为限制，且伴随更多内在的复杂性。我对 AI 能否解决著名的“社会主义计算问题”持怀疑态度，我也不认为政府会（或者应该）将其经济政策交给 AI 来主导，即便 AI 能做到。此外，还存在如何让人们接受有效的但他们可能怀疑的治疗方案等问题。

发展中国家面临的另一个挑战是广泛的私营和公共部门腐败。这些腐败会形成恶性循环：腐败加剧了贫困，而贫困又滋生了更多的腐败。AI 驱动的经济发展计划必须面对腐败、薄弱的制度以及其他非常“人性化”的问题。

尽管如此，我仍然抱有一定的乐观态度。历史上已经有过成功消灭疾病和推动国家从贫穷走向富裕的例子，显然这些任务在决策上的智能回报率非常高。AI 有可能比目前的方式更高效，甚至通过针对性的干预绕过一些人类限制。此外，AI 还可能通过专注于具体问题来实现这些目标。不过，更为关键的是我们必须努力推动这些变化。AI 公司和发达国家的政策制定者应尽最大努力确保发展中国家不被甩在后面；人道主义的紧迫性太大，不容忽视。在本节中，我将继续持乐观态度，但请记住，这一切的成功与否取决于我们的集体努力。

以下是我对 AI 技术在未来 5 到 10 年内推动发展中国家的猜测：

这一领域让我最为乐观，即将健康干预措施推广至全球。事实上，通过自上而下的运动，一些疾病已经被消灭：天花在 20 世纪 70 年代彻底根除，脊髓灰质炎和几内亚蠕虫病的病例也接近消失，每年不到 100 例。复杂的数学流行病学建模在疾病根除中发挥了积极作用，AI 系统有望在这方面做得更好。分发过程的物流也可能因 AI 的介入得到优化。我在参与 GiveWell 的早期捐赠时了解到，一些健康慈善机构的效果远远优于其他机构，AI 可以帮助加速这些努力。此外，某些生物学上的进步使得分发过程变得更加容易。例如，疟疾目前难以根除是因为每次感染都需要治疗，而一种接种一次即可的疫苗将大大简化物流（目前已在研发这样的疟疾疫苗）。有些疾病甚至可以通过一次性行动加以消除，例如通过基因驱动技术消灭传播疾病的蚊子。

总体来说，我认为在 AI 的推动下，5 到 10 年内健康干预措施可以覆盖到全球最贫困的地区中的大部分人群（大约 50%）。在这个时间框架内，一个理想的目标是让发展中国家的健康水平显著高于今天的发达国家，尽管它们在其他领域可能仍有差距。要实现这一目标，全球公共卫生、慈善、政治倡导等领域的协作至关重要，AI 开发者和政策制定者都应该为此贡献力量。

不仅是健康领域，AI 是否可以推动发展中国家整体经济的迅速提升呢？这方面有一些历史先例。例如，20 世纪东亚的几个经济体实现了年均 10% 左右的 GDP 增长率，最终赶上了发达国家。这些国家的经济规划者通过利用关键的政策杠杆（如出口导向型工业政策）取得了成功，而非直接控制整个经济。因此，有理由相信 AI 可以通过更精细的经济政策帮助发展中国家实现类似的飞跃。

一个关键问题是如何在尊重自决权的前提下，让发展中国家政府采纳 AI 技术。有些国家可能对 AI 持积极态度，但其他国家可能持怀疑态度。不过，乐观地看，前述的健康干预措施会自然地推动经济增长。例如，消除艾滋病、疟疾和寄生虫感染将大幅提高生产力。此外，AI 带来的神经科学突破（如提升情绪和专注力）也将带来经济效益。其他领域如能源、物流、建筑技术的进步也可能通过市场机制迅速传播到全球，就像智能手机已经在撒哈拉以南非洲得到广泛普及一样。

理想情况下，发展中国家或许可以实现年均 20% 的 GDP 增长率，其中 10% 来自 AI 推动的经济决策，另 10% 来自技术进步的自然传播。如果实现这一目标，撒哈拉以南非洲将在 5 到 10 年内达到中国目前的人均 GDP 水平，而发展中国家的大部分地区将超越当前的美国。当然，这只是理想情况，实际结果依赖于全球的共同努力。

在 20 世纪，农业技术的进步（如更好的肥料和农药、更多的自动化以及更有效的土地利用）极大地提高了粮食产量，拯救了数百万人免于饥饿。今天，基因工程正在进一步改良作物，AI 有可能帮助推动“第二次绿色革命”，帮助缩小发达国家与发展中国家的差距。

气候变化对发展中国家的影响尤为严重。AI 可以推动相关技术的发展，从碳捕捉到清洁能源技术都有可能实现突破。当然，科技进步不是应对气候变化的唯一因素，社会和政治因素也很重要。但 AI 加速的研究或许能大幅降低应对气候变化的成本，从而使许多反对意见不再重要，进而释放发展中国家的经济潜力。

除了全球的不平等，国内的不平等也需要关注。尤其是寿命延长和认知增强药物等技术，可能会被视为“富人的专利”。我对发达国家内部的不平等问题持相对乐观态度，因为市场通常会随着时间的推移降低高价值技术的成本，此外，发达国家的政治体制对公民的需求更具响应力，能够实施普及化的政策。尽管如此，财富不平等问题仍然棘手，我将在第 5 节详细讨论。

无论在发达国家还是发展中国家，都可能存在“选择退出”技术进步的现象，比如反疫苗运动或类似的技术抵制运动。这可能导致某些人群拒绝那些本可以改善他们生活质量的技术，进而拉大社会差距。虽然我不认为强制技术是合适的，但 AI 或许可以帮助提高公众的科学素养，减少这些现象的发生。尽管历史上反技术的声音时有发生，但大多数人最终还是会选择接受新技术，尤其是在个人生活层面。

总而言之，我对 AI 推动健康进步惠及发展中国家持乐观态度，但对于能否推动经济增长至发达国家的水平，我的信心相对有限。至于“选择退出”问题，虽然令人担忧，但我相信这一现象最终会消退，而 AI 可能会加速这一过程。尽管世界不会变得完美，也不会立即消除所有差距，但通过共同努力，我们或许能够为实现更公平的社会迈出重要的一步。

假设前面讨论的三部分都顺利实现了：疾病、贫困和不平等现象显著减少，人类生活质量大幅提升。这是否意味着所有导致人类痛苦的主要原因都已解决？答案是否定的。尽管技术进步和经济发展可以促进民主与和平，但这条道路并不平坦，反而时常出现倒退。

回顾历史，20 世纪初，人们曾乐观地认为战争已成为过去，然而紧接着却爆发了两次世界大战。30 年前，弗朗西斯·福山在《历史的终结》中预言自由民主的最终胜利，但这个理想仍未实现。20 年前，美国决策者相信，与中国的自由贸易将促使其经济富裕后走向自由化，然而这一愿景也未能兑现，今天我们反而看到与威权主义国家的“第二次冷战”逐渐成形。此外，有合理的理论认为，互联网技术实际上更可能推动威权主义，而不是像“阿拉伯之春”时期所希望的那样促进民主。因此，理解强大 AI 如何与和平、民主和自由相交融显得尤为关键。

遗憾的是，我并不认为强大的 AI 会自然地推动民主与和平，正如它在改善人类健康和减少贫困方面的潜力那样明确。人类冲突具有对抗性，AI 可以为“好人”服务，也可能被“坏人”利用。甚至一些结构性因素让人担忧：AI 可能会极大地增强宣传和监控的能力，而这些正是威权统治者的主要工具。

因此，作为个体行动者，我们必须主动努力，将 AI 的力量引导向有利于民主和人权的方向。如果我们希望 AI 能够推动民主和个人自由，那么我们必须为此目标而奋斗。我对这个问题的担忧远超过国际不平等问题：自由民主和政治稳定的胜利并非必然，更不容易实现，我们需要像过去一样付出巨大努力与承诺。

我将这个问题分为两个层面：国际冲突和国内结构。国际层面上，确保民主国家在强大 AI 诞生时占据优势地位尤为重要。AI 驱动的威权主义将是一个令人恐惧的场景，因此，民主国家需要掌握 AI 技术，并设置全球规则，防止威权国家滥用 AI 技术侵犯人权。

目前，我认为最有效的方式可能是通过“协约战略”，即民主国家结成联盟，确保 AI 的供应链安全，迅速推动技术扩展，同时阻止或延缓对手国家获得关键资源（如芯片和半导体设备）。这种联盟一方面通过 AI 取得军事优势，另一方面通过提供 AI 技术带来的福利，吸引更多国家支持民主制度。这类似于“和平原子”计划，旨在通过技术优势孤立威权国家，最终让这些国家也不得不接受同样的规则，以换取技术带来的好处，并避免与更强大的对手对抗。

如果这一策略成功，世界将由民主国家主导，民主阵营不仅在经济和军事上占据上风，还可能通过 AI 技术维持这一优势，带来一个类似“永恒的 1991 年”的局面——一个自由民主占据主导地位的世界。但实现这一点需要民主政府和私营 AI 公司之间的紧密合作，特别是在“胡萝卜与大棒”之间做出极为明智的选择。

即便如此，国内民主与威权主义的斗争依然存在。尽管未来难以预测，但如果全球最强大的 AI 由民主国家掌控，我对 AI 能帮助民主国家赢得信息战持乐观态度。通过提供信息渠道和 AI 服务，民主国家可以创造一个自由的信息环境，打破威权国家的宣传和控制。

更进一步，1 至 3 部分中提到的生活质量的提高将促进民主的增长。历史表明，心理健康、福祉和教育的改善与支持民主密切相关。随着人们的基本需求得到满足，更多人将寻求自我表达，而民主正是一种自我表达的形式。

此外，AI 还可以帮助打破专制政权的控制，促进信息自由流动，从而削弱威权政府的统治。例如，通过 AI，个人可以获得强大的工具来应对压迫性政权，正如斯尔扎·波波维奇曾撰写的关于推翻独裁者的心理策略一样，如果每个人都能拥有 AI 版波波维奇这样的助力，威权统治将更难维持。

更理想的前景是，AI 不仅可以帮助我们避免威权统治，还能使现有的民主制度更加完善。即便在民主制度下，不公正现象依然存在，法律虽然承诺平等，但在实践中往往未能实现。AI 是否能够通过更公正的决策流程，改善法律和司法系统？我认为这是值得期待的。

AI 在法律领域的应用可以减少人类偏见，使法律体系更加透明和公正。虽然完全用 AI 取代法官并不现实，但 AI 可以作为辅助工具，帮助提升决策质量。同时，AI 还可以用于监控执法过程中的权利侵犯，确保宪法权利的有效执行。

在政府服务方面，AI 也可以发挥重要作用，改善社会服务、医疗和税务等领域的效率和公平性。通过提高国家能力，AI 不仅能让政府更好地履行其职责，还能增强公众对民主治理的信任。

虽然这些设想听起来可能过于理想化，但重要的是，我们要有一个宏大的愿景，敢于追求更美好的未来。如果我们能够通过 AI 增强自由和个人权利，我们就有机会使自由民主成为全球的首选治理形式，并为一个更加公平和人道的世界奠定基础。

即便我们成功解决了前四个部分讨论的所有问题——消除疾病、减少贫困和不平等，确立自由民主为主导的治理形式，且现有的自由民主国家变得更加完善——仍然有一个重要的问题悬而未决。有人可能会问：“生活在这样一个技术先进且公平正义的世界固然美好，但当 AI 承担了所有事务时，人类该如何找到存在的意义？他们又如何在经济上生存？”

这个问题比前面讨论的更为复杂。并不是说我对这个问题比其他问题更悲观（尽管确实存在一些挑战），而是因为它涉及到社会组织的宏观问题，这类问题通常需要通过漫长的时间和分散的方式逐渐解决。例如，狩猎采集社会的人可能无法理解现代机械化社会中的人类如何找到生存意义，或如何靠机械化养活所有人。同样，今天的我们也很难预见未来的生活方式。

尽管如此，我们仍然应该探讨这些问题。尽管这部分的篇幅较短，但这并不代表我轻视它们，简短的原因更多是因为我们缺乏明确的答案。

关于“意义”，如果因为 AI 能更好地完成某些任务就认为我们从事的事情失去了意义，那是一个误解。大多数人并不是任何领域中的顶尖人物，但这并未妨碍他们在生活中找到意义。在当前的社会中，人们通过各种方式为社会贡献价值，并从中获得成就感。

然而，人们也从那些没有直接经济回报的活动中找到乐趣，比如玩电子游戏、散步、游泳，或是与朋友聊天。即使没有经济价值，这些活动仍然让人感到充实。我认为，意义更多来源于人际关系和个人连接，而非纯粹的经济贡献。即便 AI 接管了许多工作，人类仍然可以通过追求困难的目标获得成就感，比如研究项目、艺术创作、创业等，即便这些追求在经济上不再重要，仍然能为人们带来满足感。

相比之下，经济问题看起来比意义问题更复杂。在这里，经济指的是在高度 AI 化的未来，很多人类可能无法在这个体系中有实质性贡献。这与第 3 节讨论的不平等问题不同，这是一个更宏观的社会经济结构问题。

短期来看，我同意某些观点，即比较优势将继续保持人类的相关性，甚至提高他们的生产力。只要 AI 无法在某些任务上达到完美，那么人类仍然有机会通过补充 AI 来创造新的工作机会。即便 AI 在 100% 的任务中表现得比人类好，但只要某些任务 AI 成本高或效率低，比较优势的逻辑依然成立。在物理世界中，人类的某些相对优势或绝对优势可能还会持续相当长的时间。因此，短期内，人类仍然可以在经济中发挥作用。

但从长远来看，我确实认为AI 的广泛应用和低成本会彻底改变这一情况。到那时，我们现有的经济体系可能将不再合理，社会需要重新讨论如何重新组织经济结构。

虽然这听起来很疯狂，但历史上我们已经成功应对过类似的重大经济转型：从狩猎采集到农业社会，从农业到封建制度，再从封建制度过渡到工业化社会。我怀疑未来我们会发现一种新的、更奇特的社会经济模式，可能是我们目前还没有想象到的。

这种新模式可能像全民基本收入一样简单，虽然我认为这只是部分解决方案。也可能是一种由 AI 主导的资本主义系统，这些 AI 会根据人类的价值判断来分配资源，毕竟，随着经济蛋糕的膨胀，资源将变得非常充裕。或者未来的经济可能依赖于一种“声誉积分”系统，甚至人类的价值可能会以我们现在无法预测的方式继续存在。

所有这些设想都伴随着潜在的问题，且在没有进行大量实验和迭代之前，难以判断它们是否可行。正如其他一些挑战一样，我们需要为达成良好的结果而努力，因为剥削性或反乌托邦式的社会前景也是可能的，我们必须警惕这些风险。关于这一话题，未来或许有更多值得讨论的地方，我期待有机会进一步深入探讨。

通过这些不同的主题，我试图勾勒出一个既有实现可能性，又远远优于现今世界的愿景。我无法确定这个愿景是否切实可行，即便它是现实的，也需要无数勇敢且奉献的人们付出巨大的努力才能实现。每个人（包括 AI 公司）都需要尽其所能，不仅要规避风险，还要最大限度地释放 AI 的潜在好处。

然而，这个未来值得为之奋斗。如果这一切真的在未来 5 到 10 年内实现——消灭大多数疾病、实现生物和认知的自由、让数十亿人摆脱贫困并共享新技术、推动自由民主和人权的复兴——我相信每个见证这一切的人都会为其深远的影响所震撼。我说的不仅是亲身体验新技术带来的变化，虽然那也必定令人赞叹。我指的是，当一个长期坚守的理想突然得以实现时，带来的那种深刻感动。我相信很多人将会因此热泪盈眶。

在写这篇文章的过程中，我发现了一个有趣的张力。一方面，文中描绘的未来图景极为激进：几乎没有人预见到未来十年会发生这样的变化，很多人可能觉得这不过是天马行空的幻想。甚至有人可能不认同这个愿景的可取性，因为它反映了特定的价值观和政治立场，不是所有人都认可。然而，另一方面，这个愿景又显得有某种不可避免的必然性——仿佛无数不同的美好世界设想，最终都汇聚成这个方向。

在《游戏玩家》中，主人公来自一个名为“文化”的社会，这个社会的核心原则与我在这里提出的相似。他进入了一个以复杂游戏决定领导人选的军事帝国，而这个游戏的复杂性足以反映玩家的政治与哲学信仰。主人公最终战胜了皇帝，证明了他的价值观（也就是“文化”的价值观）在一个以竞争和适者生存为核心的社会中依然占据上风。

我认为，“文化”的价值观之所以成为胜利策略，是因为它们汇聚了无数个具有明确道德力量的小决策，最终将人们团结在一起。公平、合作、好奇心和自主权这些基本的人类本能难以被驳斥，而它们累积起来的力量，往往比我们那些更具破坏性的冲动更加强大。很容易论证，孩子们不应死于疾病；从这里推导出，所有孩子都应享有这种权利，也并非难事。由此，我们可以进一步推论，团结起来，利用智慧去实现这一目标，是我们共同的责任。

很少有人会反对不必要地伤害他人是错误的，从这里推导出，惩罚应当一致且系统化，也不难。同样显而易见的是，人们应当对自己的生活和选择拥有自主权与责任。这些简单的直觉，推至逻辑终点，往往导向法治、民主和启蒙价值观。如果这不是必然的结局，至少在统计学上，人类已经朝着这个方向迈进。AI 则为我们提供了一个加速抵达这一目标的机会——让逻辑更加清晰，愿景更加明确。

尽管如此，这依然是一个非凡而美丽的世界。我们有机会在将其实现的过程中，发挥微小但至关重要的作用。

感谢 Kevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe 以及 Anthropic 团队的许多人，感谢他们审阅了这篇文章的初稿。

谨以此文，致敬 2024 年诺贝尔化学奖得主，感谢他们为我们指引了前进的方向。

[1].https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace

[2]. 我预料到有人会认为我的看法过于温和。对此，我建议他们去“真实世界里感受一下”，借用 Twitter 上的流行语来说。不过，从社会的角度看，温和其实是好事。我认为社会能够承受的变革是有限的，而我所描述的进展速度可能已经接近社会能够在不发生极端动荡情况下所能吸收的上限。

[3]. 我觉得“AGI”（通用人工智能）这个术语不够准确，已经被科幻和炒作掩盖了。我更倾向于使用“强大 AI”或“专家级科学与工程”，这些词语能更准确地表达我的意思，也不会引发过多炒作。

[4]. 在本文中，我使用“智能”来指代一种可以跨多个领域应用的通用问题解决能力。这包括推理、学习、规划和创造力等能力。虽然文中使用“智能”作为简写，但我承认，智能的本质在认知科学和 AI 研究中是一个复杂且有争议的话题。一些研究者认为，智能并不是单一的统一概念，而是多个独立认知能力的集合。另一些人则认为，所有认知技能背后存在一个通用的智能因子（即“g 因子”）。这场争论可以留待日后详细讨论。 

[5]. 当前的 AI 系统速度大致如此——比如，它们可以在几秒钟内读完一页文本，并在大约 20 秒内写完一页文本，比人类的速度快 10 到 100 倍。随着时间的推移，模型变得越来越大而稍微变慢，但芯片的性能提升抵消了这一点；目前来看，这两个因素相互平衡。

[6]. 这个观点似乎过于极端，但像泰勒·考恩（Tyler Cowen）和马特·伊格莱西亚斯（Matt Yglesias）这样谨慎的思想家也表达了类似的担忧，尽管他们未必完全支持这个看法，我也不认为这种担忧是荒唐的。 

[7]. 我知道的最接近这个话题的经济学研究是关于“通用技术”和“无形投资”的研究，这些研究是通用技术的补充。 

[8]. 学习可以是上下文中的即时学习，也可以是传统的训练方式，二者都受到物理世界的限制。

[9]. 在混沌系统中，微小的误差会随时间呈指数增长，因此即便计算能力大幅提升，也只能稍微延长预测的时效性。测量误差则可能进一步降低预测的准确性。 

[10]. 强大的 AI 本身可能会被用来创造更强大的 AI。我假设这种情况会发生，甚至可能很常见，但其影响会比想象中更小，就像“智能的边际收益递减”所描述的那样。换句话说，AI 会继续变得更智能，但其效果最终将受到非智能因素的限制。分析这些限制对于理解 AI 之外的科学进展速度至关重要。 

[11]. 这些成就一直是我灵感的来源，也可能是现存最强大的 AI 应用于变革生物学的最佳例子。 

[12]. “科学进步依赖于新技术、新发现和新思想，顺序大致如此。”——悉尼·布伦纳（Sydney Brenner） 

[13]. 感谢 Parag Mallick 提出这个观点。 

[14]. 我不想让文章充斥着 AI 推动科学发现的具体预测，但这里有一些可能的方向：——设计更好的计算工具，如 AlphaFold 和 AlphaProteo——也就是说，AI 系统可以加速我们构建专门的生物计算工具的能力。——更高效、更具选择性的 CRISPR 技术。——更先进的细胞疗法。——材料科学和微型化突破，带来更好的植入设备。——对干细胞、细胞分化与去分化的更好控制，进而能重生或重塑组织。——更好地控制免疫系统，能够选择性激活它应对癌症和传染病，或者选择性关闭它应对自身免疫性疾病。 

[15]. AI 当然也可以帮助我们在实验设计中更加智能：优化实验流程，从第一轮实验中获取更多信息，以便后续实验集中在关键问题上。 

[16]. 感谢马特·伊格莱西亚斯提出这个观点。 

[17]. 某些快速演变的疾病，尤其是利用医院作为进化实验室的多药抗性菌株，可能会特别难以对付，它们可能阻止我们达到消除疾病的目标。 

[18]. 在 5 到 10 年内我们可能难以确定人类寿命是否翻倍。我们可能已经实现了这一目标，但在研究时间内还未意识到。 

[19]. 虽然治疗疾病和延缓衰老有生物学上的区别，但从整体趋势来看，我愿意放宽要求，并认为人类科学很可能找到一种方式延续这一趋势。毕竟，任何复杂事物的平滑趋势都是由不同的组成部分共同形成的。 

[20]. 例如，年生产率增长率增加 1% 或甚至 0.5% 都会对这些项目的预测产生巨大的影响。如果本文中提出的想法得以实现，生产率的提升可能远远超出这个范围。 

[21]. 媒体经常描绘精神病患者中的高地位人物，但平均来看，精神病患者往往是经济前景差、冲动控制不佳的人群，他们最终可能会在监狱中度过大量时间。 

[22]. 我认为，这有点类似于我们从 AI 可解释性中学到的许多结论，即便当前人工神经网络的某些架构细节（例如注意力机制）发生变化或被替代，相关性依然存在。 

[23]. 我怀疑这类似于经典的混沌系统，充满了不可简化的复杂性，必须通过去中心化的方式来管理。不过，正如我后面所提到的，或许可以进行更温和的干预。经济学家 Erik Brynjolfsson 曾提出一个反论点，即大型公司（如沃尔玛或优步）开始拥有足够集中化的知识，能够比去中心化过程更好地理解消费者需求，这或许迫使我们修正哈耶克（Hayek）的观点。 

[24]. 感谢 Kevin Esvelt 提出这一观点。 

[25]. 比如，手机最初是富人的象征，但随着技术每年快速进步，它们变得越来越便宜，拥有一部“奢侈”手机已不再有太大优势，现在大多数人使用的手机质量相差无几。

[26]. 这是 RAND 即将发布的一篇论文的标题，文中大致阐述了我描述的战略。 

[27]. 当普通人想到公共机构时，通常会想到与机动车辆管理局（DMV）、税务局（IRS）或医疗保险机构打交道的经历。改善这些体验，至少让它们不再那么糟糕，似乎是对抗不合理的犬儒主义的有效方法。 

[28]. 事实上，AI 驱动的世界中，潜在挑战和项目的范围将比今天广泛得多。 

[29]. 我在这里打破了不涉及科幻的规则，但我发现完全不提及它几乎是不可能的。事实上，科幻小说是我们对未来思考的一个重要来源，它为未来的可能性提供了思想实验。