在 Claude AI 新模型发布之际，Anthropic 的CEO Dario Amodei 发表了一篇近2万字深度长文，探讨人工智能对人类的潜在积极影响。作为斯坦福大学神经科学博士，Amodei 以严谨的学术态度定义了"强人工智能"概念，并详细阐述了它在不同核心领域可能带来的积极变革。

Amodei 的分析建立在严密的推理基础上，为研究者、政策制定者和科技爱好者提供了深刻见解，值得所有关注 AI 发展的人深入思考。

本文核心要点

许多人低估了人工智能的积极潜力和严重风险。人工智能研究员Dario Amodei对此有一些见解:

1.强人工智能的时间线:

Dario Amodei认为强人工智能(即AGI)可能最早在2026年出现,但也可能需要更长时间。

2.强人工智能的特征:

在相关领域的纯粹AI智力方面超越顶尖专家

在虚拟工作环境中AI具备与人类相似的接口(文字、语音、视频、键鼠控制和互联网访问)

AI能够执行持续数小时、数天甚至数周的长期任务

AI 没有物理形态,但能通过计算机控制现有的工具、机器人和实验室设备

AI信息处理和行动生成速度比人类快10-100倍，实现可以独立工作或像人类团队一样协作

3.强人工智能的应用:

AI可以将50-100年的生物进展压缩为5-10年，治愈大多数疾病、延长人类寿命到150岁。

类似的神经科学加速发展可以治愈大多数心理疾病以及认知功能的改善。

作者承认保持人类在经济中的相关性存在挑战，但他认为仍可以从非经济活动中找到意义。

4.Amodei的担忧:

对一些公众人物和人工智能公司领导人讨论后AGI世界的方式感到不适

认为许多人低估了人工智能的积极影响和潜在风险

这个概述强调了先进人工智能系统的潜在能力、时间线和结构,以及专家对公众讨论这个话题的担忧。

原文如下：

作者： Dario Amodei 

作为 Anthropic 的首席执行官，有人可能误认为我是悲观主义者,但事实并非如此。我关注AI风险,是因为它们是通往美好未来的唯一障碍。我认为大多数人既低估了AI的巨大潜力,也低估了其可能带来的严重风险。

本文试图描绘AI如果发展顺利可能带来的美好未来。虽然无人能准确预测未来,特别是AI的影响难以预料,但我会尽力提出有见地的猜想,勾勒出大致方向。我提供具体细节是为了推动更深入的讨论。

不过，首先我想简单解释一下，为什么我和 Anthropic 并没有频繁谈论强大 AI 的好处，以及为什么我们大概率会继续主要讨论风险。特别是，我之所以做出这样的选择，是因为：

• 发挥最大杠杆作用。AI 技术的基本发展以及它带来的诸多（尽管不是全部）好处看似不可避免（除非潜在的风险将其完全阻止），而这些进步主要由强大的市场力量驱动。相比之下，风险并非必然，我们的行动能够显著改变这些风险的发生几率。

• 避免被视为宣传。如果 AI 公司总是夸大 AI 的种种好处，可能会让人觉得像是在进行宣传，或者试图掩盖不利的一面。我还认为，原则上，过多地“推销自己”对个人的心态并无益处。

• 避免过度夸大。我对一些 AI 风险领域的公众人物（更不用说 AI 公司领导者）讨论后 AGI 时代的态度感到反感，仿佛他们的任务是单枪匹马地引领人类走向救赎。我认为，将公司视为唯一能够改变世界的力量，或者把技术目标神化为宗教使命，是十分危险的。

• 避免“科幻”色彩。尽管我认为大多数人低估了强大 AI 带来的巨大潜力，但那些讨论激进 AI 未来的小群体，常常以过于“科幻”的语气来谈论这个话题，比如上传意识、太空探索或带有赛博朋克风的未来世界。我认为，这让人们不那么认真对待这些观点，并赋予其某种不切实际的色彩。关键不在于这些技术是否可行或有可能（在主文中有详细探讨），而在于这种“科幻”氛围带来了不少文化包袱和隐含的假设，比如什么样的未来是理想的、社会问题会如何演变等。结果往往让这些讨论看起来像是为某个小众群体设计的幻想，而让大多数人难以认同。

尽管我上面提到了一些担忧，我依然认为，探讨一个拥有强大 AI 的美好世界是什么样子非常重要。AI 的正面应用非常广泛（涵盖了机器人、制造业、能源等诸多领域），但我会重点探讨少数几个最有可能直接提升人类生活质量的领域。我的预测可能显得激进,但我是认真的。虽然这些预测可能有误,但我尝试基于半分析性视角,评估各领域加速发展可能带来的实际影响。我在生物学和神经科学有专业背景,也了解一些经济发展,但我清楚自己的局限性。写作过程中,我意识到如果能集合各领域专家(如生物学、经济学、国际关系等)共同撰写,会产生更全面、更专业的分析。

基本假设与框架

为了让这篇文章更精确和有实际基础，我们有必要明确“强大 AI”的含义（即启动 5-10 年倒计时的门槛），并提出一个思考这类 AI 出现后影响的框架。

什么是强大 AI（我个人不太喜欢“AGI”这个术语）以及它何时会到来，是一个非常复杂的话题。我曾在公开场合讨论过，未来可能还会专门写篇文章探讨。显然，很多人对强大 AI 即将问世持怀疑态度，有些人甚至认为它可能永远不会出现。我认为它可能最早在 2026 年到来，但也有可能需要更长的时间。不过，为了本篇文章的讨论，我将这些问题暂时搁置，假设它很快到来，并着重讨论它到来后的 5-10 年会发生什么。我还假设这种 AI 系统的形态、能力和互动方式，尽管对此可能有不同意见。

在这里，我指的“强大 AI”是一种 AI 模型——可能类似于今天的大型语言模型（LLM），尽管它可能基于不同的架构，涉及多个交互模型，并采用不同的训练方法——并具有以下特征：

1.就纯粹的智能而言，它在大多数相关领域（生物学、编程、数学、工程、写作等）比诺贝尔奖得主还要聪明。这意味着它能解决未解的数学定理，写出极为优秀的小说，从零开发复杂的代码库等。

2.它不仅仅是一个“聪明的对话对象”，它还拥有虚拟工作环境中的所有接口，包括文本、音频、视频、鼠标键盘控制以及互联网访问。它可以通过这些接口进行各种行动、交流或远程操作，包括在互联网上采取行动、指挥或接收人类指令、订购材料、指导实验、观看视频、制作视频等，而且其完成这些任务的能力远超目前最顶尖的人类。

3.它不仅仅是被动回答问题，而是能够独立处理需要数小时、数天甚至数周完成的任务，就像一个聪明的员工那样自动执行任务，在必要时寻求澄清。

4.它没有物理形态（除了在计算机屏幕上），但能够通过计算机控制现有的物理工具、机器人或实验设备；理论上，它甚至可以为自己设计机器人或设备使用。

5.它的训练资源可以被重新配置，以运行数百万个实例（这一点符合 2027 年左右的集群规模预测），并且它可以以 10 倍到 100 倍于人类的速度吸收信息和执行操作。它可能会受到物理世界或与之交互的软件响应速度的限制。

6.这些数百万个副本可以独立执行不同的任务，或者在需要时像人类一样协作，可能会有不同的子群体经过调整以擅长某些特定任务。

我们可以把这一切形容为“数据中心中的优秀人才的天国”。

显然，这样的实体能够非常迅速地解决复杂难题，但弄清到底有多快并不容易。两种极端的看法都让我觉得不太合理。首先，你可能会认为，世界会在几秒钟或几天内被彻底改变（“奇点理论”），因为更高的智能会在瞬间自我提升，解决所有科学、工程及操作问题。但问题在于，现实中有诸如硬件建造或生物实验等物理和实际限制。即使是一个天才之国也会遭遇这些瓶颈。智能虽然强大，但并不是魔法般无所不能的。

其次，你可能会认为，技术进步已经受限于现实世界的数据或社会因素，超越人类的智能将无法带来显著进步6。这同样是不合理的。我能想到成百上千的科学和社会问题，如果由一群真正聪明的人来解决，他们的智慧会大大加速进展，尤其是当这些人不仅能分析问题，还能推动现实中的变化（就像我们假设中的天才之国可以通过指挥或协助人类团队实现这一点）。

我认为，事实很可能是介于这两种极端之间的一种复杂混合体，具体表现因任务和领域不同而有所差异。我相信我们需要新的框架，来有效地思考这些复杂的细节。

经济学家常提到“生产要素”：如劳动力、土地和资本。所谓“劳动/土地/资本的边际回报”指的是在特定情境下，某一要素是否成为制约因素——比如，空军需要飞机和飞行员，但如果缺少飞机，增加飞行员并不会有太大帮助。我认为，在 AI 时代，我们应该关注“智能的边际回报率”，并找出那些与智能互补的其他要素，当智能达到极高水平时，它们会成为新的限制因素。我们不习惯以这种方式思考——不习惯问“在这项任务中，变得更聪明能有多大帮助，以及需要多久才能见效？”——但这似乎是理解强大 AI 世界的正确思路。

我认为限制或与智能互补的因素包括以下几点：

• 外部世界的速度。 智能体需要与现实世界进行互动，才能完成任务和获取知识8。但外部世界的运行速度是固定的。例如，细胞和动物的生物实验需要固定的时间，无法无限压缩。硬件、材料科学、与人沟通相关的事务，甚至是现有的软件基础设施，都存在这样的物理限制。此外，科学实验往往需要连续进行，每一步都基于之前的结果。这意味着像开发癌症治疗这样的重大项目，尽管智能水平可以不断提高，但其完成速度仍然可能有无法突破的下限。

• 数据需求。 有时候，缺乏足够的原始数据，即使智能再高也无济于事。今天的粒子物理学家已经非常聪明，提出了各种理论，但由于粒子加速器的数据有限，无法验证这些理论。即使超级智能的 AI 参与其中，除非加快建造更大的加速器，否则进展可能也不会大幅加速。

• 内在复杂性。 某些问题天生具有不可预测或混乱的性质，即使是最强大的 AI 也难以比现有的人类或计算机大幅度提升。比如，在处理混沌系统时（如三体问题），即使是强大的 AI 也只能稍微延长预测时间，但本质上的不确定性仍然存在9。

• 人类带来的约束。 许多事情受到法律、道德或社会因素的约束，无法轻易完成。一个“对齐”的 AI 不会去违反这些规则（而如果是“未对齐”的 AI，那么我们就要回到讨论其风险了）。许多人类社会的结构虽然低效甚至有害，但由于法律条款、民众意愿或政府行为的限制，改变它们非常困难。比如核能、超音速飞行甚至电梯等技术上已经成熟的创新，由于法规或恐惧心理的制约，其影响被大大削弱。

• 物理法则。 这一点是关于外部限制的最根本版本。某些物理法则似乎是绝对无法突破的。我们无法超越光速，搅拌过的布丁无法回到原样，芯片的晶体管密度无法无限提升，因为会变得不可靠。计算需要的最小能量也是有固定下限的，这限制了计算密度的提升。

• 时间尺度上的差异。 某些在短期内难以突破的限制，长期内可能变得可被智能技术解决。例如，AI 可以帮助开发新的实验范式，使我们能够在体外获得以往只能通过活体实验获取的数据；或者开发新的工具，收集更多数据（比如建造更大的粒子加速器）；甚至在伦理允许的范围内，找到绕过人为障碍的方法（比如改进临床试验制度、减少官僚程序，或者改进科学技术以减少临床试验的必要性）。因此，智能最初可能被其他生产要素所限制，但随着时间的推移，智能会逐渐找到突破这些限制的办法，尽管某些绝对限制，如物理法则，将始终存在。关键问题在于，这一切需要多长时间发生，以及发生的顺序。

基于以上框架，我将尝试回答在不同领域中的问题。

一 . 生物学与健康领域

在所有科学领域中，生物学可能是最有潜力直接且显著改善人类生活质量的领域。上个世纪，我们战胜了一些历史悠久的人类疾病（如天花），但仍有许多疾病亟待攻克，若能彻底消灭这些疾病，将是巨大的慈善和人道主义成就。除了治愈疾病，生物科学还可以通过延长健康寿命、提升对自身生物过程的控制，以及解决许多我们认为无法改变的日常健康问题，来提高人类的基础健康水平。

在前一部分的“限制因素”框架下，直接将智能应用于生物学的主要挑战包括数据获取、物理世界的速度限制以及内在的复杂性（事实上，这三者彼此相关）。此外，人类因素也会在后期（如临床试验阶段）成为限制因素。下面我们逐一探讨这些问题。

• 细胞物理世界速度的限制：许多生物学实验需要培养细菌或细胞，或等待化学反应的自然进程，这往往需要数天甚至数周的时间，无法明显加速。动物实验可能需要数月，人类实验则可能耗费数年，甚至几十年（对于长期结果的研究）。与此相关，数据的缺乏也是一大挑战——不是数量不足，而是数据质量的问题：我们往往缺乏能够清晰、明确地隔离出特定生物效应的数据，或者无法进行精准的因果干预，也缺少直接测量某一效应的数据（通常只能通过间接方式推断结果）。即使是大规模的分子数据，例如我在质谱技术研究中收集的蛋白质组学数据，也充满噪声，并且遗漏了很多信息（例如，这些蛋白质存在于哪些细胞？它们处于细胞的哪个部分？在细胞周期的哪个阶段？）。

• 生物系统内在复杂性：如果你看过人类代谢过程的生化反应图，你会明白要在如此复杂的系统中隔离某个特定部分的效应是极其困难的，而更困难的是以精确和可预测的方式对系统进行干预。最后，除了实验所需的固有时间外，临床试验还需要经历繁复的官僚流程和监管要求，许多人（包括我在内）认为这些程序过于冗长，阻碍了进展的速度。

鉴于上述种种原因，许多生物学家长期以来对 AI 和“大数据”在生物学中的应用持怀疑态度。过去 30 年里，数学家、计算机科学家和物理学家将他们的技能应用于生物学领域，虽然取得了相当显著的成就，但并没有实现人们最初期待的变革性影响。尽管一些革命性突破如 AlphaFold（其团队刚刚因这一成果荣获诺贝尔化学奖）和 AlphaProteo11，减轻了部分质疑，但仍有不少人认为 AI 只能在某些特定场景下发挥作用，并且这种情况还会继续下去。常见的观点是：“AI 能够更好地分析数据，但它不能生成更多数据或提升数据质量。数据不佳，结果也无用。”

然而，我认为这种悲观看法是对 AI 的错误理解。如果我们对 AI 进步的核心假设是正确的，那么 AI 不应仅被视为一种数据分析工具，而是一个“虚拟生物学家”，能够完成所有生物学家所做的工作，包括设计并执行实验（通过控制实验室的机器人或指导研究人员，就像导师指导研究生一样），发明新的生物学技术和测量方法等。AI 通过加速整个研究过程，能够真正推动生物学的发展。我要再次强调这一点，因为这也是人们对 AI 在生物学中的作用最常见的误解：我并不是将 AI 仅视为数据分析工具。正如我在本文开头提到的“强大 AI”定义一样，我指的是 AI 能够执行、指导并改进几乎所有生物学家的工作。

具体来说，我认为生物学加速的潜力，源于一个惊人的事实：生物学领域的许多进步，其实来源于极少数关键性的发现，通常这些发现与广泛适用的测量工具或技术12 有关，这些工具允许对生物系统进行精准且可编程的干预。每年大概会有一项这样的重大突破，而这些突破在推动超过 50% 的生物学进展方面，起到了至关重要的作用。这些发现之所以如此重要，正是因为它们突破了生物系统的内在复杂性和数据的局限性，直接提升了我们对生物过程的理解与掌控。每十年中的几次突破，不仅推动了我们对生物学基本理论的理解，也推动了许多最强大的医学治疗方法的发展。一些典型例子包括：

1.CRISPR：这是一种能够在活体生物中编辑任何基因的技术（将任意基因序列替换为其他序列）。自从最初技术诞生以来，科学家们持续改进该技术，使其能够更精准地针对特定细胞类型，提升精度，并减少错误基因的编辑——这些都是为了在人类中安全应用这项技术。

2.各种显微技术：用于精确观察微观过程的工具，如先进的光学显微镜（采用多种荧光技术和特殊光学系统等）、电子显微镜、原子力显微镜等。

3.基因组测序与合成：过去几十年，基因组测序和合成的成本大幅下降，降低了数个数量级。

4.光遗传技术：通过光照射来触发神经元发射信号的技术。

5.mRNA 疫苗：这种技术原则上让我们能够针对任何疾病设计疫苗，并且快速调整应对（mRNA 疫苗因 COVID 疫情而广为人知）。

6.细胞疗法（如 CAR-T 细胞疗法）：通过将免疫细胞从体内取出后进行“重新编程”，使其能够靶向攻击任何目标。

7.概念性突破：如病原体理论或发现免疫系统与癌症之间的关联13。

我列举这些技术是为了强调一个重要观点：如果有更多的才华横溢、富有创造力的研究人员，我们发现这些技术的速度可能会快 10 倍甚至更多。换句话说，我认为智能在这些领域的回报率极高，生物学和医学的很多进展都是建立在这些技术突破之上的。

为什么我这么认为？因为在评估“智能的回报率”时，有一些问题的答案能帮助我们理解。首先，这些发现通常是由极少数研究人员做出的，且往往是同一批人反复推动，这表明技能和创造力，而不是随机搜索（后者可能表明实验时间是主要的限制因素）。其次，很多发现实际上早在真正实现之前就可能被发现：比如 CRISPR 是细菌免疫系统的一个天然组成部分，早在 80 年代就被发现，但直到 25 年后，人们才意识到它可以用于基因编辑。此外，科学界对有前景研究方向的缺乏支持，往往也导致这些突破被推迟多年（可以参考 mRNA 疫苗发明者的故事，类似的例子还有很多）。第三，许多成功的项目最初都并不被重视，往往是一些不被看好的想法，最终却成了重要的突破，而并非源自巨额资助。这说明，推动这些发现的核心并非单纯的资源投入，而是创造力。

尽管一些发现具有“顺序依赖性”（即需要先进行发现 A，才能具备进行发现 B 的工具或知识）——这确实可能导致实验延迟——但许多，甚至大多数发现是相对独立的，意味着它们可以同时并行进行。这一点，加上我作为生物学家的个人经验，强烈暗示如果科学家们能更聪明并且能更好地利用人类已掌握的大量生物学知识（再次想想 CRISPR 的例子），那么还有数百个等待发掘的重大发现。

AlphaFold/AlphaProteo 在解决重要问题时，尽管物理建模已经被设计了几十年，但 AI 的表现远超人类，这为未来的方向提供了一个有力的证明（尽管它的工具和领域相对狭窄）。

因此，我预测，强大 AI 至少可以将这些发现的速度提高 10 倍，使我们在 5 到 10 年内取得相当于 50 到 100 年的生物学进展14。为什么不是 100 倍？也许是可能的，但在这种情况下，顺序依赖性和实验时间变得非常重要：要在 1 年内取得 100 年的进展，需要每件事第一次都完美执行，包括动物实验、显微镜设计以及昂贵实验设施的建设等。我对（或许听起来有些疯狂的）“在 5 到 10 年内取得 1000 年进展”的想法持开放态度，但我认为在 1 年内实现 100 年进展几乎是不可能的。换句话说，我认为实验和硬件设计存在无法避免的延迟——它们有固定的“响应时间”，并且需要一定的“必要迭代次数”才能得出某些结论，而这些无法通过逻辑推导直接获得。然而，在此基础上，通过大规模并行化处理可能会实现巨大进展15。

关于临床试验，尽管确实存在大量官僚程序导致的延迟，但其缓慢的原因，很多（尽管并非全部！）源自于必须严格评估那些效果不显著或模糊的药物。遗憾的是，目前大多数疗法确实如此：例如，常见的癌症药物只能延长几个月的生存期，并且伴随严重副作用（阿尔茨海默症的治疗情况也类似）。这导致了庞大的研究规模（为了获得足够的统计效力）和复杂的权衡，而监管机构通常不擅长处理这些问题，因为其中涉及到官僚主义和多方利益冲突的复杂性。

但当一种疗法效果非常好时，进展速度可以显著加快：有加速批准机制，当疗效明显时，审批流程会更加顺畅。COVID 的 mRNA 疫苗在 9 个月内获得批准——这远远快于通常的药物审批流程。即便如此，临床试验过程仍然太慢——mRNA 疫苗本应在 2 个月内就能获得批准。然而，1 年左右的延迟，结合大规模的并行化处理，和少量但必要的迭代（“几次尝试”），完全符合在 5 到 10 年内实现彻底转型的可能性。更乐观的是，AI 赋能的生物科学或许可以通过开发更精准的动物和细胞实验模型（甚至是模拟）来减少临床试验中的迭代需求，使这些模型能够更准确地预测人类身体内会发生的情况。这对开发抗衰老药物尤其重要，因为衰老是一个持续数十年的过程，我们需要更快的迭代循环。

最后，关于临床试验和社会障碍，值得一提的是，生物医学创新往往能够最终成功应用，这与其他技术领域形成了鲜明对比16。如前文所述，许多技术尽管在技术层面表现优异，却因社会因素受阻，无法普及应用，这可能让人对 AI 的成就感到悲观。但生物医学的独特之处在于，尽管药物开发过程确实繁琐，一旦药物被开发出来，它们通常都能成功地应用并推广。

综上所述，我的基本预测是，AI 赋能的生物学和医学将使我们在 5 到 10 年内压缩取得原本需要 50 到 100 年的进展。我称之为“压缩的 21 世纪”：即在强大 AI 出现后，几年内我们将在生物学和医学领域取得整个 21 世纪的进展。尽管预测强大 AI 在短短几年内能实现什么仍然充满不确定性和猜测，但问“如果没有 AI 的帮助，人类在接下来的 100 年内能做些什么？”则相对更具实用性。通过回顾 20 世纪的成就，或者基于 21 世纪头 20 年的发展趋势推测，或者想象“10 个 CRISPR 和 50 个 CAR-T”能带来的结果，这些都为我们提供了一个切实可行的参考，来估计强大 AI 可能带来的进展。

我们应该仔细思考这份清单，并反思如果在未来 7-12 年内（符合激进的 AI 发展时间表）实现了这些目标，世界将会如何变得不同。毫无疑问，这将是一个难以想象的人类伟大胜利——一举消灭了困扰人类数千年的大多数疾病。我的许多朋友和同事正在抚养孩子，当这些孩子长大时，我希望他们提到疾病时的感受，就像我们如今谈论坏血病、天花或黑死病一样陌生。那一代人也将享受到更多的生物自由和自我表达的权利，甚至幸运的话，或许他们能够活得像他们自己想要的一样长。

除了少数预料到强大 AI 的人，几乎所有人都会对这些变革感到惊讶。比如，美国的成千上万经济学家和政策专家目前正讨论如何维持社会保障和医疗保险的财务稳定性，更广泛地讲，还在探讨如何控制医疗成本（其中绝大部分花费在 70 岁以上，尤其是癌症等绝症患者身上）。如果这一切成真，这些计划将极大受益20，因为工作年龄人口与退休人口的比例将发生剧烈变化。毫无疑问，这些问题将被新的挑战所取代，比如如何确保新技术能够普及，但即使仅仅是生物学成为唯一被 AI 成功加速的领域，世界也会因此发生巨大变化，值得我们认真反思。

二. 神经科学与心理健康

在前面一节中，我主要关注了身体疾病和生物学整体，并未涉及神经科学或心理健康问题。但实际上，神经科学是生物学的一个分支，而心理健康的重要性并不亚于身体健康。事实上，心理健康甚至比身体健康更直接影响人类的幸福感。全球有数亿人因成瘾、抑郁、精神分裂症、低功能自闭症、创伤后应激障碍（PTSD）、精神病21 或智力障碍等问题，生活质量极低。更不用说还有数十亿人在日常生活中与各种问题作斗争，这些问题可以被看作是这些严重临床障碍的轻度形式。与生物学一样，心理健康的改善不仅限于解决现有问题，还可能提升人类整体的生活质量。

我之前为生物学提出的基本框架同样适用于神经科学。这个领域的进展往往由少数重大发现推动，这些发现通常与测量工具或精确干预方法有关——比如我们之前提到的光遗传学就是神经科学的重大突破，最近的 CLARITY 和扩展显微镜技术也是类似的进展。此外，许多细胞生物学的方法直接应用于神经科学领域。我认为，AI 将会同样加速这一领域的进展，因此“在 5-10 年内实现 100 年进步”的框架也适用于神经科学，原因与生物学相同。20 世纪的神经科学取得了巨大的进展——例如，直到 1950 年代，我们甚至不了解神经元如何或者为何发放信号。因此，我们有理由期待 AI 加持的神经科学在短短几年内带来显著的进展。

此外，还有一个因素值得补充，那就是我们最近几年从 AI 本身中学到的（或正在学习的）一些东西，可能对神经科学的进步产生帮助，即使这些研究仍然是由人类主导的。可解释性研究就是一个明显的例子：尽管生物神经元和人工神经元的运作方式看似完全不同（生物神经元通过脉冲通信，通常基于脉冲频率，因此带有时间因素，此外还有神经递质和细胞生理学的复杂影响），但“由分布式、经过训练的简单单元组成的网络如何通过线性/非线性操作组合，完成复杂计算”的问题在两者之间是相同的。我怀疑在许多有趣的计算和电路问题中，个体神经元的通信细节会被抽象掉。举一个例子，AI 系统的可解释性研究者发现的一个计算机制，最近在小鼠的大脑中被重新发现了。

在人工神经网络上进行实验比在真实的神经网络上要容易得多（后者通常需要对动物大脑进行手术），因此，可解释性研究很可能成为我们理解神经科学的新工具。而且，强大的 AI 系统可能比人类更好地开发和应用这些工具。

除了可解释性外，我们从 AI 中学到的关于如何训练智能系统的知识，应该（尽管我不确定它是否已经）在神经科学领域引发一场革命。当我从事神经科学研究时，许多人关注的问题，在我现在看来是错的，因为当时还没有“扩展假设/苦涩教训”这样的概念。简单的目标函数加上大量数据能够推动极其复杂的行为，这使得理解目标函数和架构偏好变得更重要，而对理解复杂涌现计算的细节的兴趣则减少了。这些年我没有密切跟踪这个领域的发展，但我模糊地感觉到，计算神经科学家还没有完全领悟到这一点。对于扩展假设，我的看法是“啊哈——这是对智能如何工作及其为何能够如此容易进化的一个高层次解释”，但我认为大多数神经科学家并不这么看，部分原因是即使在 AI 领域内，扩展假设作为“智能的秘密”也未被完全接受。

我认为神经科学家应该尝试将这一基本洞见与人类大脑的特性（如生物物理学的限制、进化历史、拓扑结构以及运动和感官输入输出的细节）结合起来，去破解一些神经科学中的核心谜题。或许有些科学家已经在这样做，但我觉得还不够，我相信 AI 领域的神经科学家能够更好地利用这一视角，加速这一领域的进展。

我预计 AI 将通过以下四条不同的路径加速神经科学进展，并且这些路径有望共同作用，帮助治疗精神疾病并提升大脑功能：

• 传统的分子生物学、化学和遗传学。 这一进展与第 1 部分中提到的一般生物学非常相似，AI 可能通过相似的机制加速这一过程。现在有许多药物通过调节神经递质来改变大脑功能，影响警觉性、感知或情绪，AI 未来可以帮助我们发明更多这样的药物。此外，AI 可能还会加速对精神疾病遗传基础的研究。

• 细致的神经测量与干预。 这是指测量大量单个神经元或神经回路的活动，并能够干预这些活动以改变其行为。光遗传学和神经探针已经可以在活体生物中实现测量和干预，并且有一些非常先进的方法（如分子记录带，可以读取大量单个神经元的发射模式），这些技术在原理上是可行的。

• 先进的计算神经科学。 正如前面提到的，现代 AI 的具体洞见和整体思路可以用于系统神经科学中的问题，可能有助于揭示复杂疾病（如精神病或情绪障碍）的真正成因和动态。

• 行为干预。 尽管我主要集中讨论神经科学的生物学方面，但精神病学和心理学在 20 世纪发展了一系列行为干预方法，AI 可能会加速这些方法的改进，不仅帮助开发新方法，还能帮助患者更好地执行已有的疗法。更广泛地说，一个“AI 教练”的概念非常有前景，它始终帮助你成为更好的自己，研究你的互动并帮助你更有效地学习。

我猜想，随着这四条进展路径的共同作用，即使没有 AI 的参与，我们也有望在未来 100 年内找到大多数精神疾病的治疗或预防方法——如果有 AI 加速，可能只需要 5-10 年。具体来说，我的猜测是：

大多数精神疾病可能会被治愈。尽管我不是精神病学的专家（我的神经科学研究主要集中在研究少量神经元群体），但我认为像 PTSD、抑郁症、精神分裂症和成瘾等疾病，可能可以通过上述四个途径的结合非常有效地解决。答案可能是某种“生化失调”（尽管可能复杂）和“神经网络的高层次问题”结合起来的产物。这实际上是系统神经科学的问题——不过这并不否认行为干预的作用。特别是在活体人类中进行的测量和干预工具，可能会带来快速的迭代和进展。

一些“结构性”问题可能更难解决，但并非不可能。有证据表明，精神病与神经解剖结构的差异有关——例如，精神病患者的大脑某些区域可能较小或发育不全。精神病患者通常被认为从小就缺乏同理心；他们的大脑可能从一开始就存在某些差异。类似的情况可能存在于某些智力障碍和其他问题中。尽管重塑大脑听起来很难，但这也是一个可能带来高回报的任务。也许有方法可以诱导成年大脑回到早期或更具可塑性的状态，从而进行改造。我不确定这有多可行，但我对 AI 在这方面的潜力持乐观态度。

精神疾病的有效遗传预防似乎是可行的。大多数精神疾病具有一定的遗传性，基因组关联研究（GWAS）正在逐步发现相关的基因因素，尽管这些因素通常很多。通过胚胎筛查来预防大多数这种疾病或许是可能的，类似于筛查身体疾病。不同的是，精神疾病往往涉及多个基因，因此存在一定复杂性，可能会无意中排除一些与疾病相关的正面特质。不过近年来的 GWAS 研究表明，这种关联可能被夸大了。AI 加速的神经科学研究可能会帮助我们解决这些问题。当然，针对复杂特征进行胚胎筛查会引发一些社会争议，尤其是涉及严重精神疾病时，虽然我猜大多数人会支持这一做法。

日常心理问题也有望得到解决，这些问题通常不会被认为是临床疾病。大多数人都有一些日常的心理困扰，尽管它们不一定被视为疾病。有人容易发怒，有人注意力不集中，或者容易困倦，有人害怕或焦虑，或对变化反应不佳。目前已有一些药物可以帮助改善警觉性或专注力（如咖啡因、莫达非尼、利他林），但未来可能会有更多解决方案。我们可能尚未发现许多类似药物，或将开发全新的干预方式，例如定向光刺激（参考前文关于光遗传学）或磁场疗法。考虑到 20 世纪我们开发了许多调节认知功能和情绪状态的药物，我对“压缩的 21 世纪”感到乐观，每个人都能够改善大脑功能，享受更愉快和充实的日常生活。

人类的日常体验有很大提升空间。更进一步说，许多人都经历过那些充满启示、创造性灵感、慈悲心、满足感、超越感、爱、审美或冥想般宁静的时刻。这些体验的性质和频率因人而异，甚至同一个人在不同的时刻也会有所不同，有时这些体验还可以通过某些药物引发（尽管通常伴随一些副作用）。这一切表明，人类能够体验到的“感受空间”非常广阔，而且我们有可能让更多的生命时刻充满这些非凡的体验。同时，我们也有可能全方位提升认知功能。这或许就是神经科学中的“生物自由”或“延长寿命”的版本。

一个在科幻作品中经常出现，但我有意未在此探讨的话题是“心灵上传”，即捕捉大脑的模式和动态，并将其复制到软件中。这个话题本身可以展开写成一篇独立的文章，但简单来说，尽管我认为心灵上传在理论上几乎是可能的，但在现实中，即使有强大的 AI，仍然面临重大的技术和社会挑战，可能会让其超出我们讨论的 5-10 年时间窗口。

三 . 经济发展与贫困

前两节讨论了如何通过新技术治愈疾病、提升生活质量。然而，从人道主义角度来看，一个关键问题是：“这些技术能否惠及所有人？”

开发出治疗疾病的方法是一回事，而彻底消灭某种疾病则是另一回事。更广泛地说，许多现有的健康干预措施并未普及到全球各地，事实上，非健康领域的许多技术进步也未能实现全球覆盖。换句话说，世界许多地方的生活水平仍然极其低下：例如，撒哈拉以南非洲的人均 GDP 约为 2,000 美元，而美国则为 75,000 美元。如果 AI 在发达国家进一步推动了经济增长和生活质量提升，而没有对发展中国家产生帮助，那将是一次巨大的道德失败，也会玷污前两节中所述的人道主义胜利。理想情况下，强大的 AI 应该在推动发达国家变革的同时，帮助发展中国家缩小差距。

相比 AI 发明基础性技术，我对它解决经济不平等和促进经济增长的信心稍弱一些。技术领域有明显的智能回报（如绕过复杂性和缺乏数据的能力），但经济问题涉及人类的诸多约束和内在的复杂性。我对 AI 能否解决“社会主义计算问题”23持怀疑态度，我也不认为政府会（或者应该）将经济政策交给 AI 来处理，即便 AI 有这个能力。还有诸如如何让人们接受他们不信任但确实有效的治疗方案等问题。

发展中国家面临的挑战因私营和公共部门的普遍腐败而变得更加复杂。腐败导致了恶性循环：它加剧了贫困，而贫困反过来又助长了更多的腐败。因此，AI 驱动的经济发展计划必须考虑腐败、薄弱的机构和其他以人为本的问题。

尽管如此，我依然看到了一些乐观的理由。许多疾病已经被消灭，许多国家也从贫困走向了富裕，显然，解决这些问题所作出的决策回报颇高（尽管存在人类的限制和复杂性）。因此，AI 有可能比现行方法做得更好。或许可以通过一些有针对性的干预措施绕过人类的局限，而 AI 可以专注于这些领域。更为重要的是，我们必须尽力去尝试。AI 公司和发达国家的政策制定者都应尽力确保发展中国家不会被落下，因为这是我们必须肩负的道德责任。所以在这一节中，我将继续保持乐观态度，但请牢记，成功并非板上钉钉，一切取决于我们共同的努力。

我对强大 AI 推动下未来 5-10 年内发展中国家可能的变化做出一些预测：

1.健康干预的分布。 我对全球健康干预措施的推广持非常乐观的态度。疾病确实已经通过自上而下的行动被根除：例如天花在 20 世纪 70 年代被彻底消灭，而脊髓灰质炎和几内亚蠕虫病也几乎消失，每年不到 100 例。复杂的流行病学建模在这些消灭疾病的运动中起到了关键作用，而更智能的 AI 系统几乎肯定能做得比人类更好。与此同时，健康干预措施的物流分发也有望通过 AI 进行大幅优化。我从参与 GiveWell 早期捐赠中了解到，有些健康慈善机构的效率远高于其他机构，而 AI 加速的干预措施有望变得更加有效。此外，一些生物学上的突破也使分发工作变得更加简便：例如，疟疾难以根除，因为它需要每次感染都进行治疗；而一种只需接种一次的疫苗将极大简化这一流程（事实上，这类疟疾疫苗目前正在研发中）。还有一些更加简单的分发方式也有可能：某些疾病可以通过瞄准其动物宿主来根除，比如释放携带阻断病原体的细菌的蚊子，或使用基因驱动技术消灭蚊子。这些策略只需几次集中的干预，而不需要协调对数百万人的治疗。总体来看，我认为在 5-10 年内，AI 驱动的健康益处有望在全球范围内传播，甚至惠及最贫困的国家。一个可行的目标是，AI 推动下 5-10 年内让发展中国家的健康水平至少大大提升，甚至达到或超越当前发达国家的水平。实现这一目标将需要全球卫生、慈善、政治等领域的大量努力，AI 开发者和政策制定者必须共同参与其中。

2.经济增长。 发展中国家不仅在健康方面，还能在整体经济上迅速追赶发达国家吗？历史上确实有类似的先例：20 世纪末期，东亚一些国家通过年均 10% 的 GDP 增长率成功赶上了发达国家。这些成就并不是通过全面控制经济实现的，而是通过推动一些关键政策（如出口导向型产业政策，避免依赖自然资源）实现的。同样，有理由相信“AI 赋能的财政部长和央行行长”可以复制甚至超越这一成就。一个关键问题是如何让发展中国家的政府接受 AI 的经济政策，同时尊重其自主权——一些国家可能对此表示欢迎，而其他国家可能会有所怀疑。从积极的角度看，前面提到的健康干预措施很可能会自然带动经济增长：例如，消除艾滋病、疟疾、寄生虫等疾病将大幅提升生产力，神经科学领域的干预措施（如改善情绪和专注力）也将对发达国家和发展中国家的生产效率产生积极影响。除此之外，AI 加速的非健康技术（如能源技术、运输无人机、改进的建筑材料和更优的物流体系等）可能会像手机在撒哈拉以南非洲的普及那样，通过市场机制自然扩散，几乎无需额外的慈善推动。当然，AI 和自动化技术也会带来一些挑战，特别是对于尚未完成工业化的国家来说。找到解决这一问题的方法是经济学家和政策制定者需要面对的挑战。总的来说，一个理想的愿景是让发展中国家实现 20% 的年均 GDP 增长率，其中 10% 来自 AI 驱动的经济决策，另 10% 来自 AI 技术的自然扩散（包括但不限于健康领域）。如果实现，这将在 5-10 年内使撒哈拉以南非洲的人均 GDP 达到当前中国的水平，同时将其他发展中国家推向高于当前美国的经济水平。当然，这只是一个理想的愿景，不会自动实现，需要我们共同努力才能使这一目标更有可能达成。

3.食品安全。20 世纪，作物技术的进步——例如更高效的肥料和农药、更自动化的生产方式以及更有效的土地利用——极大地提高了农作物产量，挽救了数百万人的生命。如今，基因工程正在进一步改良作物。如果我们能够找到更多方式提高作物产量，并优化农业供应链，我们可能会迎来一场由 AI 驱动的第二次绿色革命，从而帮助缩小发展中国家与发达国家之间的差距。

4.应对气候变化。气候变化在发展中国家将更为显著，阻碍其经济发展。我们可以期待，AI 会推动技术进步，减缓或防止气候变化。例如，从大气中去除二氧化碳的技术、清洁能源技术，甚至是减少对碳密集型工厂化农业依赖的实验室培育肉类。正如前文所提到的，科技进步并非解决气候变化的唯一因素，许多社会问题也需要得到解决。但我们有理由相信，AI 增强的研究将大幅降低应对气候变化的成本和难度，从而使许多反对意见变得不再重要，同时也为发展中国家腾出更多经济发展的空间。

5.国家内部的不平等。尽管我主要讨论了全球层面上的不平等现象（这确实是其最重要的表现形式），但各国内部的不平等问题同样不容忽视。随着先进的健康干预措施，尤其是极大延长寿命或提升认知的药物出现，确实存在一些担忧：这些技术会不会仅限于富人享用？我对发达国家的内部不平等问题更为乐观，原因有二：首先，发达国家的市场机制更成熟，市场通常会随着时间推移降低高成本技术的价格25。其次，发达国家的政治制度对公民需求反应更快，且国家有更强的能力实施全民获取计划——我相信公民会强烈要求获取这些极大改善生活质量的技术。当然，这种需求能否成功并非板上钉钉的事，这也是我们需要共同努力确保公平社会的地方。至于财富不平等问题（不同于获取改善生活质量技术的机会不平等问题），它似乎更加难以解决，我将在第 5 节中进一步讨论。

6.选择退出的问题。在发达国家和发展中国家，人们拒绝接受 AI 带来的好处是一个令人担忧的问题（类似于反疫苗运动或更广泛的卢德运动）。可能会出现恶性循环：例如，最缺乏正确决策能力的人，恰恰拒绝了能够改善他们决策能力的技术，导致差距越来越大，甚至形成了一个反乌托邦的底层阶层（有研究者认为，这将削弱民主，这也是我在下一节中进一步探讨的话题）。这种情况会给 AI 的积极进步蒙上道德阴影。这个问题非常难以解决，因为我认为在道德上强迫他人接受某种技术是不对的，但我们至少可以努力提高人们对科学的理解——或许 AI 本身可以帮助我们做到这一点。一个值得乐观的迹象是，历史上反技术运动往往雷声大雨点小：虽然反对现代技术的声音很大，但最终大多数人还是会选择接受，至少在涉及个体选择的情况下是如此。个人往往愿意接受大多数健康和消费技术，而真正受到阻碍的技术（如核能）往往是集体政治决策的结果。

我对迅速将 AI 的生物学进步带给发展中国家持乐观态度。尽管我对 AI 能否实现前所未有的经济增长率，及其是否能帮助发展中国家超越当前发达国家的水平并没有十足的信心，但我仍抱有希望。至于“选择退出”的问题，无论是在发达国家还是发展中国家，我都感到担忧，但我猜想这个问题会随着时间推移逐渐消失，而 AI 可以加速这一进程。这个世界不会是完美的，落后者不可能在短期内完全赶上。但只要我们付出强大的努力，我们就有可能让事情朝着正确的方向迅速发展。如果我们这样做，我们至少可以为我们欠全人类的尊严和平等作出初步的承诺。

四. 工作与意义

有人可能会提出异议：“生活在这样一个科技发达、社会公正的世界确实不错，但如果 AI 把所有的工作都做了，人类的生活还能有意义吗？另外，人们又如何在经济上维持生存？”

我认为这个问题比其他问题更为复杂。并不是说我对这个问题持更加悲观的态度（尽管我确实看到了其中的挑战），而是因为这个问题本身更为模糊，且难以提前预测，它涉及社会如何运转的整体架构，而这些问题通常只能在较长时间内通过去中心化的方式逐渐得到解决。举例来说，历史上的狩猎采集社会可能会认为，没有狩猎和相关的宗教仪式，生活将失去意义，他们可能无法理解我们的科技社会如何运转，或经济如何为每个人提供生存保障。

尽管如此，这些问题仍然值得探讨，尽管我在这一部分的简短讨论并不意味着我轻视它们——相反，这只是因为我没有找到明确的答案。

关于意义问题，我认为仅仅因为 AI 可以更好地完成某项任务而认为自己所做的事情没有意义，这是一个常见的误解。大多数人并不是世界上某个领域的顶尖人才，但这似乎并不影响他们的生活。当然，如今人们仍然可以通过比较优势在经济中做出贡献，并从中获得意义感，但人们同样乐于从事那些没有任何经济回报的活动。我花了很多时间在玩游戏、游泳、户外散步、与朋友交谈——这些活动没有直接的经济价值。我可能会花一天时间提高我的游戏技能，或者试图更快地爬山，但我并不在乎有人比我做得更好。我认为，意义更多来自于人与人之间的关系和情感联系，而不是经济劳动本身。人们确实渴望成就感，甚至是某种竞争感，而在 AI 时代的未来社会中，人们仍然可以通过挑战复杂的任务、设计复杂的策略找到这些意义，就像今天人们进行科研、试图成为明星或创业一样28。至于（a）某些 AI 可以比人类更好地完成这些任务，或者（b）这些任务不再具有经济回报，我认为这两点并不会影响人们在这些任务中的体验和意义感。

经济问题对我来说比意义问题更加棘手。在这一节中，所谓的“经济问题”是指大多数或所有人类可能无法在一个由高度先进的 AI 主导的经济中发挥有意义的作用。这是一个比我在第 3 节讨论的不平等问题更为宏观的问题，尤其是新技术获取上的不平等问题。

首先，我同意短期内的比较优势论调，即 AI 的发展将继续让人类在经济中发挥作用，甚至可能提升他们的生产力，还可能让人类之间的竞争更加平衡。只要 AI 只能比人类在某些工作上表现得更好 90%，那么剩下的 10% 将使人类获得更大的杠杆作用，带来更高的薪酬，甚至创造出大量新的工作，作为对 AI 擅长领域的补充和延伸，从而让“10%”的领域扩大，继续为几乎所有人类提供就业机会。实际上，即使 AI 能比人类在所有领域表现得更好 100%，但如果在某些任务上它效率较低或成本过高，或者人类和 AI 需要的资源有所不同，比较优势的逻辑仍然适用。人类在物理世界中的操作优势很可能会保持相当长的时间。因此，我认为，人类经济仍有可能在 AI 完全主导之前继续存在相当一段时间。

然而，从长远来看，AI 将变得如此高效且低成本，以至于上述逻辑不再适用。到那时，我们当前的经济结构将不再合理，需要进行更广泛的社会讨论，探讨如何组织未来的经济。

虽然这听起来像天方夜谭，但人类文明在历史上已经成功应对过几次重大的经济变革：从狩猎采集转向农业社会，从农业社会转向封建社会，再从封建社会转向工业化。我怀疑我们将需要一个全新的、甚至更为奇特的经济模式，而目前我们还没有很好地预见到这种模式。它可能像全民基本收入那样简单，但我怀疑这只是解决方案的一部分。也可能会出现由 AI 系统主导的资本主义经济体系，这些 AI 系统为人类提供资源（巨量资源，因为整体经济规模将极为庞大），基于某种 AI 认为值得奖励的人类行为（最终仍源自人类的价值观）。或许经济将基于“Whuffie 点数”运转。又或许，人类仍将在某些未被传统经济模型预测到的领域发挥经济作用。所有这些设想都有各种潜在问题，并且在没有充分的实验和迭代之前，我们无法判断它们的可行性。与其他挑战一样，我们可能需要为实现良好的结果而付出努力：未来同样可能走向剥削性或反乌托邦的发展方向，必须加以预防。关于这些问题，还有许多值得探讨的内容，我希望在未来继续深入探讨。

回顾总结

通过前面讨论的不同主题，我试图描绘一个未来世界的愿景，这个世界在 AI 发展的最佳情况下是有可能实现的，并且会比现在的世界更美好。尽管我不确定这个世界是否真的可以实现，甚至如果它真的能实现，那也需要无数勇敢且全力以赴的人们共同奋斗和努力才能做到。每个人（包括 AI 公司！）都必须为此做出自己的贡献，既要防范风险，也要努力去实现这些巨大的潜在好处。

然而，这确实是一个值得为之奋斗的未来。如果所有这些在未来 5 到 10 年间真的发生了——战胜了大多数疾病，生物与认知的自由得以拓展，数十亿人摆脱了贫困并能够享受新技术，自由民主和人权得以复兴——我相信每一个见证这一切的人都会为这种变化带来的巨大影响感到震撼。我说的并不仅仅是个人从新技术中受益的体验，尽管那将是非常惊人的。我指的是目睹一系列长期以来人类追求的理想在我们眼前突然实现的情感体验。我想，许多人可能会为此激动不已，甚至流下热泪。

在写这篇文章的过程中，我发现一个有趣的张力：一方面，这里的愿景非常激进，几乎没有人会认为这样的转变会在未来十年内实现，甚至可能有人觉得这是天方夜谭。而另一方面，这种未来却也显得如此显而易见，仿佛任何对美好世界的设想，最终都会不可避免地走向这个方向。

我认为“文化”的价值观之所以是一种成功的策略，是因为它们源自无数小的决策，这些决策有着清晰的道德力量，并且往往将大家拉到同一阵营。基本的公平、合作、好奇心和自主性是人类的核心直觉，很难被否定，并且这些直觉的累积效应常常超过那些破坏性的冲动。我们很容易得出结论，既然我们有能力预防，那么孩子们就不应该死于疾病；从这里进一步推导，几乎所有人都会认同每个孩子都应享有同样的权利。接着，很容易进一步推理出我们应该团结起来，用智慧来实现这个目标。几乎没有人反对，无故伤害他人应当受到惩罚，而这又让我们自然而然得出惩罚应该在所有人之间一致和系统化的观点。同样直观的是，每个人都应有权决定自己的生活和选择。正是这些简单的直觉，如果被推演到极致，最终会引向法治、民主以及启蒙运动的核心价值观。如果不是必然的，那么至少从大概率上讲，人类已经在朝这个方向前进。而 AI 只是加速我们前进的工具——它使这种逻辑更加清晰，使目标更加明确。

尽管如此，这仍然是一个超越凡俗的美好愿景。而我们有机会在实现它的过程中贡献自己的一份力量。

原视频链接：https://darioamodei.com/machines-of-loving-grace

文章来自于“AI深度研究员”，作者“AI工作坊”。