情境感知：前言 (Introduction)
《情境感知》系列前言：AGI 军备竞赛已经打响，万亿美元工业总动员拉开序幕，『国家计划』即将启动——拥有情境感知的人，已在旧金山窥见终局。
本文译自前 OpenAI 超级对齐团队研究员 Leopold Aschenbrenner 于 2024 年 6 月发表的警世长文Situational Awareness（情境感知）系列首篇——前言。
- 栏目/系列：Situational Awareness: How Close Are We to AGI?
- 作者：利奥波德·阿申布伦纳 (Leopold Aschenbrenner) —— 前 OpenAI 安全研究员、现 AI 投资人
- 发表时间：2024 年 6 月 4 日
▍作者背景 Leopold 19 岁毕业于哥伦比亚大学，曾加入 OpenAI 超级对齐团队；离开 OpenAI 后，他创立了一家聚焦 AGI 的投资机构，致力于资助前沿 AGI 安全与国家安全相关项目。（译者注：2024 年初他从 OpenAI 离职，随后发表了这篇 Situational Awareness 系列长文。）
▍关于《情境感知》 这是 2024 年最具震撼力的 AI 叙事宏文之一。文章从物理算力、算法效率以及解除束缚（Unhobbling）三个维度，量化推演了 2027 年实现 AGI 的轨迹，并将 AGI 提升到国家主权安全、产业总动员及“国家计划”的高度，深刻影响了硅谷与华盛顿对 AI 终局的讨论。
内容提要：前言部分简明扼要地勾勒了本系列的核心论点。作者指出，AGI 的军备竞赛已经以六个月增加一个零的速度疯狂打响，数万亿美元的工业总动员正在拉开序幕。他强调，少数拥有“情境感知”能力的人已经看到了通往超级智能和国家安全风暴的终局，而世界即将在震颤中醒来。
Leopold Aschenbrenner，2024 年 6 月
你可以在旧金山最先窥见未来。
在过去的一年里，人们讨论话题已经从 100 亿美元的算力集群，转向了 1000 亿美元的集群，再到万亿美元的集群。董事会的计划每隔六个月就会多增加一个零。在幕后，人们正在激烈地争夺本十年余下时间里所有可用的电力合同，以及所有可能采购到的电压变压器。美国的大企业正在蓄势待发，准备将数万亿美元注入到一场许久未见的美国工业力量总动员中。到本十年末，美国的发电量将增长百分之几十；从宾夕法尼亚州的页岩油田到内华达州的太阳能电站，数以亿计的 GPU 将轰鸣运转。
AGI 的军备竞赛已经打响。我们正在建造能够思考和推理的机器。到 2025/2026 年，这些机器将超越许多大学毕业生。到本十年末，它们将比你我都要聪明；我们将迎来真正意义上的“超级智能”。在这一过程中，半个世纪以来未曾动用过的国家安全力量将被全面动员。用不了多久，“国家计划 (The Project)”就将启动。如果我们足够幸运，我们将与中方展开一场全面的竞赛；如果我们不幸，那将是一场全面战争。
站在 2026 年的时点看，Leopold 的这一预测已成为现实。随着 2024 年底至 2025 年以 OpenAI o1/o3、DeepSeek R1 为代表的“推理模型 (Reasoning Models)”，以及 Claude、Gemini 等旗舰模型扩展思考模式的成熟，AI 在复杂推理、编程、数学竞赛以及博士级科学问题（如 GPQA 基准测试）上的表现已达到甚至超越了普通大学毕业生及部分专业学者。
现在每个人都在谈论 AI，但很少有人对即将袭来的浪潮有哪怕最模糊的感知。覆盖英伟达的分析师依然认为 2024 年可能已经接近顶峰。主流专家们则固步自封于“AI 仅仅是在预测下一个词”这种刻意的盲目中。他们只看到了炒作和常规的商业迭代；他们最多只能想象出又一场互联网级别的技术变革。
用不了多久，世界就会醒悟过来。但就在此时此刻，可能只有几百人——其中大多数在旧金山和各大 AI 实验室里——拥有 情境感知 (Situational Awareness) 能力。由于某种奇妙的命运力量，我发现自己也置身于他们之中。几年前，这些人曾被嘲笑为疯子——但他们相信趋势线，这让他们准确预测了过去几年 AI 的飞速进展。至于这些人对未来几年的预测是否同样正确，还有待观察。但这是一群非常聪明的人——是我见过的最聪明的人——而且他们正是建造这项技术的人。也许他们会成为历史中一段奇特的注脚，又或者他们会像西拉德（Szilard）、奥本海默（Oppenheimer）和泰勒（Teller）那样载入史册。如果他们对未来的判断哪怕只是接近正确，我们也正步入一场极其狂野的旅程。
让我来告诉你我们所看到的未来。
目录
每篇论文都旨在独立成篇，但我强烈建议将整个系列作为一个整体来阅读。如需阅读完整论文集的 PDF 版本，请 点击此处。
前言 [即本页] 历史正在旧金山实时上演。
I. 从 GPT-4 到 AGI：估算数量级 2027 年实现 AGI 的可能性大得惊人。从 GPT-2 到 GPT-4，我们在 4 年内跨越了“大约幼儿园水平”到“大约聪明高中生水平”的智力阶梯。通过追踪物理算力（每年增长约 0.5 个数量级）、算法效率（每年增长约 0.5 个数量级）以及“解除束缚”带来的红利（从聊天机器人转变为智能体）的趋势线，我们应该预期到 2027 年会迎来另一次“幼儿园到高中生”级别的质的飞跃。
II. 从 AGI 到超级智能：智力爆炸 AI 的进步不会在人类水平停滞。数以亿计的 AGI 可以实现 AI 研究本身的自动化，将十年的算法进展（5 个以上的数量级）压缩到 1 年或更短的时间内。我们将迅速从人类水平的 AI 迈向远超人类的 AI 系统。超级智能的力量——及其带来的危险——将是戏剧性的。
III. 面临的挑战
- IIIa. 奔向万亿级集群 一场非同寻常的技术资本加速已经启动。随着 AI 收入的爆发式增长，到本十年末，数万亿美元将投入到 GPU、数据中心和电力的建设中。包括使美国发电量增长百分之几十在内的工业动员，将是极其庞大且密集的。
- IIIb. 锁死实验室：AGI 时代的国家安全 美国顶尖的 AI 实验室将安全视为次要问题。目前，他们基本上是在用银盘把 AGI 的核心机密拱手送给中方。保护 AGI 的机密和权重免受国家级对手的威胁将是一项艰巨的任务，而我们目前并未步入正轨。
- IIIc. 超级对齐 (Superalignment) 如何可靠地控制比我们聪明得多的 AI 系统，依然是一个未解决的技术难题。虽然这是一个可以解决的问题，但在快速的智力爆炸过程中，事情很容易失控。管控这一局面将极其紧张；一旦失败，极易引发灾难性的后果。
- IIId. 自由世界必须胜利 超级智能将带来决定性的经济和军事优势。中国尚未完全出局。在通往 AGI 的竞赛中，自由世界的生死存亡将受到考验。我们能否维持对威权国家的领先优势？我们又能否在这一路上避免自我毁灭？
IV. 国家计划 (The Project) 随着 AGI 竞赛的加剧，国家安全机构将会介入。美国政府将从沉睡中惊醒，到 27/28 年，我们将迎来某种形式的政府 AGI 计划。没有哪家创业公司能独自掌控超级智能。在某个敏感信息隔离设施 (SCIF) 中，终局之战即将打响。
V. 寄语 (Parting Thoughts) 如果我们是对的，会怎么样？
本系列下一篇：I. 从 GPT-4 到 AGI：估算数量级
- 建立“情境感知”思维：停止用“聊天机器人”和“顺畅的生成式文本”去片面评估 AI。必须关注算力规模扩展（Scaling）与解除束缚（Unhobbling）所带来的指数级能力跃升。
- 应对“国家计划”的前瞻布局：当 AI 从单纯的商业竞争上升为国家主权与国防安全的核心资产时，企业和个人知识工作者应提前为随之而来的数据出海合规、算力禁运以及主权 AI 生态做好抗风险准备。
- 关注基础设施瓶颈中的溢价机会：算力（GPU/TPU）、能源（核能/天然气）以及算法效率（MoE/蒸馏）是通往 2027 年 AGI 指数曲线上最稳固的支撑点，投资与商业决策需沿着这三条实体脉络进行布局。
虽然我曾在 OpenAI 工作，但本文的所有内容均基于公开信息、我个人的观点、行业通用知识或旧金山的行业传言。
感谢 Collin Burns, Avital Balwit, Carl Shulman, Jan Leike, Ilya Sutskever, Holden Karnofsky, Sholto Douglas, James Bradbury, Dwarkesh Patel 以及其他许多人进行的富有成效的讨论。感谢许多朋友对早期草稿的反馈。感谢 Joe Ronan 在图表制作上的帮助，以及 Nick Whitaker 在出版方面的支持。
谨以此文献给 Ilya Sutskever。