自动化科学：世界模型、科学品味与智能体循环 (Andrew White)

▍嘉宾 Andrew White，Future House 联合创始人及 Edison Scientific 创始人。曾为罗切斯特大学教授，现致力于通过 AI 智能体自动化科学探索的完整流程。

▍关于 本期对谈探讨了AI在科学发现中的角色，包括从第一性原理模拟到机器学习的范式转移，如何衡量及实现“科学品味”(Scientific Taste)，以及基于大语言模型的科学智能体(Agent)如何借助“世界模型”(World Model)完成实验假设与数据分析的完整闭环。

自动化科学与跨界之旅

Andrew： 分子动力学 (Molecular Dynamics, MD) 曾被认为是蛋白质折叠的终极解决方案，但有一个极佳的反例，那就是 D. E. Shaw Research。他们拥有与 DeepMind 同样雄厚的资金甚至更多。为了验证 MD 能否折叠蛋白质，他们打造了专门的芯片和集群，将 MD 算法硬编码到芯片中，以极高的速度和规模运行。我记得 David Shaw 曾乘坐直升机参加一次 MD 会议，展示了建在时代广场外的专用计算机机房，场面非常震撼。

我曾以为蛋白质折叠问题终究会被他们解决，但这将依赖极其特殊的机器，也许政府会采购几台，每天折叠一两个蛋白质。然而，当 AlphaFold 问世，证明在桌面级 GPU 甚至 Google Colab 上就能解决蛋白质折叠问题时，整个世界都被颠覆了。我原本认为这件事不可避免需要超级计算机，但能在桌面上完成，彻底改变了一切。

Brandon： 这是 Latent Space 网络上新播客“AI for Science”的第一期节目。我是 Brandon，在 Atomic AI 使用机器学习研发 RNA 疗法。

R.J.： 我是 RJ Honicky，MiraOmics 的联合创始人，我们主要构建空间转录组学 (Spatial Transcriptomics) 的 AI 模型。

Brandon： 本播客的初衷是让 AI 工程师与科学家这两大群体汇聚一堂。这两个群体长期独立发展，虽然有过结合的尝试，但直到最近几年，我们才看到一些重大进展真正落地并解决关键的科学问题。这其中没有万能方案，我们需要领域专长，需要双方能深入交流，理解模型以及实际系统中的微妙之处。希望我们能连接这些社区，为 AI 与科学融合的新纪元提供一个起点。

今天我们很高兴邀请到 Future House 的联合创始人以及新成立的初创公司 Edison Scientific 的创始人 Andrew White。

Andrew： 大家好，我是来自旧金山的 Andrew，曾经是一名教授，现在经营着两家初创机构：一家是非营利研究实验室，另一家是由风险投资支持的公司。我们的目标是自动化科学。

Brandon： 我很想听听你从学术界跨越到工业界的故事。

Andrew： 这是个很长的故事。我在华盛顿大学攻读博士学位，当时团队里有 19 人做实验，只有 2 人做模拟计算，我的研究方向正是分子动力学。随着大家都在寻找从第一性原理 (First Principles) 模拟中生成数据的方法，MD 和材料科学中的密度泛函理论 (Density Functional Theory, DFT) 如今又重新火热起来。当时我们研究生物材料，目标是寻找非结垢材料 (Non-fouling Materials)，以解决植入物在人体内引发的异物反应。

当时作为组里唯一做计算的人，我很难将计算机模拟与实验室结果结合起来。几千个原子的模拟根本无法准确反映包含海量原子的人体环境和植入物。在博士后期间，我试图结合实验与模拟，研究了最大熵理论，尝试将复杂的模拟与有限的观测数据相匹配。这就像是机器学习的逆过程：机器学习用简单模型拟合大量数据，而我是用复杂模型去拟合极少的数据。后来我在罗切斯特大学建立了自己的研究组，应用这些方法研究多肽。

2019年，我在加州大学洛杉矶分校 (UCLA) 的纯粹与应用数学研究所休假。当时那里正举办“物理学的机器学习”项目，Yann LeCun 和几何深度学习领域的泰斗 Max Welling 都在场。当时正值深度学习爆发前夕，化学领域对图结构表示、对称性和几何的研究还很小众。我受此启发，开始撰写有关化学机器学习的教材。后来 OpenAI 找我为 GPT-4 进行化学与生物领域的红队测试 (Red Teaming)，我提前数月便接触到了强大的大语言模型 (Large Language Model, LLM)。

结合 ReAct 框架，我与 IBM 合作发布了 ChemCrow 论文，让 GPT-4 操控云实验室并执行文献调研。这在业界引发了轰动，我甚至受邀前往白宫向国家安全顾问汇报。随后，我与 Sam Rodriguez 探讨了如何扩大这些想法的规模。Sam 提出了专注型研究组织 (Focused Research Organization, FRO) 的概念。我们决定将“自动化科学”作为长期目标，这就促成了 Future House 的诞生。此后，我们进一步分拆出了商业公司 Edison Scientific，以追求更大的规模。

评估与量化：科学品味的前沿

Brandon： 所谓的“自动化科学”具体指什么？

Andrew： 我们将其定义为：自动化科学发现的认知过程，包括提出假设、选择实验、分析结果、更新世界模型 (World Model)，再由此催生新假设。最初我们以为需要从头搭建自动化实验室和文献库，但后来发现模型的进步使得很多繁重的工作得到了简化。

R.J.： 科学过程的瓶颈通常在于实验室里的实际工作。你是怎么看这个问题的？

Andrew： 目前的瓶颈其实并不是第一步实验设计不够聪明，而是缺乏信息。科学发现往往会卡在必须去实际测量数据的环节。比如，知道实验室里有什么试剂、交货时间要多久、成本多高，这些细节反而成了瓶颈。

更为关键的前沿问题，我认为是“科学品味” (Scientific Taste)。很多科学研究的方向受人类偏好驱动，比如研究某种线虫是因为大家觉得它能带来医学突破，也是因为它关乎科研人员的饭碗和论文发表。AI 模型很难掌握这种品味，它们分不清什么是激动人心的结果，什么是无聊的结果。

R.J.： 你们如何去量化这种品味？

Andrew： 这是一个我们在内部争论了很久的问题。最初我们采用了最直接的强化学习 (Reinforcement Learning, RL) 方法，也就是通过人类反馈的强化学习 (RLHF)。我们让模型生成假设，让人类专家来评判。但我们发现人类往往只关注语气、细节或操作可行性，却很少关注假设成立与否对世界产生的实际影响。

后来我们暂停了那条路线，转而开发了 Cosmos。Cosmos 将品味的反馈闭环内置其中：模型做出发现，人类可以决定是否接受、是否终止实验。这种基于下游结果的反馈比单纯让专家给假设打分更为有效。

Brandon： Google 的 Co-Scientist 采用了对抗或排序的方法来过滤假设。你的系统与之有什么不同？

Andrew： Co-Scientist 通过纯文本逻辑来筛选假设。而我们的系统 (如 Robin) 是真正的“闭环”。我们不仅生成假设，还通过数据分析或文献比对去验证它们。有趣的是，在针对干性年龄相关性黄斑变性 (AMD) 的研究中，由眼科专家评选出的“最佳假设”往往并不是最终在实验中取得成功的那个。相比人类意见，利用文献检索和数据分析进行过滤的信号更可靠。

Cosmos 与世界模型：构建记忆与预测

R.J.： 在 Cosmos 系统中，你们提到了 50% 左右的准确率。如何看待这个数字？

Andrew： 那 50% 是指人类对模型分析结果“解释”的认同度，而不是实验的二元成败。这再次印证了“科学品味”依然是目前的前沿难题。

R.J.： 能宏观介绍一下 Cosmos 的演进历程吗？

Andrew： 我们采取的是搭积木式的方法。从最初辅助药物化学的 ChemCrow，到处理分子直觉的 Ether Zero，最后我们决定构建一个端到端的系统，也就是 Robin 及其后续的 Cosmos。我们发现，支撑科学循环的核心需要一个“世界模型”。

世界模型不仅仅是记忆系统或论文库，它代表了对现象的理解。你输入条件，它能给出预测；随着实验结果的反馈，它不断更新自我。有了数据分析智能体的加入，我们终于能够在循环中实质性地验证想法，并通过世界模型将实验、文献和报告生成无缝粘合在一起。这就好比软件工程中的 GitHub 仓库，是所有代码提交和思维探索的结晶。

R.J.： Cosmos 目前有一个面向所有人的公开版本。你们是否也为其他实验室提供一些不那么公开的访问权限？

Andrew： 首先我要说，每家公司的人都是自家产品最严厉的批评者——我们觉得 Cosmos 很棒，但它仍有非常大的改进空间。至于版本，我们确实有一个资源更强的内部版：它可以运行更长时间，做数据分析时会调用 GPU。我们用它来做机器学习实验，比如验证“先在含噪数据上预训练是否更好”这类问题，也用它来测试即将发布的预发布模型。我们确实与企业有研究合作，会为他们构建定制化的东西。但大体上说，官网上公开的 Cosmos 已经非常接近我们内部最好的版本了。

第一性原理模拟的局限与 AlphaFold 的启示

R.J.： Cosmos 中似乎没有包含分子动力学 (MD) 或密度泛函理论 (DFT) 的工具？

Andrew： 为了增加些话题度，我要说：分子动力学和 DFT 经常被过度高估。这两项技术消耗了无数博士生的职业生涯，大家都在追求模拟的美感，但实际上，这些模拟往往只能很好地模拟无聊的系统。当你去研究那些真正改变世界的催化剂时，它们通常充满了晶界和掺杂物，这是 DFT 根本无法捕捉的复杂性。

AlphaFold 的成功就是最好的证明。它是基于 X 射线晶体学等真实的实验数据训练出来的。前面提到的 D. E. Shaw Research 倾尽全力用第一性原理模拟蛋白质折叠，而 DeepMind 则用机器学习加上实验数据，最终在个人电脑的 GPU 上彻底解决了这个原本被认为是无底洞的计算难题。因此，在 Cosmos 内部，我们更倾向于通过 API 调用基于深度学习的化学和蛋白质设计工具。

语言作为科学界面与双刃剑安全思考

R.J.： 你曾提出“化学的未来是语言”，你现在依然这么认为吗？

Andrew： 是的。要将溶解度预测模型、大规模人口数据和学术文献整合在一起，自然语言是唯一的桥梁。人类长久以来不断优化语言，使其处于抽象与具体之间的绝佳边界。当然，有些情况需要绘制化学结构或图表，但语言依然是最具弹性和普适性的连接器。采取强烈且明确的观点（如一切皆可通过语言表达），能让我们跳过很多不必要的基座模型搭建阶段，以更快的速度取得进展。

Brandon： 语言确实是一种抽象——科学家某种程度上几乎完全在抽象中工作。有趣的是，你说得对，科学家解释事物时大多用语言，但很多对话最终会走到白板前画图。化学、尤其是药物化学，很大程度上是一门“图”的语言：化学键是抽象，但在多数情况下是相当好的抽象；蛋白质的几何构型也是如此。所以我想问：你有没有考虑过一种多模态 (Multimodal) 的版本？比如当输入一个 SMILES 字符串时，系统不只是把它当作字符串，而是理解这是一张图、是某个更高层抽象对象的表示？

Andrew： 你说得完全对。问题在于——随你怎么称呼它，“雅各布天梯” (Jacob's Ladder) 之类的——你可以用名字称呼一个分子，也可以画出它的结构图。但轮到二茂铁 (Ferrocene) 这样的分子，它局部根本没有经典意义上的化学键，你就得换一种画法。再往下走，像丁烷这样的分子存在二面角 (Dihedral Angle) 问题——它其实不是你画出来的那个静态结构，而是多个构象之间的系综 (Ensemble)。再走到苯，它不仅是构象系综，还有不可忽视的电子密度。然后你会发现那种画法根本表示不了电子密度，必须逐个考察电子之间的关联——这就是为什么 DFT 处理不好苯。好，你可以建模电子关联；但这些分子在溶液中还有相对论效应，你还得把相对论算进去。等你把相对论、电子关联、化学键、构象全算上，你还得考虑宇宙背景辐射——它确实影响一切。不知不觉间，你的算力就耗光了。所以你必须在某处画一条线。自然语言正是人类长期打磨、恰好停在这条边界上的东西：它足够抽象，你不必知道所有细节；又足够具体，你可以真正用它做事。也许会有别的表示方式——多模态、视频，或某种融合表示。我偏爱自然语言，是因为人类付出了巨大努力让它恰好停在那条边界上。当然我也同意，有时候想法会“溢出”语言的边界，你不得不拿出白板，或者挥舞双手比划——那种时候你确实需要额外的表达自由度。

R.J.： 再深挖一点。众所周知，量子力学 (Quantum Mechanics) 是“不可描述”的——有一种观点认为，你无法用语言和我们对宏观世界的先验直觉去理解它，因为它的行为方式与宏观世界完全不同，唯一的理解途径是数学。我在很大程度上也认同语言是科学的通用钥匙，但我怀疑这对很多领域并不成立，量子力学只是最打脸的例子。

Andrew： 说实话，我不知道。量子力学大概有七条（还是五条？）基本原理，用语言可以表达得相当简洁。当然，你需要考察这些原理的推论，这需要一些数学。我认为你其实可以用语言描述相当多的量子力学，这像一个值得接受的挑战。但我明白你的意思。我是个现实主义者：我跟自己的孩子讲东西时也会说“来，我画给你看”，并不要求家里的一切都用自然语言描述。所以这一点上我同意你——也许我们可以对“自然语言”宽松一点，把方程式和 SMILES 字符串也包含进来，这样能走得更远。有些人喜欢保留选择空间 (Optionality)，“可以是这个也可以是那个”；而我属于那种喜欢下强判断 (Strong Opinions)、然后看它能带我走多远的人。在我的职业生涯里，下强判断——哪怕内心深处知道它可能不完全正确——效果反而更好，因为一旦下了强判断，你就能沿着它往前走很多步。比如在 Future House，我们下的判断是“科学智能体是未来”，这让我们跳过了很多步骤——当别人都在说“我们需要为某某领域建一个基座模型”时，我们直接跳过了这一切。我也能想到反例：有家著名公司很喜欢保留选择空间，结果在基座模型上浪费了大量时间。所以，“自然语言是连接一切的方式”就是我的强判断之一——这就是我在这个问题上的元观点 (Meta Opinion)。

Brandon： 当你让系统大量探索时，如何防止它发现或合成危险物质 (如 CBRN 武器)？

Andrew： 早期大家确实很担心 LLM 会泄露制造武器的隐性知识，但经过严格的红队测试发现，非专家要搞出严重危害依然有很高的专业壁垒，而真正的专家早就掌握了这些知识。不过，AI 在物流统筹、规避审查和实时实验故障排除方面的加速能力，确实是值得防范的隐患。目前，相关部门已经在密切关注这种次生风险。

R.J.： 你和 Sam 对科研资助模式和科学的未来思考很多，也一直公开谈论可复现性危机 (Reproducibility Crisis) 等话题。首先想问：为什么选择专注型研究组织 (FRO) 这种架构？它能给你什么学术界或大厂实验室给不了的东西？

Andrew： 一个很好的人际网络。当然，我认为 Edison 会做得很好，但它未来会怎样仍是个未知数，所以这条双轨路线并没有外界想象的那么多摩擦。不过，如何平衡这类事情、如何平衡经济账，确实是我和 Sam 一直在思考的问题。有些风投支持的公司开出超过一百万美元的现金薪酬，把股权融资来的钱这样烧掉，让我觉得不可思议。

Brandon： 不过换个角度看，和 GPU 的总开销相比，再高的薪酬也可能只占总燃烧率 (Burn Rate) 的一小部分，所以有时候也说得通。在自动化科学的未来，科学家的定位是什么？

Andrew： 科学与单纯的工程不同。工程可以完全脱离人类运转，但科学关乎“宇宙的起源”或“催化剂的本质”，它最终必须由人类的大脑和眼睛来审视和评判。这就好比艺术，科学的欣赏者正是科学家自己。因此，自动化并不会像自动驾驶淘汰司机那样淘汰科研人员。相反，未来的科学家将成为“超级统帅”，并行管理成百上千个 Agent 去探索未知的无限前沿。

R.J.： 你已经触及了这个问题。我脑海里一直在想的是：科学家到底在做什么？

Andrew： 特德·姜 (Ted Chiang) 写过一篇很棒的短篇小说，大概是 2003 年的。故事里，科学家先是失业了，变成 AI 科学家工作的“翻译者”——他们读 AI 科学家写的论文，再转译成大众科普内容。再后来，他们连论文都读不懂了，于是彻底被甩在后面，无所事事。但问题在于，科学必须被“翻译”给人才能产生影响，科学无法独自存在。工程可以脱离人类运转：如果你给某个系统一个目标——“给我造一种能建太空电梯的材料”——你可以全程不参与，最后来看一眼说“好，按这个配方做”就行。但科学不同——“生命的起源是什么？”“另一个星球上有水吗？”“为什么这种催化剂比另一种好？”——这些问题的答案终究要抵达人类的眼睛和大脑。所以我认为，这个过程中必须有人类参与。

R.J.： 我不想抬杠——不过还是抬一下：为什么必须有人类参与？

Andrew： 至少在某个环节，需要有人来说“这是好科学”或者“这是坏科学”。

R.J.： 好吧，所以又回到品味了。

Andrew： 是的。但也许你是对的，也许人类真的没有位置了。也许未来会像 Sora——那个 AI Slop 应用。不过我觉得，即便是在 Sora 里，最后还是有人类在末端点击视频。

Brandon： Sora 这个类比引出一个有趣的问题：鉴于 AI 科学存在固有偏见，如果我们全面拥抱 AI 科学，是否仍然会存在一个“精品人类科学” (Boutique Human Science) 的市场？就像今天仍有人想用老办法画画。更重要的是：模型的训练数据里烙进了永远无法克服的盲点和偏见，如果没有人类主动做自己的探索，AI 科学是不是会永远困在这些盲点里？

Andrew： Bio——一家位于奥克兰（或 Emeryville）的公司——在实验室自动化方面做得非常出色。我认为他们正在检验这个理论：如果那真是瓶颈，我们应该能看到证据，因为他们会开始表现得非常好。这种可能性是存在的。

Brandon： 不过我还是要说，这些在我脑海中都还局限在制药或生物公司的研发范畴内，没有人在尝试回答宏大的基础问题。我有基础物理的背景——比如暗物质候选者这种问题，你们有没有想过怎么攻克？我觉得，要讲出一个完整故事所需要的数据根本还不存在。

Andrew： 你知道吗，我敢肯定每家公司的人都是自家产品最严厉的批评者。我们觉得 Cosmos 很棒，但它仍有非常大的改进空间。

Ether Zero 的“猴爪”：奖励黑客历险记

Brandon： 你博客上那个 Ether Zero 的故事，我觉得又好笑又精彩。我小时候特别喜欢“猴爪” (Monkey's Paw) 那种灯神式寓言——小心你许的愿，因为它真的可能实现。能快速讲讲这个故事吗？真的太有意思了。

Andrew： Ether Zero 是个“地狱级”项目。概念上它非常短平快：既然大家在数学和代码的可验证奖励 (Verifiable Rewards) 上取得了很大进展，那我们试试在化学里做。但化学不是一个可验证的领域——当然，你可以去实验室实测。于是我们不得不想尽各种办法让化学变得可验证，最后定下来的任务之一是：造一个由三个氮、两个氧、十个氢组成的分子。我们以为这是个很好验证的问题。但每次训练模型，它都会找出某种匪夷所思的新伎俩来生成这些分子。举个例子：它会生成分子，我们做各种检查——化学键对不对、电子数对不对、原子数对不对——但它会不择手段地“解”这道题：把所有氮堆在一边，把氧拽到另一边，生成的东西完全不像话。于是我们不得不开始立规矩：“检查它是否遵循了这条最佳实践、那条最佳实践。”我们发现自己陷入了一种境地——简直像是“苦涩教训” (The Bitter Lesson) 的反面：不知道该叫什么，“精品教训” (Boutique Lesson) 吧——你把所有东西都做成定制的。

它最爱干的一件事是把氮原子连成串：一个氮、两个氮、三个氮，连成一条链。要知道，三个氮连在一起就是炸药级别的，两个氮已经够糟，四个氮根本做不出来。我一直跟团队说它会生成六氮化合物，而那字面上就是不可能的。团队里很多人都是计算机科学家，有一天，其中一个人发给我一条消息——那天《自然》(Nature) 网站的封面上，有人真的合成出了六氮化合物！那是某人用整个职业生涯换来的成果，因为这是你能造出的最不稳定、最疯狂的化合物，实验装置极其荒谬，用光谱学证明它的存在也极其困难——我不知道他们是怎么做到的，真是了不起的成就。那位同事对我说：“Andrew，你看，它其实不是不可能的。”这件事让我觉得太好笑了：我们的模型在 2024、2025 年就在那儿狂喷六氮化合物，而人类终于合成出六氮化合物的论文，恰好就在那一年发表。

R.J.： 你觉得那些东西在那种极端条件下真的可合成吗？

Andrew： 我们的模型纯粹是在钻奖励的空子——那就是奖励黑客 (Reward Hacking)。

模型在钻空子这件事上的创造力惊人。再举一个例子：我们希望它提出反应路线——“告诉我怎么合成这个化合物”——并确保所有试剂都是可购买的，而不是凭空编造的。之所以立这条规矩，是因为最初它会把目标化合物去掉一个原子，说“买这个”，然后再把原子装回去——好吧，要是合成真这么简单就好了。所以我们要求试剂必须可购买。我们又想，全部可购买可能太难了，毕竟有时候试剂确实需要定制，那就先保证至少一种可购买吧。结果它做的第一件事就是往里塞氮气——氮气可购买，而且不参与反应。我们只好说：“好吧，试剂必须可购买，而且必须参与反应。”它就开始玩酸碱化学：放一个酸进去——酸可购买，而且能移动一个原子。我们只好再说：“不行，不能什么东西只要可购买就行。”直到有一天，我们发现自己坐在那儿，建了一个荒谬的可购买化合物目录加布隆过滤器 (Bloom Filter)，只为了让训练循环跑得够快。我自问：我到底在干什么？我是怎么走到这一步的？

这事之所以好笑，是因为对比一下：直接在数据上训练 Transformer——也就是有输入有输出的监督训练——非常省心，一切稳健顺利。而做可验证奖励时，你必须写一个刀枪不入的验证器 (Verifier)，这真的太难了。我们训了太多模型，最后却发现它们只是在钻我们设置里某个随机漏洞的空子。我一点也不羡慕那些不得不在超大规模上做这件事的前沿实验室——我们在 Ether Zero 里已经冒险够了。你们真该去读读那篇博客。

Brandon： 大家一定要去读那篇博客。

Andrew： 真的很好看。

R.J.： GRPO 呢？

Andrew： 我们确实对 GRPO 做过一些修改。那些修改的名字我以前都记得，现在忘了——DAPO 应该是其中之一。我们做的裁剪 (Clipping) 也很特别，那一块我们探索了很多。还有一件这种事：你以为超参数不对、算法不对，最后发现只是因为你构造训练数据时把试剂排了序，而测试数据没有按字母序排。模型直接“崩溃呕吐”，因为它学到的整个策略就是钻你排序方式的空子。总之我们探索了很多不同的方法。我学到了大量化学知识、命名法知识，还有远超我想要的药物化学知识。

Andrew： 如果大家对参与这些工程挑战感兴趣，欢迎关注 Edison Scientific 的招聘信息。谢谢大家的邀请。