未来实验室应如数据中心 — Andy Beam & Rafa Gómez-Bombarelli, Lila Sciences
🔬 The Lab of the Future Should Feel Like a Data Center — Andy Beam & Rafa Gómez-Bombarelli, Lila Sciences
Lila Science 的 Andy Beam（CTO）和 Rafa Gomez-Bombarelli（CSO）阐述了其核心理念：押注“苦涩的教训”与规模化，将科学视为无限 token 生成器，通过构建 AI 科学工厂（结合自动化实验室与强化学习）生成实验验证数据，用于后训练推理模型。该平台覆盖生命科学、化学与材料科学，已在 6 个月内实现体内 CAR-T 疗法的临床前验证，并制造出非铂族金属电催化剂。公司使用预训练模型（如 OpenWAI、Neutron）并叠加 10 万亿科学推理 token 进行训练。
但不仅仅是TechBio。在科学方面你们具体做什么？
我们全力押注"苦涩的教训"和规模化。我们认为，那些能够规模化且通用的方法，会胜过那些不能的。你知道，就像Ilya去年在NeurIPS上说的，我们只有一个互联网。它就像化石燃料。我们开采了它，从互联网中榨取了每一盎司的数据，但现在已经用完了。所以问题是，下一个互联网规模的数据集从哪里来？
你知道，人们通常谈论不同的规模化维度。有算力，有数据。而对于科学来说，数据不一定是无限的资源。你的意思是，我们现在要为数据增加一个新的规模化维度。
我们认为，未来的实验室应该像一个数据中心，一排排服务器机架要尽可能密集，同时也要尽可能节能，诸如此类。
欢迎来到《Late in Space Science》。我是Brandon。今天和我一起的是联合主持人RJ。今天我们邀请到了Lila Science的Rafa Gomez-Bombarelli和Andy Beam。我们就直接开始，请你们自我介绍一下。
是的，感谢邀请我们上播客。你知道，长期听众，首次来电，很兴奋来到这里。我是Andy，Lila的首席技术官。我从事AI研究已经大约20年了，可以追溯到深度学习之前的时代，比如SVM、随机森林之类的。我在2010到2014年左右读了神经网络方向的博士，正好是深度学习兴起的时候。当时很明显神经网络是值得押注的方向，但自动求导库还没有开发出来，所以我得手动做反向传播，就像我那个年代，上下学都要爬坡一样。我对AI在医疗和生命科学领域的应用产生了浓厚兴趣。我妻子是医生，所以我看着她应对各种困难，觉得AI显然是解决许多问题的自然方案。我在哈佛医学院做了博士后，从事医疗AI的早期研究。说实话，我是冲着AI来的。我对AI能解决什么问题非常感兴趣，但我也一直对创业充满好奇。所以我离开学术界一年，帮助创办了一家名为Generate Biomedicines的公司，这是一家早期的生成式生物学公司。我在那里成为了机器学习负责人，并在接下来的五六年里体验了那种教授兼创业者的有趣混合角色。我在哈佛还有一个实验室，介于公共卫生学院和医学院之间，既做方法研究，也做大量应用工作。那很有趣，是一份很棒的工作。但我感觉到AI的时刻正在发生重大变化，我想参与其中。所以我开始思考，在哪里能站在AI的前沿，处理真正令人兴奋的问题。学术界有很多优势，但获取规模化算力或资源并不是其中之一。我早期是Lila的顾问，当他们的核心理念成型后，我非常兴奋。但基本上，科学是一个无限的token生成器，可以用来规模化训练模型。我为什么还要做其他事情，而不是创建一个能解决科学问题的新前沿模型呢？所以我开玩笑说，两年前我脱下了花呢夹克，离开了学术职位，全职加入Lila，成为首任CTO。
我是Rafa。我是Lila物理科学领域的首席科学官，也是联合创始人。我以前是计算化学家。我们使用的一种商品化资源就是算力。所以很明显，我们可以扩大算力来做分子模拟。这产生了足够多的数据，以至于在2010年代初期，我们意识到我们遇到了数据问题，大概就在那时，我的方向发生了转变。我和David Dubinot、Ryan Adams合作，尝试融合我认为最早的科学深度学习实例。我是最早一批用自编码器对token化分子做化学生成式AI的人之一。所以我对潜在空间（latent spaces）产生了深深的热爱。实际上，我们有一个和你们logo非常相似的图，不过是针对分子的。那个图后来有了自己的生命。
这就是会刻在你墓碑上的那个图，对吧？
没错。我的学生们建了一个Slack频道，专门在它出现在网上时发出来。所以我的故事没有Andy那么多，但同样是在2015、2016年左右转型。我在哈佛博士后期间创办了一家公司，是一家计算材料平台公司，然后去了MIT。我在那里开始了材料科学与工程的研究组。这个组的工作处于分子模拟和AI的交界处，涉及材料结构的生成模型、用于分子模拟中我们想要的酷炫梯度的自动求导等。到了2022、2023年，事情开始转向Andy刚才提到的方向，对吧？我们看到了"苦涩的教训"在计算生成数据上的体现。这就是为什么Meta、DeepMind和微软都有团队在做AI for计算材料科学。但很明显，我们需要弥合差距，把这件事做到底，做真正的材料科学AI，而不仅仅是计算版本。这正好与再次创业的机会吻合。就像我说的，2022、2023年，我开始思考这个想法。现在我很兴奋能推动这个整合的科学推理愿景，涵盖我们能在实验室验证的所有科学模态。
好的，这引出了一个问题：Lila的核心理念是什么？看起来你们的目标非常宏大。
是的，这是个好问题。我尽量给个简短总结，然后我们可以深入几个层次。就像Rafa说的，我们全力押注"苦涩的教训"和规模化。我们认为，那些能够规模化且通用的方法，会胜过那些不能的。这听起来直白无误，但实际上与AI研究70年历史中的许多做法相悖，是反直觉的。但我们意识到，过去四五年里大语言模型的兴起，源于规模化算力和规模化数据的结合。这些数据来自互联网，是人类生成的，而且我们已经用完了。你知道，就像Ilya去年在NeurIPS上说的，我们只有一个互联网。它就像化石燃料。我们开采了它，从互联网中榨取了每一盎司的数据，但现在已经用完了。所以问题是，下一个互联网规模的数据集从哪里来？在预训练时代之后，我们进入了带可验证奖励的强化学习阶段。所以人们经常谈论RL，但RL本质上是一种让模型自己生成数据的方式，奖励信号强化好的数据，惩罚坏的数据。这在数学和编码问题上是一个非常有效的框架。但在Lila，我们相信，科学——运行科学方法，利用自然和实验作为验证器——是这种框架的终极版本。所以我们正在构建的东西，我们称之为AI科学工厂。它们是用于科学的规模化验证器，这样我们就能大规模地进行后训练，推动推理模型能力的前沿。所以，这就是核心理念的简要概括。
你的提议本质上是在说，人们通常讨论不同的扩展轴（scaling axes），比如算力、数据、参数。而在科学领域，数据并不一定是无限的资源。你的观点是，我们现在要为数据增加一个新的扩展轴。没错。所以我想引用我在Escalante Bio的一些朋友写的一篇博客，写得非常好，推荐你读一读。里面提到："你的实验有一个运行时间。"嗯。那么你的数据收集的运行时间是多少？
这个问题问得太好了。它显然会因实验而异。比如，你不能让核糖体跑得更快，至少据我所知是这样。生物学设定了你能达到的速度上限。在材料科学和化学中，时间尺度更小，长度尺度更大。不过，你实际上问的是一个技术问题：如何训练一个模型来应对反馈机制在数量级上差异巨大的情况？我们把Ayla看作一个能生成不同长度尺度上不同类型数据的系统。一旦数据生成，我们就可以同步训练模型的方式。对于我们做的某些实验，长度尺度是几天或几周的量级。问题在于，我们能否实现多路复用？能否在单位时间内获取更多数据？但无限令牌生成器（infinite token generator）仍然存在。我们只需要解决另一侧的技术问题，以便将这些碎片拼凑起来，并训练到模型中。
你说无限令牌生成器仍然存在，具体是什么意思？因为你可以想象出许多不同的科学令牌，有些令牌提供的信息远多于其他令牌。某些东西可以大规模收集，比如喜欢NGS的人，基本上可以收集无限量的NGS数据。是的。但在某些情况下，比如另一个人类基因组，可能只是一个增量更新，而我的基因组相对于参考基因组，信息量只有几KB。
那里信息量不大。嗯，你说得完全正确。所以我们不想反复生成同一种数据。我们正在构建的平台，在本质上与传统自动化框架不同。实际上，我们构建的实验平台优先考虑通用性和灵活性，而不是原始吞吐量。我们希望模型能够设计新的实验协议、运行协议并接收反馈，即使这个实验我们自己都没想过要做。所以下一个增量令牌必须是对模型有价值的东西，而不是又一个NGS样本，去教它已经达到收益递减点的东西。
你说"下一个实验"，我想到的是传统上你会进入实验室，以某种方式重新配置实验室，然后手动运行一些实验，可能持续几周。那么在LILA，实验室是如何为新实验重新配置的？
可以把实验室想象成一个图。每个仪器是图中的一个节点，节点之间的边表示这两个仪器之间有物理传输层。我们稍后会展示一段视频，但我们在LILA有一个物理传输层，连接了几乎所有购买的仪器。目前这些是平面电机系统，一个6孔板在轨道上磁悬浮移动。你可以对板的位置进行毫米级控制。所以你可以——我把它想象成PCI总线，每个仪器——我不缺类比，嗯，这个不错。
我觉得一半的听众可能不知道PCI总线是什么。
嗯，它是一种通用串行总线，在你的主板上允许你连接新设备。比如你插一块新显卡或新硬盘，有一条总线让这个设备与电脑的其他部分通信。
这适用于生物系统、材料系统等等。越来越适用，但还不完全。
关于自动化，还有一点要记住：要解决的事情有很长的长尾。到目前为止，人们并没有以这种灵活的方式思考端到端自动化。所以有些仪器还没有连接到这个系统。例如，材料科学中高吞吐量自动化并不多，我们为此构建了定制仪器，然后接入系统。但这里有一个80/20法则：容易接入和自动化的东西直接插到PCI总线上，不容易的，人们仍然会手动移动样本。事实证明，从试管上取下盖子是一件很难自动化的事情。很多实验室操作假设你有对生拇指并且很擅长使用它们。我们看到的关于Lila的一些讨论，把我们定位为一家自动化公司，但这有点误解了我们在做什么。我们不是自动化最大化者，我们实际上是令牌生成最大化者和灵活性最大化者。所以我们会逐步自动化那些有意义的环节，同时在有意义的地方使用现有解决方案。
所以系统设计实验，给出指令。然后有人需要实际去做这件事。你招募一些员工去执行。
是的，一切都是API调用。有时调用API时，会有一个机械臂。有时，会有一只人手去做。
有些人实际上就在API线之下。嗯，定价问题。
我认为，我们想把资源花在合理的地方，做出理性的决策。有时，当一个人能在十分之一秒内完成一个步骤时，尝试自动化它就没有意义。但重要的是，模型有能力给出指令来测试假设，并且所有数据都是可见、透明、可存储的，这样那些令牌就能流回模型。
你的AI模型是否在做完整的实验设计，而不仅仅是调整现有协议中的相对比例或来源，比如往移液器里加什么寡核苷酸？
这取决于你对新颖性的阈值。当然，对于表达协议，以及我们做过的一些基因编辑工作，我们已经测试了平台与人类相比的能力。模型在零样本情况下能达到80%。人类在零样本情况下是0%。我们现在是在做完全开放式的自由形式实验吗？不，还没有。那是目标，我们正在朝这个方向努力。那是我们想要达到的最终状态。但我们看到了在极短时间内完成大量人类智力劳动的能力。
当你给AI模型自由去设计新实验时，你如何确保这些实验是值得测量的？或者你如何验证这是一个好策略，而不是白白浪费一大笔钱？
第一个问题是，我认为可能涉及一个潜在的安全问题。我们从一开始就非常重视这一点，对吧？既包括数据安全，也包括模型建议的安全性。我们有一个非常强大的团队，在非常有力的领导下不断壮大。这是第一层，对吧？我们拥有强大的AI安全协议，类似于人们在大型语言模型中考虑的那种提升（uplift）考量。只不过它绝对是——我们拥有强大的AI安全协议，类似于人们在大型语言模型中考虑的那种提升考量。
只不过它是真正落地的。在实验室自动化环境中，当你处理某个生物物理或材料科学类型的问题时，实际需要担心的危险是什么？我通常想到的是恶意行为者，或者，在某些情况下，系统足够复杂以至于可能真正输出危险内容。从Lila的范畴来看，据我所知——我们还没聊到这个，可能一会儿会谈到——目前安全似乎还不是主要担忧。
我的意思是，这是我们从一开始就需要认真对待的事情，对吧？这是我们绝不能搞砸的事情。我同意你的看法。目前它掌握在Lila员工手中，他们的利益与我们的使命一致，对平台的理解也与之一致。所以我同意，我们不需要担心恶意行为者。但我们仍然需要在一定程度上担心模型给出的建议，我认为这更多涉及实验室安全，而非恶意行为。我不认为会出现模型建议极端有毒化学品的涌现行为。更多的是关于操作仪器时可能导致的溢出、混合了不该混合的化学品之类的问题。所以我认为从一开始就需要有一个化学EHS（环境、健康与安全）层面的保障，因为我们处理的是开放式工作流程。
我确实认为Raph说得对，安全不是可以拖延的事情，因为能力曲线通常是S形的，可能看起来一切正常，然后突然之间模型就能做一些你未曾预料到的事情。所以我们在这方面肯定是主动的。我们有一个AI安全团队，就像Rafa说的。但我也认为你说得对，我们可以通过有意义的方式约束问题，而一个与公众互动的通用AI系统则无法做到这一点。我们还可以借助生物安全等级之类的手段。你知道，老派的实验室安全措施可以在同时发挥作用。
当然，暴露于特定问题的节点——我们不一定需要将所有实验能力暴露给所有科学问题，对吧？对于抗体设计问题，我们可能甚至不需要让模型知道我们有装有气体的气罐，对吧？因为它用不到。所以我们仍然可以在与某一特定科学领域相关的问题范围内进行创造性设计。
是的。不过你的问题——抱歉——很有意思。比如，如何判断某样东西是否危险，实际上很难做到；或者，如何判断它是否浪费？我们在电催化剂方面做的一些工作中，Lila内部有一个人在这个领域发表了40篇论文。模型最初给出的一些建议很无聊，但后来从无聊变成了他认为的愚蠢。这些是非铂族金属的电催化剂，用于从水中分离氢和氧以制取氢气。结果证明，这些是我们制造过的最好的非铂族金属电催化剂。所以，明显错误与类似Move 37那种甚至让人类专家都感到惊讶的准正确之间的界限，很难判断。因此我们会做一些浪费的事情，因为我们想了解这两者之间的区别。
这就引出了一个问题。对于你刚才描述的那种实验，结果是否有效是显而易见的，对吧？但你可以想象——之前在伯克利实验室曾有一些关于测量结果被误读的争议，对吧？你如何确保你对有效性或优化目标的测量是真正正确的？
是的，我对这方面的情况非常熟悉。我想说的是，我们不能因为它是AI就放松科学严谨性的标准，对吧？也许五年前，当我们开始为X和Y做生成模型时，人们会说，嗯，挺有趣的，就像教小孩一样有点效果。但现在我们已经超越了那个阶段，我们需要将AI科学置于与常规人类主导科学相同的标准之下。我认为2023年的那篇论文是社区的一个转折点。AI社区的一部分人，特别是AI for Science领域的人，一直对渐进式进步感到兴奋。而我认为从那时起，我们开始集体触及其他社区成员的意识，他们说，太棒了。但你知道，现在我们要以最高标准来讨论做事方式。所以我认为我们有很多实验人员，我想回到API这个点上。是的。我认为我们有幸从零开始建立一家公司，员工对AI有认知、有热情。通过我合作过的人和网络，我们成功组建了一个实验人员和自动化工程师团队，他们真正相信这个使命，并真心想实现它。他们非常包容。所以每当AI给出非常错误的东西时，他们就会按下红色按钮，提醒说这是个坏主意。但他们也很包容，比如尝试假阳性。假阳性对人类科学家来说很糟糕，因为你去尝试某样东西，结果不奏效。但对模型来说，这很棒，因为它大大降低了不确定性。对操作员来说，这有点令人沮丧，对吧？因为你本以为会得到一些酷的东西。我认为我们已经做到了，回到Andy提到的点，我想直到三个月前，人们还会审批AI的决策。而大约三个月前，我们开始看到模型的一些疯狂想法开始让人惊讶，但却是出人意料地好。就像，我不知道，我想我们需要试试。我们看到了这种转变。我认为实验人员挑战AI的能力，同时保持包容，这种人与计算机的界面在过去几个月里非常令人欣慰。
另外，让模型控制实验室会迫使你构建基础设施，去暴露那些你通常不会在意或关心的数据片段。也许没有哪个实验是错的，但你希望有能力解释结果。所以你想一下，如果你做一个实验并拟合一个统计模型，你实际上是在用输入的变化来解释输出的变化。我们之所以能够解释输出的变化，是因为我们测量了非常多不同的东西，因为我们不得不把这些暴露给模型。这样我们就可以说，好吧，那天实验室的湿度不对，也许这正好解释了问题。然后我们还可以按个按钮重新运行实验来验证。所以就像 Rafa 说的，某种意义上我们必须对任何结果都更加怀疑，但我们可以很快重新运行那个实验，因为这一切都是软件。
本质上就是软件。那你发现团队花了很多时间在验证上吗？或者说时间分配是怎样的？越来越少了。
我觉得一开始并不是那么多。我的意思是，有一个执行过程：好，我们有一个假设，有一套指令会发送到 API，我们为其担保。然后 API 的某些部分是由人来操作的。我认为这一点会一直存在，对吧？就是那些体力劳动。但我觉得在双重检查直觉是否正确这方面，我们开始看到在超级智能的局部领域出现了一些高峰，我们更多是在支持这种超级智能行为的涌现，而不是在把关，确保这些想法不是浪费。所以我认为这在某些领域正在发生。也许可以稍微详细说一下 Andy 提到的例子。我们非常关注能源和可持续性，对吧？我们不只是生物科技公司，我们真的很关心能源、可持续性和材料。我们正在尝试制造绿色氢气。而要制造绿色氢气，你需要用光来分解水分子。其中一部分能量你需要支付，因为那是储存在化学键中的能量，来自阳光和电力。然后还有一些额外的开销，叫做过电位，这与世界并不完美、能量会有损失有关。而损失来自一种叫做催化剂的东西。现在的催化剂还行，但昂贵且稀有，由钌和铱制成。所以我们建立了一个模型来探索如何避免使用这两种元素。人们写了很多论文，几周前有一篇说“钌，低钌合金用于 XYZ”。嗯，当然，你可以稀释它，减少用量，但根本问题还是一样，只是少用了 50%。所以我们针对这类问题设定了模型规则，并且有能力制造材料、测量性能、测量催化效果、测量稳定性。然后在第二、第三代的序列学习中，信息和模型所知之间的这种相互作用，我们开始看到一些建议——我的意思是，措辞没问题，它用的概念也是我们常用的。只是，你知道，我不会把那个想法用到那个元素上，我不会那样把它们组合在一起。而事实证明，这些是我们迄今为止性能最好的化学物质。
我确实想聊聊 Lila 不是生物科技公司这件事，但在此之前，沿着这个思路再问最后一个问题。强化学习以奖励破解（reward hacking）而闻名。我忘了你刚才说了什么，不知道你是不是说你们在用强化学习，或者学习迭代。我会非常担心，你扔出一些奖励，然后真的可以在物理科学中作弊，这是用计算做不到的。嗯，我不会反驳这一点。
完全同意。最搞笑的例子是什么？
我们有很多搞笑的强化学习失败案例，不完全是奖励破解。嗯，一个是当我们训练——早期做的一件事是，你能不能做个板图？就是把实验条件布局在板上。然后当人问的时候它会变得不耐烦。你让模型做个板图，它做了，然后你说“实际上，你能换一下这些试剂吗？”它就会骂人。它会说：“这是个 96 孔板。拜托，老兄。你之前就这么做的。”在思维链里。我不知道这是从哪来的，但就是——互联网的某个地方。对，某个地方。互联网就在里面。我忘不了这个。所以我们看到了很多这种搞笑的性格怪癖，作为强化学习的结果。还有一些明显的强化学习——我不会称之为奖励破解，但像重复这样的病态行为。比如思维链会崩溃，然后一遍又一遍地重复它的最终答案。出于某种原因，这有时确实会带来更高的奖励。我们不太确定为什么病态的思维链或不可读的思维链在某些情况下会导致更高的奖励。
抱歉，我想打断一下。我们在讨论强化学习。对，你描述的方式听起来就像是在思维链上做强化学习，跟大家都在做的一样。但你们的强化学习实际上包含了一个实验室步骤。对。如果模型陷入病态循环，那是不是意味着实验室会一遍又一遍地做同样的实验？
不是这样的。思维链，也许先退一步说，是模型用来解决问题的 token。如果你在解一道数学题，你会用定理 1、定理 2、推论、引理。你知道，你把问题分解了。在科学中，思维链也有类似的部分。所以会有推理过程：我想为这个靶点制造一个抗体。我对这个靶点了解多少？已知的表位有哪些？我的攻击计划是什么？在思维链中还有工具调用。嗯，也许在这种情况下我会用一个结构预测模型来了解序列在三维空间中如何折叠。所以工具调用是思维链的一部分。在 Lila，有趣的是实验室仪器也是工具调用，或者是一系列用于工作流的工具调用，或者——但这一切都是人类可读的，都是英文的，对吧？所以我们看到的一些病态行为是它跳过了所有中间部分——我们认为这对解决问题很重要——直接跳到答案，说“这种情况下我不需要做实验，我不需要调用工具”。嗯，在某些我们可以判断的情况下，比如也许我们已经做过实验了，出于某种原因，这实际上在某些情况下并不是一个坏策略。所以这里面有些神秘之处。
它是个理论家。
对，对，它已经算完了。这可能有点跑题，但它实际上是在潜在空间中思考，然后发出 token。所以思维链往往是一个不可靠的叙述者，无法反映模型实际的计算过程。所以我们正在思考的一个大问题是，当我们开始处理一个问题时，就像 Rafa 说的电催化剂那样，我们实际上不知道什么是对的、什么是错的。我们应该在多大程度上依赖思维链，而不是直接相信实验、相信验证器、相信模拟器作为最终的真相？
所以，你知道，Lila 不是一家生物科技公司。Lila 在这方面其实相当独特，我认为。
你知道，我一直参与生物技术领域，也帮助创办过生物技术公司。通常目标就是快速推进到临床试验阶段。没错。所以你要开发一项资产，搭建一个平台，以便在进入哪个领域时拥有选择权。但一旦你有了临床资产，就把所有资源投入到一种"医学诱导昏迷"状态，通过临床试验，如果顺利，其他事情才能继续推进——所以我们把那个选项拿掉了。在Lila，模型本身才是价值所在。从这个意义上说，我们更像是一个Neo Lab，试图找到一种新方式来推进基于核心推理LLM模型的能力。甚至不是实验室平台？实验室平台是token生成器。没错。那是数据生成机制，最终成为Lila的护城河——随着它持续扩展，我们能够生成的数据量，无论是单位时间还是单位面积，都会增加，然后反馈给模型，让它更智能，再建议下一步实验。所以我们真正专注于让这个核心模型尽可能高效和智能。我们可以讨论这如何适用于不同的商业策略，但最终我们感兴趣的是创造这种新型AI模型。
我想引用OctantBio的Sri Kosuri，他几周前发了一条我很喜欢的推文。内容是：机器学习在药物发现中的商业模式是什么？因为如果你需要数据来训练模型，但如果你已经有了数据，那还要模型做什么？
这在范围狭窄时是成立的。也就是说，在某个特定的科学垂直领域内，这是对的。我用的类比是：如果你回到10年前，试图创建一个编程助手模型，你只会得到编程数据。你不会得到莎士比亚诗歌或墨西哥肉卷食谱。事实证明，当模型能够在更广泛、更深入的数据上训练时，会产生溢出效应。所以我们核心的赌注是，这在科学领域也是成立的——如果模型在越来越广泛的数据集上训练，那么在特定领域所需的数据量就会减少。在某些情况下，如果该领域与模型之前见过的内容相邻，数据需求甚至会降到零。所以这里有一个数据效率的论点，表明拥有一个能生成广泛科学数据的通用平台是有意义的。我还要提一下，我们显然也在使用已经是商品化的东西。所以我们使用公开数据集、模拟器，而实验平台是对这些现有商品资源的补充。
这让我想到一个问题——有一个"适用域"的概念，你有不同的尺度，不同的尺度会产生完全不同的信息类型和实体之间的关系，对吧？所以有量子领域、化学领域、还有各种生物领域。我对跨领域方法的一个担忧是，这些领域之间真的存在迁移吗？而墨西哥肉卷食谱和象棋问题有一个共同点，那就是它们都是用语言表达的，而你几乎有一个完全独立的——甚至不是语言，对吧？那是完全不同的模型。在这些领域之间？
人类科学家在所有那些领域工作，对吧？他们主要通过书面语言使用工具相互交流。我认为存在一个共同的推理过程，让人能够解决每个领域的问题。所以我认为这种逻辑也适用于我们正在训练的推理模型，它同样使用工具，能做数学、能写代码，但所有知识都存储在一个地方。
对我来说，领域迁移的一个经典例子是复杂性理论和量子引力，对吧？现在很多量子引力理论基本上认识到两者背后的数学是相同的。你有这种"哦，这个领域实际上适用于那个领域"的例子吗？
我们构建了一个包含10万亿科学token的推理数据集，这些推理轨迹在生命科学、化学和材料科学中经过实验验证。我们发现这个通用模型往往能击败领域特定模型。很难指出模型里具体是什么让它——它意识到了哪些联系。但显然，在科学领域看到更多数据，在样本对样本的比较中，能胜过领域特定的推理模型。
未来科学的语言，对吧？
嗯，所以，我不——
是的，化学的特征是——
是的，也许吧。我不认为这是必要的。我不认为这是科学超级智能的必要条件。我是说，Demis Hassabis上周有句话，对吧？他说可能不值得提炼所有那些存在于……的方式，或者有些数据模态与语言截然不同。Andy总是告诉我，Rafa，英语是图灵完备的。所以你可以用英语表达一切。
是几种图灵完备的语言，但没错，没错。
所以我同意这一点。可能有些地方因为性质原因更高效，我是说，你做过几何深度学习，对吧？我认为对于几何，也许，我称我的同事Tess Smith，我觉得几何是那种人们认为问题性质更适合其他架构的领域之一。所以如果我们需要调用蛋白质折叠模型或等变扩散模型来生成晶体结构，那是可以的。所以我认为未来科学与我们交流的方式肯定是语言。模型需要一直用英语思考化学，也许是的，也许不是。化学家并不是用英语思考化学的。
好吧，有道理。他们用英语谈论它。是的，没错。
我同意Raphaël说的所有话。基于token的推理结合工具使用非常强大。我认为我们主张的是，在科学领域，我们才刚刚触及表面。我们不是要把领域特定模型提炼成一个推理模型。它可以高效地使用那些工具。所以推理（通常用英语，也用Python等）与工具使用的结合非常强大。在科学领域，我们还在早期阶段，探索能把它推进多远。我明白了。
那么你能举一些你们正在进行的代表性项目例子吗？
实际上，在你回答之前，我意识到我们还没解释你们不只是做生物，对吧？不只是技术生物。所以我认为这是个很好的切入点。是的。所以不只是技术生物，你们在科学方面做什么？科学？
不。嗯，也许，是的。我们训练模型的方式是，它涵盖生命科学，包括DNA、RNA、蛋白质、细胞、小分子、不同类型的化学和不同类型的材料。这就是我们现在的范围，诚然，这是一个很大的范围。
材料本身也不只是——它和生物领域一样广泛。没错。
我们可以举一些例子。如今我们能制造薄膜、粉末和量子点。我们有一种很精巧的量子点。各位熟悉量子点吗？它是某些电视中使用的发光技术，你需要精确控制，让它们达到完全相同的纳米尺寸。你制造的纳米尺寸决定了它们会发出什么颜色。你需要最纯的红、最纯的蓝和最纯的绿，才能为你的电视打造出鲜明丰富的色彩调色板。而且你需要让它们高度均匀，全都保持一致。否则颜色又会变得混杂。所以我们有一个精巧的演示，用的是我们的自动驾驶实验室。我们请来访者挑选一个波长，也就是他们希望量子点在进入办公室时发出什么颜色。然后我们启动机器，模型开始响应。有时我们甚至会加入模型从未见过的新化学物质，就为了看看它会如何应对。机器在运行，等到大约一到一个半小时的参观结束时，机器可能已经制造出一代或更多代量子点，这些量子点往往能接近——否则我们也不会这么做，对吧？——往往能接近人们建议的颜色。所以我们有能力制造大量材料。我们可以配制液体、聚合物和软物质。我们非常关注能源和可持续性，因此我们拥有相当强的电化学能力，涉及化学转化与电力（作为可再生能源）之间的相互作用。我们关注传统催化，也关注材料的机械性能。所有这些都整合在项目中，我们制造催化剂、高性能涂层（用于防腐或航空航天高性能机械应用）。过去几年里，我们与外部合作伙伴一起，启动了多个我们之前没做过的快速项目，涉及从粘合剂到冷却液等领域。所以我们越来越能够在开放式的化学和材料科学领域快速启动令人兴奋的发现。
你们有没有，比如说，量子点和蛋白质设计之间的某种联系？
是同一个平台在做这件事。是同一套能力。所以有一个共享的基础设施，让我们能在同一个屋檐下完成所有这些事情。如果没有这种连接纽带，我们就没有能力去做所有这些事。我们有没有做过类似 MechInterp 的事情，就是深入模型内部看看，比如电催化剂方面的洞察是否能为其他领域提供信息？我们还没有深入钻研 MechInterp 这方面。但我们看到，随着平台越来越成熟，我们执行这些项目的能力也变得越来越快。
那么 LMP 是不是你们工具包中很常见的东西？是不是因为有了它，才使得你刚才提到的大部分想法成为可能？这在生物领域当然说得通，但我对生物的了解远多于材料。这是你们实验室工具包中的一个共同主题吗？
AI 科学工厂的能力越强，我们就能越快地去追求新的目标产品特性和新的激动人心的机会，因为模型已经准备好做更多事情，实验室也能做更多事情。我们的科学家在整合新能力方面变得更灵活、更快速。添加新仪器的速度也随着我们拥有更多仪器而变得更快。所以这可能与我们公司的类型有关。这里有超大规模扩展的影子，软件层面的扩展背后有硬件层面的扩展支撑。我们拥有数万平方英尺的实验室空间，配备几十到几百台仪器，这给了我们快速行动的广度。你们最近请了我的同事 Heather Kulik 来做播客。其中一个你们看到的领域是脱附。我想听众对这些材料应该很熟悉，我就不多介绍了。这些材料是由分子与金属的相互作用构成的。结果发现，我们的模型之前在小分子药物发现上训练过，它学到的所有关于药物发现的化学知识，都迁移过来用于推理这些金属有机框架材料——我们可以用它们从空气中捕获二氧化碳或过滤氨。我觉得这非常迷人。
我经常看到人们做机器学习，训练一个大数据集，然后迁移到新领域，但往往迁移量很小。确实如此。
嗯，那么你们有没有一组——我不知道该怎么说——"原色"之类的东西，你们把它们组合在一起，常常就能得到实验结果？
在生物学方面，明显的候选是：核酸能力、无细胞表达，以及我们关心的下游检测。所以有一些核心能力，然后我们可以从中衍生出阶乘级别的各种不同操作。
在材料方面，我认为是配方，配方。对。这甚至不是——我不知道该不该说"平凡"，但它太常见、太重要了，以至于一开始我们并没有把它放在最聪明的优先位置。我们一开始想的是更炫酷的东西，但结果发现，工业界和世界其他地方很多人都关心配方，也就是混合液体和粘稠物质来制造其他粘稠物质。但这包括润滑剂、脂质纳米颗粒、除臭剂。消费品、工业产品和医药中所有这些东西，比如凝胶、皮肤移植，都源于这种混合粘稠材料的过程。这是我们正在培养的能力。这是一个非常常见的平台，随着我们与更多人交流，它越来越频繁地出现。
有意思。我在考虑扩展时经常用一个经验法则：每当系统规模扩大一个数量级，你面临的问题集就会彻底改变。你们选了最难的两个问题，对吧？材料和生物。你们也做其他事情，但材料和生物是出了名难以上市的，对吧？你知道，10年、15年的时间跨度。原因在于，尤其是材料扩展。那么你们是怎么考虑这个问题的？你们是说我们只做发现，还是说我们会最终实现商业化？比如，什么——
我是怎么想的呢？我停止做学术讲座前准备的最后一讲，题目叫《材料与化学中规模化的苦乐参半》，原因就在于此。事实证明，在AI领域，规模化是好事，因为它为你指明了需要做什么的路线图。而在化学与材料领域，规模化却是个棘手的问题，因为最终只有那些能够规模化的东西才真正重要。所以我们对此非常清楚，对吧？我们的产品团队、实验室团队，大家都明白。比如在量子点的例子里，我们一直能用同一个配方，从个位数毫升做到将近一升。所以有些地方，我们目前的能力已经触及规模化和技术成熟度。我们正在构建系统，让它们在做实验时就能推理出未来什么会变得重要。这将在我们的稀土3或铂族3催化剂中体现出来。问题的本质恰恰在于，我们必须能够实现规模化。所以这是有供应链意识的。当我们启动第一个实验时，我们已经读遍了所有论文，还有一个技术经济分析智能体随时待命，为我们做的任何事情进行技术经济评估。归根结底，我们不会去做临床试验，也不会为某个炼油厂用的特定工艺建中试装置，对吧？到了那个阶段，我们会与客户合作，或者，如果我们发现了某个极其出色的东西，甚至不需要任何指导，就直接拿去卖。但通常我们会进行交接，就像我们会支持客户的疗法发现一样，我们也会在客户面临的痛点问题上支持材料创新。而这些也都与规模化有关。
规模化。你们目前进展到什么程度了？
在生命科学方面，嗯，我想我同意Rafa说的所有内容。思考人们会如何使用这个平台，或者我们正在构建的东西，更像是一种面向科学的云代码式工具。早期客户被我们吸引的原因之一是——我们不是一家体内CAR-T公司。现在有很多体内CAR-T公司，非常热门。我们确实看到，六个月前，Capstone以超过20亿美元被收购。如果大家不熟悉的话，体内CAR-T是一种非常新的心脏治疗模式，以前用于血癌，现在越来越多地用于自身免疫疾病。我们内部确实拥有做体内CAR-T所需的三项核心能力：结合剂设计，显然我们能做；LNP配方；以及mRNA设计。
先让大家知道CAR-T是什么。对，这真的很——
不，我喜欢这个话题。太酷了。我能讲讲CAR-T吗？好，我们来聊聊CAR-T。CAR-T从80年代末或90年代就开始研究了，大约在2010年左右真正火起来，用于癌症治疗。以前的做法是，提取一些T细胞，然后在上面工程化一个所谓的嵌合抗原受体，告诉T细胞要去杀死哪种细胞。
所以你基本上是在改造人的T细胞，把它们取出来，改造一下，让它们表面有这个奇怪的抗原受体，用来寻找并摧毁目标。
嗯，通常他们使用一种叫做CD19的蛋白质，这种蛋白质优先在B细胞上表达。当B细胞发生恶性病变时，它们会引发血癌和自身免疫疾病。这样做几乎会清除一个人全部的B细胞库，会有很多附带损伤，但本质上你是在告诉T细胞去杀死什么。这个技术大约在2015年开始真正火起来，但当时既昂贵又缓慢。你得提取一个人的T细胞，然后进行工程化改造。每次输注大约要40万美元，而且——但它仍然是许多类型癌症的奇迹疗法。这有点跑题了，但有个叫Emily Whitehead的孩子，在费城儿童医院接受治疗。她是首批通过CAR-T治愈儿童癌症的患者之一。她本来要被转去临终关怀，结果接受了CAR-T治疗。再稍微跑个题，她差点因为这次CAR-T治疗的初期反应发高烧而死。她能活下来，唯一的原因是治疗她的医生有个患小儿关节炎的女儿，知道某种特定抗体可以抑制她对CAR-T的IL-6反应。所以，这里面有很多关于AI for science的东西可以挖掘，在那个特定案例中，所有机缘巧合都必须凑齐才能成功。然后，如果你把同样的骰子再掷一千次，可能就不会再遇到那个医生，在那个时刻，恰好知道该给她用什么抗体，让治疗从致命变成治愈。嗯，所以，这些就是我们真正想要自动化的那种机缘巧合。总之，它太便宜了，人们后来意识到，只需一次输注。如果你取一段编码嵌合抗原受体的mRNA，把它放进一个叫做脂质纳米颗粒的脂肪球里，再在这个脂肪球外面加上一个CD8靶向部分，然后给病人输注，它就会去结合T细胞，被吞入，脂肪球溶解，mRNA释放出来，嵌合抗原受体表达并呈现在T细胞表面。
所以你就是在重新编程T细胞，让它们表达这些奇怪的抗原，简直就是在编程生物学。
然后T细胞就会去执行它的任务，清除任何带有CD19的细胞。嗯，所以，恶性B细胞能解释很多血液癌症，也能解释很多自身免疫疾病。B细胞通常会针对自身抗原等产生抗体。所以最近，6个月前，经过大约6年的研究，从一个诺贝尔奖得主的实验室衍生出来，加上大约1亿美元的研发投入，我们看到了——这音乐不错，老兄。嗯，我们看到了针对自身免疫疾病的体内CAR-T疗法中一些最令人信服的临床前数据。这是由一家叫Capstan的公司完成的。他们被艾伯维以大约21亿美元收购。所以，在Lila，我们之前一直在独立研究这三件事。嗯，大约6个月前，Lila内部一个由两三个人组成的团队尝试看看，我们能在体内CAR-T方面做些什么。我们一直在研究的是mRNA设计。所以，像大多数RNA药物一样，你能调节的最大变量是表达峰值和表达持久性。也就是说，当你给人接种疫苗或其他mRNA药物时，每单位mRNA能产生多少蛋白质？我们开发出了一些非常强大的UTR（非翻译区），它们位于蛋白质编码区两侧，决定了这些表达特性，效果大约是Moderna和辉瑞参考序列的10倍。在6个月的时间里，我们在非人灵长类动物中获得了体内数据，其中B细胞清除效果明显优于Capstan的数据，而且持久性以及我们观察到的所有特征都显著更好。拥有更多的CAR表达可能是改善CAR-T疗法最有效的方法之一。表达的受体数量决定了T细胞在遇到坏细胞时与之结合的可能性。而T细胞本质上就是连环杀手，它们会杀死一个细胞，然后转向下一个，再下一个。它们能持续多久取决于CAR表达的持久性。再说一次，我们不是一家CAR-T公司。我们是科学极客。我们喜欢做酷的事情。所以我们在大约6个月内达到了这个验证点，甚至到了可以考虑为新的临床资产提交IND（新药临床研究申请）的阶段。但我们不会这么做。我们不会进行临床试验。那会占用全部精力。但一些在Lila待了很久的人认为，这本质上可以做成一个只有两三个全职员工的初创公司。几个拥有领域知识的科学家，结合模型和平台，可以在6个月内完成通常需要5年的生物技术工作，而总投资只需10%。所以我们现在考虑的很多商业关系，本质上就是零全职员工的初创模式：有人带着一个想法过来。他们说，你知道，如果市场上有一个CAR-T能结合两个靶点，如果是双特异性抗体，或者有这些其他特性，我知道这个产品能填补市场空白。所以我们很多商业合作实际上就是虚拟初创公司，在Lila上运行，有人带着一个定义明确的问题过来。他们不知道如何实现。可能还涉及靶点识别之类的事情，但他们可以在更短的时间内、以更低的成本有效地运行整个项目。
所以这些就是，合作伙伴来找你，说，我有这个想法，我不想自己搭建，不想建实验室，不想招团队，我只想把它做出来。对。所以可能是一个大学里的学者，说，我有这个想法，我做了一点验证，我觉得它能行，我能做吗，我能和你们一起待6个月把它做成吗？
是的，我觉得，这么想是对的。嗯，从合同上讲，会有一个平台使用费，我们需要支付试剂和系统运行的费用，还有一些管理费之类的，然后还有一些收益分成。这是一个可扩展的模式，我们可以服务——随着平台变得更好，我们不是做几十个这样的项目，而是可以同时做几百个、几千个虚拟初创公司在平台上开发。这样我们在短期内就有收入来支付开销，同时我们还能与那些决定和我们一起构建的人分享收益。
这太棒了，因为我们看到的是，人们越来越倾向于去掉所有多余的基础设施，利用自动化，专注于想法本身。
我的想法是，我们大多数人进入科学领域是因为好奇，想回答问题。你知道，我受过计算机科学训练，我喜欢通过软件来回答问题。但如果我必须用二进制编程，我会觉得乐趣少很多。有高级抽象，越来越高级的抽象——以前只有Python和Java，现在有云代码——来帮我更快地回答问题。打个比方，科学家们现在还在用二进制编程。他们有一个想回答的问题，必须把它编译成实验方案，然后去做体力劳动，通过移液来让手腕得关节炎——这相当于用二进制进行科学编程。所以我们想帮助科学家提升抽象层次，这样，也许你的想法行不通。大多数临床试验都会失败，但如果你不用同时做体力劳动和一些脑力劳动来把所有东西放到正确的位置，你至少可以更快地失败。
你知道，大多数临床试验都会失败，从IND到获批的临床试验成功率大概在5%到8%之间。所以发现本身并不是瓶颈。我感兴趣的是，你刚才提到了经济建模代理。我记不清你具体怎么称呼它了，但，嗯，我觉得那才是需要解决的问题。你怎么看这个？这个问——
你是指临床试验的成功率吗？
不，是支撑生物和材料领域规模化发展的经济模型。通常这个过程非常非常庞大。
比如一旦你有了你认为最终的东西，比如IND或开发候选物。对。对于材料来说，通常还需要大约10年的临床试验，或者在材料科学领域，需要资格认证才能把它变成产品。而瓶颈往往在于规模化生产、监管、安全性等问题，这些通常很难提前回答。所以每次你这么做，都像是在掷骰子。而处理这个问题的典型方式，本质上就是投资组合模型。对。从融资角度看，唯一能赚钱的方式就是在一定程度上进行风险校准的规模化。对。听到你能这么快地做这些事情确实很令人兴奋，但这对更大的问题有什么帮助呢？即使你立刻解决了这些问题，那也只是整个问题的10%。
美国生物技术输给中国生物技术的原因不是创新问题。监管框架也需要跟上，以支持快速临床试验。FDA 最近在这方面有所动作，包括在某些情况下需要提交的临床前数据，以及我们如何运行和监控试验。所以，认为某一家公司，甚至任何公司，能单凭一己之力改变这一点，都是不现实的。这必须与监管机构协同推进。然而，临床前成功概率的微小提升却至关重要。从投资组合理论的角度看，这会让投资更具吸引力。这意味着，如果更少的药物失败，预期上药物就能更快地惠及患者。所以我想说，这正是我们目前关注的重点：一个系统——比如这里受益于百万种独特mRNA设计以最大化已知能转化为治疗益处的因素——所创造的药物，将显著改变那些临床前概率。这仍然，你可以说，就像掷一枚有偏向的骰子总比掷一枚公平的骰子好。我们只是想让这枚骰子尽可能偏向有利结果。
我一直在思考的问题是，如何实现转化（translation），对吧？以及在材料领域中的类似概念。我们该怎么命名它。我真正想看到的是一个模型，它能思考这些因素——并进行推理，且非常擅长说：我把设计筛选到我认为能通过三期临床试验的那些。
没错。我妻子是生物技术领域的转化科学家，所以她经常提醒我：你们应该用AI做转化科学。是的，从某种意义上说，这也是我们听到的共鸣，尤其是在材料和化学领域。我们的工具可以调用过程工程模拟器，计算出应该使用多大的管道直径和哪种热交换器，才能让工艺放大在经济上划算。所以，Steve，也许我们还没法在测量之前就加一个过滤器，但能够对下游因素进行推理——这有点像转化AI要做的事——就是现在就开始推理哪些因素会重要。因为当你之前说，一旦确定了I&D（创新与开发），你就被锁定了，这在化学方面确实如此：你选择的分子、序列。当然，之后你还要选择给哪个人群用药，以及如何衡量成功，对吧？我想说——我不做临床前工作，但在化学和材料领域，这正是我们现在试图通过验证器和可访问的数据源来灌输的行为类型，这些数据源要么是有人已经思考过，要么是物理规律允许，要么是我们现在能测量足够好的代理指标来预测后续结果。
需要说明的是，所有这些我们内部经常讨论。我们已经快要陷入病态的范围过大了。我就想说，再多给我点。但绝对的是，我们相信，随着模型变得更智能，随着它们消化clinicaltrials.gov的数据，随着我们与制药公司合作并接触到那个“饼干罐”，这些概率将发生显著变化。在生物制造方面，如果能获得良好的制造工艺和放大工艺，我们认为模型也能在那里做出贡献。我们只是选择将大量商业和合作活动集中在目前我们认为可以解决的科学前沿上。但目标是不断突破。
如果让我总结，这有点像工具调用（tool call）。
是的，一切都是token。一切都是工具调用。没错，token和工具调用就够了。
但还有你提到的推理机制，比如那位治疗IL-6抗体的医生，那个人是从亲身经历和阅读文献中学到的。既然我们相信我们的论点——广度带来深度——那么通过用模型做更多事情，我们会在这些方面变得更好。
在许多反事实的世界里，那位医生当时并没有治疗Emily Whitehead，而CAR-T可能看起来——它可能只是Eroom定律中又一块墓碑，代表又一个失败的药物。所以我确实认为，那件事的成功概率从2%变成了98%，仅仅因为那个人恰好在场。所以如果我们能把这一点操作化，你就能大幅改变很多概率。是的。
所以这是一个很好的例子，说明拥有非常广泛的科学信息知识有多重要。是的。
这几乎就像Google，因为那个药当时只用于小儿关节炎，另一个非常小众的医学领域。我明白了。是的。
所以你们团队里有Ken Stanley。是的。他写了那本著名的书《伟大不能被计划》。是的。他在机器学习研究中非常强调开放性和偶然性。那么，开放性在Lila扮演什么角色？哦，是的。
首先，Ken非常棒。对于那些不了解的人，Ken开创了机器学习和AI的一个领域，叫做开放性（open-endedness），我认为这可以理解为机器创造力。比如，我们如何让模型进行开放式探索，并且对什么有趣、什么值得深入有品味。如果你只是一个擅长考试的人，你不可能拥有科学超级智能。所以，如果你想想强化学习在做什么，即使在大规模下，它也是在以一种冷酷的、瓦肯人式的、Spock式的方式回答问题。但你大概只会以有限的方式认为那个模型非常有创造力。所以Ken在Lila创建了一个开放性团队，负责处理推理挑战的外循环或元部分。也就是说，我们如何让模型不仅能回答难题，还能首先提出有趣的问题？这就是Ken的任务。过去几个月他一直在组建一支世界级的团队。他们现在正在厨房里“烹饪”。我认为到今年年底，我们会有一些Ken团队的酷东西可以分享。现在我们来看一段实验室的视频。这里会展示几样东西。好了，那可能是一个封膜机或封口机。当你把板子从一个仪器移到另一个仪器时，里面显然有液体。大部分生物学都是湿的。所以你会贴上这些贴纸。那是一个板子正在被封膜。好了，开始了。这里它正在拿起——是的，这是在液体处理机内部。我们等一下，等镜头拉远一点，这样你就能看到PCI总线，以及一些机器人设备。
所以那是液体处理机。
这就是磁力——对，这就是平面电机系统，台面通过磁力悬浮。这是PCI总线，传输层连接所有仪器。你可以看到那些工作台，所有仪器都放在上面。机械臂抓起样品，现在要把它转移到另一个台面上，继续下一步。这里需要做一些交通控制，比如它们实际上会停下来等待轨道拥堵缓解。对。嗯，这是PCI总线的远景镜头。同样，这一切都完全受控，完全自动化。这是一个材料科学的例子。
这是一个物理科学的例子，对，它把我们带回到规模化的问题上。这里我们正在以放大形态制造氢催化剂——这是一种含有纳米颗粒材料的墨水。那是一个旋涂机，从它旋转台面就能看出来。然后这是一个机械手，在移动小块催化剂进行测试。这个漂亮的紫色90年代霓虹风格的东西，叫做磁控溅射机，我们让原子从源材料飞出，沉积在腔室另一侧，形成非常薄的原子薄膜，可以根据3到4个源材料上的元素，制造任意元素组合。我们只需将它们气化，让它们飞过腔室，制成这些材料利用率很高的薄膜。我们可以用非常少的材料完成，这是我们在催化、腐蚀、机械性能等许多应用中快速设计、测试、再设计、再制造的主力工具之一，因为这种形态非常方便。
液体处理器和其中一些机器，大部分是现成的。然后你们就设计出了这种适用于许多机器的形态，无论是材料科学还是生物领域。
量子点就是一个很好的两者结合的例子。实际上，我们重新利用了一个液体处理器来进行量子点的合成与设计。设计。我认为这说明，用20、30、40、50台仪器就能走得很远。关键在于它们必须放在模型能使用的平台上。对我来说，加入Lila后一个很大的启发是——因为我在来Lila之前并没有真正做过实验室自动化——这并非我原本期望的那种自动化。很多自动化是点对点的自动化，比如液体处理器旁边挂着一个平板，可以输入宏指令。那种设备本来就不打算，有时甚至故意设计成不与其他设备通信。所以我们做了很多工作——我开玩笑说，我们拥有生物学领域最大的保修失效收藏，因为我们编写了自己的自定义驱动和固件，以便对许多仪器进行底层精细控制，让它们能够相互通信。所以那段视频很酷，因为你看到了磁悬浮台面。但你看不到的是那个将所有东西缝合在一起的自定义软件封装。这很大程度上归结于非常棘手的软硬件接口挑战。有些机器甚至还在运行Windows 95。想想你怎么自动化那玩意儿。实际上，我们用一个视觉语言模型来控制一台Windows 95机器。对，因为那是唯一能自动化它的方法。
我刚想开玩笑说用机械手指按按钮。
对，你开玩笑，但说真的，我们确实那么干过。我们真的用机器人去按屏幕上的iPad按钮。我觉得还有一点要提的是，这仍然是为人设计的自动化。仪器放在大约齐胸高的工作台上，因为假设有人需要伸手进去维护或加试剂。所以这是V0、V0.5版本，我们认为实验室自动化会是这样。因为我们决定垂直整合并拥有软硬件栈，V2会完全不同，我们将能集成更多东西。这在材料科学领域已经发生了，因为那些能力根本不存在。我们经常用XY坐标来思考实验室。随着集成，我们还会加入Z轴，因为我们可以堆叠东西。到时候我们考虑的是每单位体积的token数。但我们认为未来的实验室不应该让人轻易走进去。它应该像一个数据中心，你进去看到一排排服务器机架。后面有空间放维修推车来维护节点，但应该尽可能密集，同时也尽可能节能。所以，回答你的问题，我们现在用现成的设备是因为起步时这样合理。但随着时间的推移，它们的形态几乎肯定会发生很大变化。
我明白了。我只是有点惊讶，你们能设计出一种通用尺寸的托盘，满足大部分问题的需求。
嗯，这只是逆向推导。96孔板是实验的基本单位。在实验室自动化中，我们现在也把材料科学做成96孔形态。不是所有东西都适合那种形态，但采用96孔或384孔板格式能覆盖的范围——80/20。80/20。对。对。
你可以看到有些沉积材料的样品更大。所以我们仍然用板状来搬运它们。但样品的数量可能更少。我觉得有些可能是12个，4乘3。这也让我想到你们之前问的规模化问题，以及当你规模化时，问题会变得不同。我认为我们公司共同期待的一个问题是，如何编排和调度一个数据中心规模的AI科学工厂。当所有实验可以同时运行时，你如何考虑物流和编排，移动所有这些样品，连接所有仪器，为我们的客户创造最大价值，为我们的模型提供最多信息。这才是令人兴奋的部分。那个问题会和我们现在考虑的其他问题截然不同。
我们考虑的是，Rafa说的，在上面加一个类似Slurm队列的东西，让你全局最大化系统的吞吐量。但同样，用那些相同的抽象概念来思考吞吐量、调度和编排。随着系统变得复杂或规模变大，最大化吞吐量的复杂性也会增加。所以如果你是一个约束满足问题的爱好者，我们这里就有一个最酷的问题可以思考。
你们考虑规模化时，是像那样一个集群然后直接复制粘贴吗？还是说，我所有的液体处理器、旋涂机等分布在实验室的不同区域？
目前我们拥有的基本上是一个大型全连接图，这种结构无法无限扩展。比如，你使用的某些材料会释放有害气体，出于安全原因需要隔离。我不确定未来科学集群的具体配置和布局，但我觉得它上面的仪器数量可能比你想象的要少——你可能觉得需要成百上千台，但实际可能更少。不过，我们确实在像规划数据中心那样考虑它的扩展方式：它是一栋多层建筑，占地数百万平方英尺，像人们说的那样，是一个无人值守设施。它全天候运行，实时生成数据，你需要达到数据中心那样的可用性。这非常困难，简直是极其困难。但这就是我们试图反向推导的终点——为了实现这个终点，我们需要解决哪些问题。
这又回到了我之前关于实验运行时间的问题，因为扩展意味着不同的事情。其中一种是实验设计，它本身是内在可扩展的，但可能以信噪比或其他因素为代价。另一种是快速高效地获取广泛数据，但有一定成本；或者扩展意味着降低通量，但大规模并行化。总的来说，我会把它们看作两类不同的问题。我不认为同样的策略能同时适用于两者。那么作为科学家，哪种扩展对你来说更重要？
我认为轮次迭代比那种广泛、高度复用、噪声很大的方式更重要。
迭代时间确实是关键——没错。是的。好的。那么这是否限制了你想要关注的领域？比如，如果我们尝试解决一个新问题，我们会问：这个问题能否通过快速迭代来解决？还是说答案会是：通过大规模复用但需要一个月周转时间的方式来扩展？
并行化和复用是有些不同的，对吧？
是的，没错，这是另一个点。
我会说，我们喜欢混合池。是的，混合池很好，因为它既快又广。那么混合池适合什么？比如DNA编码库，你可以用——
每个孔里有一堆乱七八糟的东西，实验做完后你可以把那些东西分拣出来。
某种形式的实验设计允许你同时进行1000、100万或10亿个实验。实验的设定方式使得读出结果能选出优胜者。所以你在一个板子上尝试100万种东西，得到一份读出结果，或者1000份读出结果对应1000个优胜者。复用则不是这样。
有个笑话是，所有生物技术不过就是把任何你想要的读出结果映射到NGS序列上。是的，没错。加标签，复用，搞定。你就能得到大量数据。
另一个论点是，如果一个领域的标准是一个月，而我们只需要4天，那么4天的学习周期就很棒，因为它能真正推动该领域的发展。这就是我们的自动化工程师和团队在思考其他测量方式的地方。在冷却剂和催化领域，我们制造了不同的仪器来测量不同的属性，结果发现这些属性的响应速度快了1000倍。比如在吸附方面，我可以简单说一下。在气体吸附中，人们通常测量——他们给一定量的气体加压。对于我提到的从空气中吸二氧化碳的MOF和COF材料，根据理想气体定律（如果你还记得高中知识），你知道往小盒子里放了多少气体，然后等待气体被材料吸收。你检查压力，从压力差中知道有多少气体进入了材料。然后再次加压，看看又多了多少。如果这听起来很慢，那是因为它确实很慢。这叫做BET方法，每个样品大约需要一天，而且很难并行化，因为需要另一条气体管路、另一个容器。或者你可以从其他可并行化的仪器中获取替代测量值。这就是我们现在在实验室里构建的东西：我们不测量压力，而是测量另一种我们关心的属性，这种属性能反映出压力测量本应告诉我们的信息，但我们可以在大约一小时内用96孔板处理96种金属有机框架。所以速度大约快了2500倍。这给了我们一些发挥创造力的空间，但一小时相对于其他读出方式来说仍然很慢。电化学方面的其他东西也许我们能在几分钟内完成，但现在我们比之前的方法快了大约1000倍。
我认为你的问题的答案还取决于我们认为模型是从零开始、还是已有一定基础、还是已经相当熟练。如果我们关心的某个领域或问题，模型权重中明显没有相关知识，那么我们可能倾向于用一次大规模但缓慢的实验来引入知识。如果我们认为模型在该领域已经相对熟练，那么我们会更倾向于快速串行迭代周期。所以两种方式我们都会采用。关键在于，随着模型性能提升，样本效率也会提高，因此轮次迭代带来的复合收益会超过那种大规模、有噪声但广泛的数据集。
你有没有担心——我只是随口说说——你会很快饱和掉那些你能解决的问题？是担心还是希望？两者都有可能。也许你正在建立这些系统，现在因为它们是新的，所以有很多未开发的领域。你可以去解决所有适合高通量实验的问题。这样可能持续几年。然后突然之间，一切都变了，你不得不彻底改造你那价值数十亿美元的系统。
说实话，我希望这是真的。我希望两年后我们不再需要测量结合KD。如果我们不用再做那个，我会非常兴奋，因为模型已经基本掌握了结合关系。
所以你认为最终模型会达到知道如何做那件事的程度？
我们再回到PCI总线的话题。实际上，我们真正想做的是缩短新仪器接入平台所需的时间。我们希望这个过程能像USB一样简单。我不知道你们年纪多大，但像我小时候，拿到一个新设备，驱动都在软盘上，你得费尽心思才能装好驱动，两天后打印机还只能勉强用。对，差不多就是那种感觉——我记得。没错。如果你是Linux硬核用户，今天还能体验到这种感受。你的音频驱动还是不好使。现在生物学和物理科学领域，新仪器接入平台的感觉就跟当年用软盘装驱动、对着说明书折腾一样。所以我们希望统一平台能实现的一个目标，就是让仪器接入时间最终趋近于零——制造商提供规格，模型读取它，正确的API被抽象出来。我们正在和一些仪器供应商合作，让这个过程更简单。但我认为，我们思考如何调控系统的方式，很大程度上受限于当前的做法。所以我们希望，两年后，统一平台能让仪器接入从30天的任务变成30分钟的事。当然，这很难做到，也可能出错，我们未必能实现。但这就是我们指向的未来——目前我们已经能很快地替换现有仪器。比如，如果需要把Hamilton换成另一种液体处理器，这个替换已经能很快完成。所以我们有理由相信，新仪器接入会随着时间推移变得更快、更好、更可靠。我们不想在2036年还做2026年的科学。所以我们希望一些仪器能被淘汰，或者测量方式会改变。否则，我们和其他人对未来十年进步速度的很多假设都会是错的。它们错了。它们将会是错的。
而且我们已经从仪器供应商那里受益了，对吧？我希望我们面临的问题是你描述的那种——现有仪器不够用来做科学。那才是对仪器供应商的基本要求。我们现在拥有的仪器，其能力相当于十年前的束线。我们今天能做的测量，十年前你得向联邦政府申请凌晨两点的时段，在某个地方熬夜几个晚上，用非常亮的中子或X射线源来测量。而今天，供应商制造的仪器可以放在量子点或蛋白质表达设备旁边。所以，我希望那种终极状态是理想但非常不可能的。而且我相信，我们现有的仪器还会带来新的科学问题。
我们之前的嘉宾也提到过这两个主题：首先，你买的任何设备都不是为高通量AI科学设计的；其次，每天都有新的科学设备出现，它们打开了五到十年前不可能实现的新领域。
比如在线核磁共振。有很多表征、小型化、更高分辨率、更亮的光源，这些都是变革性的。而且它们与我们正在做的自动化高通量科学非常契合。
我们正在搬进剑桥市阿勒维夫区的一个设施，这是一个3D渲染图。占地10万平方英尺，我们将采用自主移动机器人作为部分运输工具。你可以看到一些效果。
我们会把它放在节目笔记里。
好的，稍微换个话题。你们提到有10万亿个token的科学数据堆。当我听到10万亿时，第一反应是，这听起来很多。这相当于3万个人类基因组，测序成本大约300万美元。大约是EVO、Nucleotide Transformer等大型基础模型数据量的两千分之一。所以从某种意义上说，这是大量数据。从另一种意义上说，又不多。而且不是所有token都一样。我很好奇，创建这个数据集的过程是怎样的？你们的思路是什么？然后，10万亿个token里到底有多少实际有用的信息？
是的。这些token和我们计算互联网上预训练token或后训练token的方式一样。这些是——强化学习最好的理解方式是把它看作一种数据生成机制。它是一种引导模型生成越来越有价值、更好的token的方法。所以这些token是我们在Lila的许多不同科学RL环境中运行这一过程的结果，其中token混合了英文工具调用和实验反馈。它们是我们一直在讨论的准英文token，由分词器分词。这就是它们的来源。
所以你们不是一般性地对核苷酸进行分词？
隐含地，因为如果模型问关于DNA的问题，里面会有DNA token。但我们不是下载dbGaP、PDB或SwissProt等数据库，然后在序列级别分词。这些是推理token，由模型生成。
并且经过实验验证。除此之外，你们还有AlphaFold、Nucleotide Transformer，以及所有测序数据，这些都包含在内。所以10万亿个token——我说10万亿。我在笔记本电脑上看着10T这个数字。
我们认为这个数据量很重要的原因是，预训练语料库通常在15到30万亿token之间。正是在这个规模上，你会看到涌现现象。所以一旦进入万亿token量级，我们有信心这足以让模型开始掌握并展现出涌现能力。
那你们是从头开始训练模型，还是使用某个开源模型？
同样，为了保持雄心勃勃但不过分，我们决定不承担预训练的任务，因为其中的黑魔法太疯狂了。而且我们很幸运，通过OpenWAI模型获得了价值约10亿美元的计算资源。所以我们从一个已经预训练好的OpenWAI模型开始，我们的假设是，该模型已经在互联网和大量科学文献上预训练过。因此，它对已知科学知识有很好的先验，是一个很好的基础，可以在此基础上构建。
所以是在那之上再加10万亿。是的。
我们经常使用Neutron，因为我们与NVIDIA有合作。而且我认为那个模型在预训练和后训练中用了大约30万亿个token。
在生成这些推理token的过程中，你们实际上也在创建一些本身可能非常有用的数据集。你们有没有考虑过独立开源其中一些数据集，即使没有推理模型，这些数据集对社区可能仍然很有价值，而且完全不会破坏你们的护城河？
是的。我们在过程中开发了一套测试套件，包含大约 1000 个独特的科学强化学习环境，可以接入前沿模型，也可以接入你自己的模型，我们也会接入自己的模型。所以我们几乎肯定会开源其中的一部分，有些基于我们生成的数据，有些是我们为社区整理好的。因此，会有一个我们构建的基准测试的开源版本，作为其中的一部分，同时可能还会附带一些训练数据。
有意思。你们内部有没有那种——真正在实验室里运行的基准测试？
基本上就是衡量某个东西表现如何的基准——
换个说法，你们有没有实验性的自动化实验控制？
有的。我认为对于每一个问题，我们从公司成立之初就组建了多学科团队，专注于解决特定的封闭式问题。我们的工作方式始终是：从零开始，直接调用前沿模型，也就是大家开箱即用的那些模型，来对训练过程进行基准测试。所以在我们做的所有事情中，确实有一个内部基准。不过这些领域非常具体，不像 Andy 描述的那种通用且包罗万象的基准，因为它们是我们真正关心的东西、想要交付的产品、以及希望产生影响力的地方。但在所有这些领域，我们通常看到，Andy 描述的那种经过科学预训练、具备工具调用能力的模型，显然会碾压其他一切可能方案。
值得思考的是，我们试图做什么，以及这对大语言模型有何增益。想象一下一个经过实验验证的推理轨迹，你认为互联网或预训练语料库中有多少这样的轨迹？数量级为零。没错，我认为它肯定归零，而不是下一个数量级。所以，我们看到了巨大的提升——即使我们的模型在参数量上不如前沿模型，只要让它看到经过实验验证的推理轨迹，我们就能立刻看到性能提升。
Lila 是一家 Flagship 公司。Flagship 基本上是全球顶尖的生物技术孵化器之一。你们大概有 30 次成功的 IPO，或者不是你，而是你的母公司。对。包括你自己最近也参与了 Generate Biomedicines，并刚刚成功 IPO。所以，Lila 在生物技术方面非常擅长。从历史上看，它非常偏向单一资产，传统的——
Flagship 在生物技术方面非常擅长。Flagship。对。
我刚才说的是 Lila。Lila。嗯，对，Flagship 在生物技术方面非常擅长，历史上一直非常专注于单一资产。我想在最近几年，随着 Generate、Expedition、Velo 的出现，开始向更多平台型方向拓展。我很好奇，Lila 在 Flagship 的生态系统中处于什么位置？Lila 现在这种从单一资产转向科学推理的转变，是否有特定原因？更广泛的互动是什么？特别是，你提到你们有一种药物，或者说一种 CAR-T 药物，已经达到了 IND 阶段。所以你们显然有生态系统可以把它变成实际产品。我很好奇，这最终会走向何方？
好问题。我先简单介绍一下 Flagship 的背景，然后再谈具体内容。我们最初都像相同的多能干细胞，但后来各自分化。Flagship 公司的传统路径是——Generate 的历史是，我在 2018 年早期担任它的顾问。当时有一个想法，就是用机器学习来做蛋白质工程。我和 Flagship 的其他几位同事，以及一些外部人员，包括达特茅斯学院的教授 Gabor Gregorian，参与了这件事，并从 Flagship 获得了种子资金。Flagship 随后将其剥离出来。我们致力于构建技术，通常的协议是 Flagship 在 A 轮融资中是唯一投资者，而 B 轮则是外部资本首次进入的节点。如你所说，它们最终往往成为资产型公司。Generate 有一个治疗哮喘的单克隆抗体的三期临床试验，以及后续治疗 COPD 的一期试验。我认为 Flagship 的一些人，尤其是我们的 CEO Jeff Maltzin，意识到他一直在反复招聘同样的团队。你需要机器学习团队，需要平台团队。所以他认为这些公司之间有共同的 DNA，不如成立一家公司来支持所有这些不同的事情。Lila 的第一年正好是 O-1 模型发布的时候。我们所有条件都已具备，很明显可以创建一个平台来支持一种新型科学模型。早期我们不知道如何变现，商业策略是什么。但经过几年，我们有了更清晰的认识。两年前我们的核心信念是：苦涩教训是正确的。科学可以成为无限 token 生成器——如果操作得当的话。我们与普通 Flagship 公司的不同之处在于，外部投资在 A 轮之前就进来了。A 轮的主导方不是 Flagship。所以我们确实有那个血统，来自波士顿，也共享了很多经验——一家创造了 110 家初创公司的公司。Generate 是 FL5657，实际上是合并而成的。早期 Lila 是 9697。Flagship 有很长的公司创建历史，所以我们有那个网络，有那些创建了这么多公司的领导者的经验，但我们是一个如此奇怪的实体，以至于很早就走上了一条非常不同的道路。
那么，为什么当我听说你们有一种非常有前景的 CAR-T 疗法时，就像你说的，你们有 DC，为什么不直接把它授权出去或合作呢？或者这可能还在规划中？
简短的回答是，我们确实在围绕 CAR-T 疗法进行商业合作。有些是进一步开发，以改善或改变某些特性，比如双特异性抗体之类，针对新的适应症。但我们用那一个 CAR-T 疗法启动了好几个合作项目。
所以这有点像原理验证，但它本身并不完全是药物需要达到的状态。那么，只是——
明确地说，我们可以去尝试授权或合作那个特定项目。但我们发现，用它来确保多个关于进一步开发的合作更好。
我明白了。好的，好的。
你们基本上是在做某种代码开发之类的事情——
这就是虚拟初创公司的想法。公司围绕其中一个适应症启动一个虚拟初创公司，他们基本上向我们支付收入以进行进一步开发。我们还有里程碑付款之类的安排。
对，所以长期旗舰项目专门聚焦生物领域，从未真正拓展到材料方向，那这对Flagship或Lila的战略有什么影响？还是说到了这个阶段，你们已经基本启动并——
这是否也是它这么快就分化出不同方向的原因之一？我认为，从第一天起，使命的广度就明确超越了生物技术。我们需要招聘的人来自不同的圈子，必须采购的仪器也来自与Flagship通常合作的供应商不同的渠道。所以我觉得，这正是它感觉有些不同的原因之一。但这也与使命核心相关，对吧？我们不可能在狭窄的领域里让这件事成功。从定义上讲，我们希望尽可能广泛地覆盖，因为新兴行为恰恰会从这种广泛性中涌现。
而且我认为，如果你现在看看Lila的员工构成，会发现它与人们预期中普通生物技术公司的样子截然不同。我们招聘时，会与那些考虑Frontier Lab offer的人竞争，有时也能胜出。我们有庞大的软件工程和技术团队。我们在GPU上的投入，对一家生物技术公司来说是非典型的。我得说，如果我们自称是一家生物制药公司，我们的GPU集群规模大概能排进全球前三。这确实是我们的基因之一，但我们一直有意识地做出决策，让自己走在我们认为最有前景的轨道上。所以这不仅仅是孩子反抗父母之类的事情。我们认为这个论点是对的，它指向的不仅是一家对生物技术有价值，也对材料和化学领域有价值的公司，而且是一家重要的公司。
好的，这引出了我最后一个问题。哪个更难：材料还是生物学？它们其实非常不同。
这很有趣，对吧？它们——我觉得我们马上就要上演蜘蛛侠互指的那个梗了。我经历过第一轮AI应用于小分子药物发现的每个阶段，比如AtomWise、Gener8、InCITRO。所以我认为最难的是小分子，它既有化学上的所有困难——无法对合成进行推理——又要面对生物学上的所有难题，比如不良反应和免疫反应。
对，但反过来说，我们的工具箱里有很多可以从生物学借鉴的技巧，对吧？所以它更难，但你们也有——
嗯，我认为材料更难。材料科学有很好的模拟器，这是生物学没有的。但材料科学没有生物学中那种成熟的高通量自动化。对我来说，材料作为一个学科很有趣，因为它没有像中心法则那样的统一原理。材料意味着很多不同的东西。实际上，我到现在也不太明白当我们说“材料科学”时，那个统一原理到底是什么。然后商业动态也完全不同。比如，对于CAR-T，我们知道如果想直接变现，该怎么做。但对于材料，有供应链、有设备。你在实验室做的测试，只能部分预测那种材料在使用寿命中的表现。而且数学也更难。
我的意思是，供应链对两者都很重要。也许你可以用产品验证和确认来替代临床试验。我想你们用的术语是“鉴定”。所以两者都有直接的类比，也都有各自的难点。
经济模式非常不同。如果你通过了临床试验，就能赚钱，那个东西就有价值。而且制造成本很少会成为阻碍因素。对大多数情况来说——
在生物学中为一项资产承保，比在材料学中容易得多。
你们知道哪家公司生产超导体吗？这个问题总是被提起。你们在做超导体吗？是的，我们关心磁体，关心超导体，那确实是很酷的科学。你们知道哪家公司生产超冷材料吗？没人知道。这些东西非常重要。
我知道它们用于核磁共振成像。没错，那是唯一的商业应用。
但事实是，当你成功时，当你做出一种很酷的材料，它能做点什么时，你基本上是一家默默无闻的公司，生产自己的产品，很成功，现金流也不错。但你不会像大型制药公司那样家喻户晓。除了3M这样的公司，大家知道的也就这些了。
对。而且大多数大型材料公司都是不公开的。大多数商业合作都像是让他们告诉你什么才是重要的问题。开放创新的生态系统也比较少。材料领域有一些东西显然被认为有价值，但我觉得它与生命科学非常不同。
还有一点我们没怎么提到，我想指出来。我认为在化学，尤其是材料领域，政府资助的研究是一个重要驱动力。就像政府认为除了通过资助NIH进行早期开放科学、假设驱动型研究外，不需要自己去做药物发现一样，政府和国家安全也在以独特的方式推动材料创新。从我们与英国政府的合作方式就能看到这一点。我们有合作伙伴关系，与美国政府合作，获得奖项，参与材料和技术开发，这是驱动创新的生态系统中一个不同的部分。
那也确实不同。你们在做Mission Genesis吗？我们是其中的指定合作伙伴之一。
我们与许多国家实验室一直有合作关系，所以一直在做这方面的工作。
我们上周确实提交了25份Genesis Lighthouse提案。
是啊。他离开学术界时以为写基金申请的日子已经过去了，结果还得写两份。
对，我估计大概要写两万份。
我们喜欢问所有嘉宾的问题是：如果你能通过行政命令消除你所在领域的一个瓶颈——你可以定义这个领域——那会是什么瓶颈？
好。对我来说，我要回到以前做物理模拟的Rafa。我会说是sim2real。对于来自物理模拟世界的人来说，我认为sim2real如果能有一个真正的——
解释一下这是什么意思。
我的意思是，这些人通常是在机器人学的语境下提到这一点，在三维空间中的虚拟模拟可以让你训练在物理空间中移动的机器人，但两者之间存在差距，他们称之为 sim2real 差距。对我们这些做基于物理模拟的人来说，我们做的是粘性物质的分子模拟、电子结构模拟、对复杂问题的近似处理，这些模拟还行，但预测能力不够。如果不是因为这个，也许我们就不必为材料科学建造自驱动实验室了，因为我们可以直接预测。所以我认为我们知道物理规律存在，但它还不足以达到预测的程度，也就是说，我们基于物理训练的模型也无法弥合这个差距，因为它们仍然缺少某些东西，对吧？它们是在不够好的近似基础上训练的。所以我认为我们在材料领域一直追求的是，如果我们用计算数据训练模型，能否回答真实的实验问题？如果我能回到过去，除了消除瓶颈之外，我还会关注我们一直用来训练的底层模拟的准确性。
这有点像 Heather Kulig 说的，材料领域没有 AlphaFold。
有趣的是，AlphaFold 是在实验数据上训练的，所以这不一样。她和我都来自基于物理模拟的背景，而她指出一个完全不涉及模拟的东西，这其实是在承认同一个根本问题：Meta 生成了数千万、数亿的训练数据点，但它们都是虚拟模拟，对于我们真正想做的事情来说，这些数据还不够有力。
这可能会显得有点无聊和显而易见，但有一个指标用来追踪训练运行的效率，叫做平均浮点运算利用率（MFU）。GPU 有一个标称的峰值浮点运算吞吐量，这是在最佳情况下，做一种你实际上并不关心的计算时，单位时间内能完成多少浮点运算。MFU 通常只是理论峰值浮点运算的一小部分。对于强化学习，它通常在 5% 到 6% 左右。换句话说，这意味着我们只得到了实际支付 GPU 计算能力的 5%。所以如果我能通过法令挥动魔杖，让我们的堆栈达到 100% 的 MFU，我会这么做，因为这样我们不仅能更快得到结果，还能购买更少的 GPU，把资金重新部署到实验室或其他地方。
这很有意思，因为你的 rollout 不是受实验室限制的吗？
是的，但当我们训练一个大模型时，所有那些数据——强化学习训练流程非常复杂。所以，一种规模化实现的方式是让模型不断进行 rollout，等待足够多的轨迹累积起来，然后反向传播到模型中。另一种不同的方式是将其分解，并行训练一组专家模型，它们要么生成数据，要么自己进行训练，然后你把这些知识蒸馏回主模型。第二种方式是更高效的。因为所有这些事情发生在不同的时间尺度上，所以当你拥有 10 万亿个 token 并希望尽可能高效地将其推入模型时，你仍然需要在上面进行一些强化学习。所以，如果我们能获得我们支付的所有浮点运算能力，我会通过法令宣布这一点。
好的。在结束之前，你有什么想对听众说的吗？
让我说说我们为什么在这里。我们现在在旧金山有一个办公室，地址是旧金山市中心的 Fremont 街 181 号。目前大约有 20 到 30 人在那里工作，但我们正在积极扩张。我们希望从堆栈的各个领域招人。比如后训练阶段，我们显然在积极招聘。还有从事领域 AI 的人，比如生命科学和材料科学，我们也在招聘。目前这里没有湿实验室，所以全是计算工作。但如果今天大家听到的任何内容让你感兴趣，欢迎给我或 Rafa 发消息。
感谢你来到这里。当然，这真是一场非常精彩的对话。非常感谢。
感谢邀请我们。