Grant Sanderson – AI与数学的未来

这是个有趣的问题，因为如果不提前知道解决方案是什么样的，就很难回答。我的意思是，拿IMO来说，我觉得你三年前问题的核心在于，这些问题的解决方案似乎确实需要创造力。

而且这些题目的设计者会尽量让题目难以通过训练来准备。我认为IMO的一个小秘密是，很多题目其实真的可以通过训练来应对。所以，随着整个AI与数学项目的推进，我认为正如你指出的，它之所以有趣的一个原因是AI存在一个尖峰前沿。数学正好就在其中一个尖峰上。但这种尖峰性有一种分形特征，因为当你放大到数学内部的具体进展时，有些东西比其他东西容易得多。所以，如果我们只考虑IMO——这已经是旧闻了——大概两年前它们就做得相当好了。如果不是因为以下原因，它们在2024年本应拿到金牌。它们非常强。它们基本上只是冷求解了几何题。IMO有四个类别：几何、数论、代数和组合数学。几何题在2024年只需19秒就能解出，因为它有点像暴力求解器。而小秘密是，对学生来说，也有一种类似暴力的方法可以应对。组合数学是更难以预测的类别，题目更像游戏和谜题。那年的考试有两道组合数学题。不是每年都这样，四个类别共六道题，所以哪类出两道题是随机的。如果几何题更多，它们那年就能拿金牌，但它在组合数学题上很吃力。而且，你知道，那些试图守住数学最后堡垒的人可能会说，嗯，那些才是更需要创造力的题目。即便如此，我认为你问题的核心是，如果它们解决了千禧年大奖难题，那是否也能服务于大量白领工作？这暗示着，从我们现在到那个地步之间的瓶颈，与让白领工作变得更好的瓶颈是相同的。我们可以设想几种不同的路径，比如，如果我们专注于黎曼猜想，解决它会是什么样子？一种可能性是，这些AI在某个特定知识领域极其擅长，并且了解得非常深入，然后了解另一个领域，再了解另一个领域。你也指出过这一点。拥有这种超人的广度，对所有领域都了如指掌，却不去寻找连接它们的闪电般灵感，这很奇怪。我认为我们开始看到一些火花，即真正找到它擅长的领域之间的联系。我相信我们会聊到这个。如果黎曼猜想的解决方案本质上是这样，那对我来说，这与做好白领工作所需的能力感觉截然不同。而且有理由相信，解决方案的本质可能确实如此。你知道休·蒙哥马利和弗里曼·戴森在高等研究院的故事吗？

这算是个题外话，不过有个挺有趣的故事——我不确定是不是在午餐时聊到的。大致是，有位数论学家想研究黎曼ζ函数零点对之间的统计相关性。黎曼猜想的核心问题是，这些零点是否都位于一条直线上？他提出了一个可以量化的疑问，并写下一个公式，看起来像是1除以正弦平方之类的。物理学家弗里曼·戴森说，我认识这个表达式。这个表达式出现在研究随机厄米矩阵的特征值时，而后者又出现在研究原子核能级的问题中。这两个看似截然不同的领域在统计特性上竟然一致，这促使人们开始探索：嘿，随机矩阵理论是否可能与黎曼ζ函数有关？我认为这仍是个开放性问题，比如这里面到底有没有实质性的发现？但这种跨领域的连接，如果最终证明解决黎曼猜想需要进一步探索这类想法，那就体现了我们期望大语言模型擅长数学的那种特质。它们既是量子物理的专家，又是解析数论的专家。它们应该能看出这种相似性，而不需要像蒙哥马利和戴森那样碰巧在午餐时聊到。这与白领工作完全不同，对吧？比如你很难把AI当作编辑来用，并不是因为它们什么都知道，你只需要它们找到那个灵光一现的瞬间。另一种可能性是——用什么类比更合适呢？也许可以想想费马大定理，从费马提出这个问题到最终解决，其解决方案涉及极其复杂的数学工具。这个问题的美妙之处在于，它表述起来如此简单：问的是x的n次方加y的n次方等于z的n次方，当n大于3时是否有整数解。你可能会期待一个初等数论的方法，但就目前所知，并不存在。而实际的解决方案，也许有更简单的路径，但这可能就是必须走的路。它建立在一套极其复杂的思想之上，这些思想基于围绕椭圆曲线长达几个世纪的研究，以及另一套围绕模形式的思想体系。这两座大山都必须先建起来，你才能提出连接它们的关键问题。所以，如果黎曼猜想的解决需要建造一座新的大山，那是一种技能——提出正确的新想法，这跟它们目前智能的特质截然不同。这不像你从视频编辑那里需要的东西，但如果它能建造出正确的新理论，能结晶出我们该如何思考某个学科，那这种智能水平就会让人感到，如果它不渗透到经济其他领域，那才奇怪了。

你刚才举的两个例子很到位。对单位距离猜想感兴趣的人，有个数学频道叫 Polylog 做过一期很棒的视频专门讲这个。而且这类讨论总会让人反思数学研究的过程本身，对吧？人们会说，这东西能做出这么厉害的事，那对我们意味着什么？视频里有人引用了这样一句话：优秀的数学家证明定理，伟大的数学家提出猜想，而最伟大的数学家创造定义。这跟你刚才说的那两个角色几乎完全吻合——我们需要猜想生成器，也需要定义生成器。那才是顶级数学家。我不太明白你怎么把这个做成一个基准测试，因为我通常理解的基准测试就像球门，球进了就是进了，没进就是没进。你能明确地说，这件事完成了，部分是为了能做 RLVR 这类训练，部分也是为了确保在回答时没有移动球门。OpenAI 可以拿“证伪单位距离猜想”当头条，因为这是一个清晰、明确的结果，它做到了，对吧？但想象一下，如果头条是“GPT-5.4 提出了一个非常好的猜想”，那感觉就完全不一样了。我们只能说大家都觉得这是个好猜想，但没法像进球那样干脆利落。不过这并不否定这可能是正确的思考方向。所以我觉得它不太可能以基准测试的形式出现，比如我们有个分数说它通过了这个基准，因为我们可以量化一个猜想有多好。更可能的情况是，你会感受到数学家们在谈论与 AI 协作时的语气发生了变化。你提到的那系列内容其实还没做出来，可能还要几个月，形式是我们采访很多数学家。有趣的是，我们从一年多前就开始做这件事了，能看到从 2025 年中到现在 2026 年，数学家们谈论 AI 的语气发生了微妙的变化。在现实世界里，这时间很短；在 AI 的世界里，这简直是沧海桑田。而在这段沧海桑田里，我们看到了这种语气转变。我觉得衡量猜想生成能力的方式会更主观，就体现在这种语气变化上——数学家们会说，他们不只是用 AI 来解决自己的问题，而是在退后一步、决定自己的研究领域应该往哪个方向走时，和某个模型的对话确实帮到了他们。我不认为它会以“又攻克了一个基准测试”这样的头条形式出现。

没错。

你反正还是会提出几个的。

是啊。哎呀，你戳到我的点了，因为我 2022 年本来有个关于伽罗瓦的项目，后来搁置了，但我花了大概一年的时间深入思考他做的事。所以我有可能会不小心在细节上讲太久，你可以拉住我——这正好是你说的完美例子，因为描述它为什么是有价值的洞见，并不来自直接的实用性。所以如果你考虑 RLVR 环境，那确实会非常难。但有趣的是，即使当时有人类验证者，也花了很长时间才认识到它的价值。我觉得爱因斯坦的广义相对论，人们当时就能感觉到，这像是一个好理论。而伽罗瓦理论之所以是个特别有趣的例子，是因为它经历了整整一百年，这个想法在不同人的头脑中流转，才最终沉淀为数学界公认的好东西。所以稍微回溯一下，我不做——你想听这个问题的背景吗？好吧。嗯，我们都在学校学过二次公式。

我们都学过群论和二次公式。从某种意义上说，古希腊人就能解二次方程，但他们并没有用代数形式表达出来。真正把公式写下来的是阿拉伯人。还有一个关于意大利数学家对决的有趣故事——不是真刀真枪的决斗，而是智力挑战。他们秘密地找到了三次方程的公式，随后很快又找到了四次方程的公式。于是数学家们自然要问：能不能找到一个解五次方程的公式？四次方程的公式已经非常复杂了，写出来会是一大堆东西，通常不会完整写下来，而是拆成步骤来处理。所以你可能觉得这类东西的复杂度会指数级增长。几百年过去了，没人真正回答这个问题。通常我们说阿贝尔是第一个证明的人。他是挪威一位早熟的年轻数学家，他证明了这根本不可能。不是说他找到了五次公式，而是他证明了不可能。他一开始以为自己找到了，但后来证明是错的。不过，真正的功劳可能要往前推一点，说到拉格朗日。他提出了关于这个问题的正确提问方式。我可以详细讲，但先给个大概。他在研究这个问题时意识到，解这些多项式实际上与理解某些代数表达式的对称性密切相关。比如我写下 a b c d，只是把四个变量加起来，无论怎么排列，表达式的值都不变。而如果我写 a b 乘以 c d，有些排列不变，有些会变。他有一个非常精妙的洞察：如果你能找到像这样有四个自由变量、但所有排列只产生三个不同值的表达式，这就能把四次方程降为三次方程。于是他开始思考：能不能把这个方法推广到五次方程？要推广这个方法，你需要一个表达式，有五个自由变量，当你在所有 5! 种排列下变换时，它只取四个或更少的值。这就像一道谜题，甚至可以让十二岁的孩子来思考。你很容易就会觉得这根本不可能。所以拉格朗日就在想：嗯，这是我试图解决这个问题的策略。我能找到五次方程吗？这个策略似乎行不通，至少从这个角度看。但这是历史上人们第一次直觉到，关于对称性的问题才是研究这些多项式的正确方向。在他心里，这只是一个方法。人们还没发现两者之间更紧密的联系。而且，与其寻找公式，不如反过来问：你能证明它不可能吗？所以他种下了这颗种子。大约五十年后，阿贝尔肯定读过拉格朗日并受其影响。伽罗瓦——我们知道他爱上数学时非常崇拜拉格朗日。所以很难想象，这两位年轻的天才在同一个问题上得出相似的见解，不是源于拉格朗日。但回到你的问题：你能验证这是个好主意吗？拉格朗日并没有得出什么结果。他没有解决这个问题，所以我们知道这是正确的问题。他提出了问题，其中有一些内在有趣的东西。但当时对数学来说并不重要。大多数人更关心物理应用。这几乎像是业余爱好者的消遣。阿贝尔开始研究五次方程，但后来被建议把更多精力放在椭圆函数上。所以他更多的工作是在那方面，直到他英年早逝，26岁死于肺结核。而伽罗瓦把这两个想法推向了正确的方向，真正理解了抽象的本质。他在监狱里写了一篇很棒的文章。我们可以聊聊他的人生故事，非常离奇。他当时是个少年，在监狱里。他试图提交数学论文，但被拒绝了。所以，可验证的奖励——当时的学院评审——拒绝了他的作品，因为坦白说，那并不连贯。不是完整的证明。他没有清晰地阐述理论到底是什么。他只是个初出茅庐的年轻数学家，还在摸索方向。所以可验证的奖励就是：不行。但他有种直觉，觉得里面有些东西。于是他写了一篇长篇大论，讨论数学的本质——它随着时间推移而演变。他谈到代数的出现，从只考虑数字到能流畅处理纯粹的代数表达式，而不必拘泥于解释这些表达式。他直觉到还有另一层抽象，似乎是我们应该做的：不是考虑公式本身，而是考虑公式背后的对称性。但这仍然是一个定义不清的理论。所以如果你问：可验证的奖励是他解决了别人没解决的问题吗？嗯，阿贝尔证明了五次方程不可解。那伽罗瓦在做什么？原则上，伽罗瓦理论能让你针对一个特定的多项式，判断它是否有能用根式写出的解。比如 x 的 5 次方减 1，你知道一个解是 1；或者 x 的 5 次方减 2，你可以写出 2 的 5 次方根。所以并不是所有五次多项式都不能写出解，而是你能不能找到一个具体的例子，证明它不能用根式写出解？他甚至连这个也没完全解决。他的理论更抽象——他没有针对一个具体例子证明它不能。所以连描述他解决了什么问题都很棘手。然后他死了。这是一个非常浪漫的故事：他有一场决斗。我们可以深入聊聊。有很多传说，比如他在决斗前夜写下了所有想法。实际上，他确实试图让它们发表。

这非常糟糕。是的，如果你是个年轻的天才，别去碰五次方程。于是他让他的兄弟和密友把这些笔记交给高斯，交给当时重要的数学家，因为他觉得这里面有些东西。但即便如此，这些笔记也没能引起重视。他的兄弟和朋友努力想把它们传出去，但直到20年后，刘维尔才看到这些笔记，觉得里面可能有点东西，试图整理并理解伽罗瓦到底想表达什么。然后又过了大约20年，若尔当才真正整理出类似现代群论的处理方式，并将其归功于伽罗瓦。你可以轻易想象历史走向不同——这些想法可能从数学的其他分支涌现，而伽罗瓦如果没那么传奇，可能就被历史遗忘了。但从拉格朗日隐约觉得根的对称性可能是正确方向，到一切看起来像现代群论，这中间跨度很长。很多时候，这些想法甚至通不过人类审稿人的验证，对吧？因为落到某人桌上，对方说，我不确定这里面有什么。又落到另一个人桌上，对方也不确定。你必须得有某个人能识别出它的价值。而且即便如此，当时它并没有解决实际问题。就像你提到的密码学和物理学，要等到20世纪，伽罗瓦的想法才被用来思考：理解某些群分解的性质，与粒子由什么构成之间有关系。他纯粹基于群论问题预见了夸克的存在。这是群论最有趣的应用之一——甚至预测夸克的存在都是一个群论问题。这距离拉格朗日已经很久远了。所以你必须问：衡量进步的方式，如果不是基于解决问题，那是什么？这要如何捕捉伽罗瓦说“我觉得这里面有点东西”时的直觉？拉格朗日说“我觉得这是正确的思考方式”时的直觉？刘维尔说“这个早已去世的年轻人散乱的笔记可能有点价值”时的直觉？这很难说清楚。但我正在做的另一个系列视频是关于“压缩即智能”这个想法。虽然这不是我主要的角度，但确实有道理：更小、更具预测性的表达，感觉更智能。所以我在想，能否给出某种可验证的奖励，不只是围绕“你解决了吗”或“解决了什么”，而是围绕实现它所需的概念的简洁性。回到黎曼猜想的解法，如果AI解决了它，会是什么样？我认为第三种可能的方式是，它只是更努力地硬算，对吧？就像费马大定理可能有一个初等证明，但需要几千页，混乱不堪。而更清晰的方式是用椭圆曲线等概念。也许黎曼猜想会有一个1000页的证明，没人能从中真正学到什么。你真正想要的是这些思想的简洁、压缩版本，能让人理解。我不知道，也许柯尔莫哥洛夫复杂度可以纳入你试图量化“优雅”的尝试中。但我不认为这很容易，不过我认为要奖励伽罗瓦式的直觉，而不是仅仅奖励“你解决问题了吗”，你就必须这么做。

这也不仅仅关乎可验证的奖励，最终目标应该是理解。人类的理解。所以即使你有一个1000页的数学证明或某个宏大的新物理理论，目标仍然是理解，对吧？如果目标是预测性，你可以让自动化工程师去造火箭，我们完全不知道它们怎么工作，但能飞到星际。但会有很多人想要理解。你仍然需要某种简洁函数，能把复杂的思维方式蒸馏成正确的版本，就像牛顿的万有引力定律那样。是的，你仍然需要训练AI做到这一点，找到压缩的表示。

3.5 Live Translate能自动检测超过70种语言，并几乎实时翻译成目标语言。它在你说话时保持原速和原格式进行实时翻译，就像现在这样。

我觉得这取决于问题的性质。如果我们把解决黎曼猜想的三种可能方式拆开来看，今年另一个大问题是某个编号为1196的Erdős问题，它涉及一种叫原始集的东西。但基本上，它的特点是从一个看似不相关的领域引入一个想法。你只要把基本想法告诉数学家，说，嗯，如果我们用这个，比如尝试一个马尔可夫链过程，从下往上概率性地证明这个东西，而不是从上往下，并用冯·曼戈尔特函数。如果你对懂行的人这么说，他们大概就知道怎么继续了。所以，我们有一个非常小的想法，形式上是某个领域的专长加上另一个领域的专长，然后在它们之间画一道闪电。这些想法对人类来说很容易理解，因为你只需要展示这些连接的起点和终点。如果它的性质是“造山”，那你就需要花更多时间去理解那座新造的山，因为它像一条新线索，而不只是它们之间的闪电。如果进展的性质只是“硬拼”，那就是一个超长的东西，没有新理论，只是一长串推理链条，那你就得经历一个完整的消化过程。所以我不认为有一个明确的答案。我觉得这取决于解决方案会是什么样子。而在“造山”这一边，我其实很想知道，它是否默认是人类容易理解的，就像我们看到伟大数学家提出的新理论那样，还是说它像一种外星式的山，我们甚至需要重新处理我们所使用的抽象类型？最接近的例子是ABC猜想的尝试性证明，我们也许不该深入讨论这个，但它可能不是一个正确的证明。基本上，这是一位原本声誉良好的日本数学家提出的一种全新思维方式。数学家们花了很长时间才弄懂他在说什么。但它给人的感觉就是一种外星式的数学，是理论构建，而不只是一长串推理链条。他称之为“跨宇宙几何”之类的东西。所以，你担心的就是这种情况。最大的担忧是，它确实如此，然后就像ABC猜想一样，人们花多年时间爬那座山，结果发现，该死，这不对。如果它最终被证明是错的，但看起来却很像是对的。但即使它是对的，爬一座新山也需要大量努力。

是的，我认为这会非常有帮助。因为，发现新数学的过程很大程度上就是不断犯错。你试图解决一个问题，感觉不像是在不断迈出正确的登山步伐，更像是一次随机的醉汉漫步，你做一件事，然后发现错了，然后不断绕回来。所以，至少如果你知道，消化你所知道的东西最终会导向一个正确的解，那感觉就是进展，因为它让你确信这会通向一个解。在近代数学史上，有很多例子是“触及”超过了“掌握”，有些东西在被理解之前很久就已经被证明了。我最喜欢的一篇论文开头——它甚至不是研究论文，更像是一篇阐释性文章——来自一位叫Timothy Chow的数学家，他试图理解一个叫“力迫”的概念。有一个问题叫连续统假设，大致是问：自然数有一个无穷大，实数有一个无穷大，它们之间有没有东西？答案是既对又错，取决于你的公理。它有点超出我们通常公理系统的范围，这是一个有趣的答案。但描述它的方法非常难理解，就是那个叫“力迫”的东西。在这篇论文的开头，他写道：我想提出一个概念，大家都知道未解决的研究问题是什么。我想提出一个未解决的阐释问题，比如，我们确实证明了它，但我们并不真正知道它为什么成立。然后他提出了那个阐释问题的部分解。你可以想象我为什么喜欢这个框架，因为这完全就是我的生活。我不做研究数学，我全部的工作就是：什么是最清晰的理解方式？即使它已经被证明，证明和解释之间还是有区别的。所以在这方面，我认为你正好触及了这个区别的重要性。

嗯，这里有几个有趣的点。一个是，那些提出真正新颖见解的人，往往也能非常清晰地表达这些见解，这两者之间似乎存在很强的关联。你可能会想，根据大学生的普遍经验，教他们的专家并不一定是该主题的最佳讲解者，因为他们被自己的专业知识宠坏了。但至少在某些情况下，事实似乎是，那些真正提出全新东西的人——比如爱因斯坦或克劳德·香农——你去读他们的论文，会发现它们非常清晰易懂，对吧？你不会觉得“哦，这只是给专家看的，你得用砍刀劈开才能读懂”——他们是非常优秀的阐述者。费曼也有这个特点，是个很好的阐述者。所以，也许大脑中用于在研究层面提出正确新思维方式的同一部分，也具备这种善于解释的天赋。我认为这与AI相关，我以前曾认为AI会成为自动定理证明器，而数学家的角色会转向我的工作，比如解释这些东西。但我现在有点怀疑，它们实际上也会非常擅长解释，而且可能比大多数人类更擅长解释和提炼这部分工作。而数学家剩下的工作并不是消化和解释发生了什么。很可能，随着这些事物的发展方向——我们可以讨论可能并非如此的情况——但很可能，提出真正好点子来解决新问题的同一系统，也善于解释它。这是我新的看法，也是我信念改变的一种方式。

我可能会一直做我现在做的事，直到我死去。即便如此，甚至——

没错。

你知道，这就像，你给一个人生火，他能暖和一夜；但你把一个人点着，他能暖和一辈子。嗯，这就是我对AI的看法。不，因为解释者或教师的部分功能是为某个让人好奇的事物增加清晰度。这是一方面。但另一方面，它更关乎关系，提供动力，提供一种策展感。我听过一个有趣的观点，认为数学家最终的角色可能更像艺术博物馆的策展人，而不是其他什么。AI解决了问题，所以艺术已经存在了，对吧？它们甚至知道如何很好地解释它，一切都在那里。但你仍然需要有人帮你在这个近乎无限的空间中导航，告诉你哪些想法值得投入，有人来做这件事。而且，即使AI在某种程度上更擅长这个，我认为我们仍然会偏好一个我们与之有关系的真人，因为我们被激发兴趣的方式是一种社会现象。如果你在尝试构建某个特定技术，那可能不同。你需要知道具体内容。但我认为，就像收听这个播客的人，他们首先信任你的策展，认为你选的话题有趣。他们并不是因为你的下一个话题恰好是他们事先想理解的才来听，而是信任你作为策展人。

所以我的角色，以及可以说其他数学家的角色，可能只是微妙地转向策展方向，决定哪些想法值得展示。而这已经是我现在工作的大部分内容了。即使现在，基本上，我认为很多人以为视频的大部分精力花在视觉上。当然，有一点。但并非立竿见影，实际上很多工作只是决定首先说什么，或者放什么内容。嗯，因为那正是我想参与的部分。而且我认为我与某些人建立了信任，他们好奇我会选择提出什么，即使AI在这方面更优秀——就像人类音乐家总是会有一席之地，因为背后有故事的社会功能，即使从MP3文件的客观质量来看，某些模型生成的更好。这就是我看到的自己工作的未来。是的。

顺便说一句，这方面还有很多工作要做。只是因为有几道闪电被击中了，我认为未来几年会有一个蓬勃发展的时期，真正连接起来。是的。

嗯，很多讨论的焦点都集中在问题解决和数学的这种性质上，比如攻克Erdős问题之类的。我会说，甚至不是大多数数学家会把自己的工作描述为针对下一个要攻克的问题。你了解Langlands纲领吗？

所以这甚至不是一个数学领域，而更像是一种研究精神，费马大定理就是其中一个线索。你有两个看似不同的事物，它们之间的联系导致了一个解决方案。Langlands是一位数学家。他有一封著名的信，基本上阐述了似乎可能存在更多这样的联系。他甚至更具体地说明了这些联系的性质，以至于你可以想象一张大地图，这边有一个山谷，那边有一座山，那边有一片平原。有很多数学家会把自己的工作描述为试图理解这张地图上的线索。而那里的进展，甚至不是“这里有一个具体问题，我们知道通过那个联系就能解决”。更多的是，一次又一次，大问题通过找到联系而被攻克，以至于几乎是先发制人地寻找联系。所以你可以有——

对，这其实很有意思。每次你遇到数学家，问问他们自己的工作更像朗兰兹纲领（Langland's program），还是更像针对某个特定问题，你会发现他们明显分成两派。而AI作为超级连接器的可能性，感觉可能会成为这种探索中的放大器。不过这也很难衡量，对吧？因为这又回到我们之前说的：你怎么给“你做到了”打分？如果是攻克一个难题，你很清楚地说“你做到了”，可以写头条，AI公司也能发公关稿说“我们做到了”。但如果感觉只是建立了正确的连接，你可以围绕它写定理，这也是该领域论文的常态。但我认为这需要更多人类参与来判断“这是不是我们想要的那种连接”。我猜测，未来五年这些模型最有用的进展，大多会是填补那些如果你是多领域专家就能画出的连接图谱。就像你指出的，我们居然还没做到这一点，这有点令人惊讶。

我很好奇的是，从技术层面看，是什么导致了这种突破。因为一方面，你可以在脑子里解释为什么一个人可以是所有这些领域的专家却没能建立这些连接——当推理过程是自回归思维链（autoregressive chain of thought）时，自回归其实是一种非常奇怪的生成方式。想想看，你是个聪明人，假设我把你锁在一个盒子里，你与世界互动的唯一方式是收到一张纸条，然后有人问“你能预测下一个是什么吗？”你预测完，记忆就被清空，再给你另一张纸条，继续。想象这个过程重复很多次，最后出来的东西，别人说“看，这是你写的文章”。你可能会觉得“这太糟糕了，这不是我会写的文章”。因为反复预测的过程，和你作为写作者构思、推敲的方式完全不同。特别是，你会成为上下文的奴隶——你可能在回答某个领域的问题，于是你调用所有相关上下文，沿着那个方向走。而真正有实质内容的连接，本质上是非常不可能的。你可以用所有强化学习（RL）试图在某些方面变得更好，但具体是什么在提升和激励这些不太可能的连接？毕竟绝大多数情况下，它们并不是可预测的下一个token。所以，可能的情况是，这种智能被锁在盒子里，只是互动方式很奇怪。我好奇的是，有没有可能通过质疑token生成的前提来获得成果？我不认为简单调整温度参数（temperature）就能做到，但有没有什么方法能利用现有的智能水平，找到正确的方式激发这些连接，从而解锁我们看到的这些成果？还是说需要更多智能，使得在预测层面，它就能预测到应该跨领域建立那种“闪电式”连接？

对。

对，感觉你应该能做到。我肯定说不出解锁这一切的正确方法，但如果未来三年没有更多这样的“闪电式”连接，那才真让人惊讶，你不觉得吗？

这方向看起来是对的。我觉得，如果我们拿蒙哥马利和戴森在高等研究院的那场对话来说，它暗示了黎曼猜想或黎曼ζ函数零点与随机矩阵之间存在某种联系，这感觉就像那种可以尝试自动化的事情——你让智能体分别代表所有这些领域的专业知识，然后基本上——好吧，我们都知道一个研究所比一个人更聪明，而把所有人聚集在同一个地理位置的目的是为了促成那些偶然的对话。那么，在智能体之间设计这种对话会是什么样子？有意思的是，你指出你可以把所有知识汇集起来。我其实在想，其中一个优势可能是反其道而行之——有时候AI失败是因为它陷入了一条糟糕的思维链，很难摆脱出来。所以你会说，我重新开始。人类也一样，对吧？有时候你以某种方式思考问题，实际上需要的是退一步。也许在某些情况下，有故事说人们长时间试图证明某件事，然后某个时刻他们说，等等，如果我试着证明它不可能呢？他们证明了相反的东西。而摆脱自己的上下文，以全新的心态去处理问题，你可以想象把这一点系统化，或者让多个不同的智能体故意拥有不同的上下文，然后尝试比较和对比。我们对自己的上下文没有同样的操控能力。在这个AI与数学系列中，第一集将讨论他们解决国际数学奥林匹克（IMO）问题的情况。我想聚焦于一个他们失败的特定IMO问题，这个问题很多非常聪明的学生也失败了，陶哲轩也失败了。它的本质基本上是——人们对这个问题非常恼火，因为他们称之为一个“恶搞题”。我几乎不想剧透，因为我想围绕这样一个思路来构建这一集：引导一个人，在不知道它其实有一个简单解法的情况下，因为你能真正共情一个学生解题时的感受。基本上，有一种非常优雅的方式，基于你作为国际数学奥林匹克问题的背景，感觉那会是正确的解法，这个解法的特性非常诱人，但很难证明它是最优的。原因在于它不是。有一个几乎“脑死亡”的简单解法才是最优的。所以这与整个AI故事的相关性在于：对人类来说，回答这个问题需要的是摆脱你的上下文，摆脱你身处IMO的上下文，摆脱你被训练来解决这些竞赛数学题的方式。如果你把它当作一个随便扔给路人的脑筋急转弯，他们很可能回答得很好。而在其他研究背景下，人类有时也需要同样的东西——能够刷新你的思维，以完全不同的方式去处理问题。所以，在数字心智的所有优势中，这可能是其中之一：更系统化地思考“刷新思维”是什么样子。尝试回答两个独立的问题，分出两个智能体，一个试图证明它，一个试图证伪它，一个用这种方法，一个用那种方法——它们故意拥有不同的上下文。我很好奇，如果三年后我们再聊这个话题，有多少重大成果具有这种特征：基本上是抹去之前的上下文，尝试一堆不同的东西，而不是合并一堆不同结果——

说得好。

是的。所以你基本上建议在提示层面系统地增加熵，尽管在自回归层面不可避免地会有坍缩。爱因斯坦会是一个有趣的例子，因为他有“事物应该是相对的”这个偏见，也有“上帝不应该掷骰子”这个偏见。

这几乎就像你要确保不会不小心让你的所有大语言模型都变成爱因斯坦，因为那样可能会阻碍量子力学的发展，对吧？

是的，是的。这感觉像老派软件，对吧？只要你能以某种方式描述它，你就有老派软件以某种方式放大那种熵。如果你能为你想要提示的不同思维方式建立一个清晰的本体论，你探索那个完整的本体论，然后每个个体各自去做自己的事。但我觉得这里有一个设计问题：如何精确描述不同的方法。简单的是：你是试图证明它还是证伪它？更难的是：要说出所有你可以用来证明它的策略，并确保你充分应用了足够的广度来探索它。

所以你可以亲自去按那个红色 X 按钮，像 Dorkesh 那样。

用吸管吸监督信号，他是这么说的吗？

这是个有趣的观点，可磨性（grindability）更重要。我想说的是——嗯，好吧，天真地想，你可能会认为Lean为数学提供了独特的东西，因为你能验证它是否能证明某个命题。老式软件可以告诉你对或错，你把它当作你的验证器。那么，什么能佐证你的观点呢？就是最初的那些尝试，我再回到IMO的例子。一开始DeepMind基本上就是这么做的，所有东西都放在Lean里。然后第二年，全变成了自然语言。所以按你的说法，它并不是必需的。我认为那个形式化领域还有一个尚未被发掘的好处：目前，你最终仍然需要人类去审查那个单位距离猜想的反例，说“看起来没问题”。这给探索的无限性设定了某种边界。想想AlphaGo、AlphaZero那种风格的东西，它们在自成一体的宇宙里，自己下围棋、自己探索，完全可能偏离任何人类需要审视的轨道，但它们仍然有自动可验证的奖励。这不只是说你可以对它做强化学习，还在于你基本上永远不需要检查，只管往它们身上投入算力，让它们探索围棋的宇宙。有趣的地方在于——也许这不会成功，但我认为陪审团还没定论——有了Lean，你可以想象一个基本上永远运行的程序，不断尝试扩展Mathlib。Mathlib是一个GitHub仓库，基本上就是把所有数学用代码写出来。它离“所有数学”还差得很远，但它的目标就是成为用代码写成的全部数学，你可以问“这个证明对吗？”写这些证明非常费人力，周围还有一整个子社区。但你可以想象，如果你有一个AI，你只是说“试着扩展Mathlib”，会怎样？也许它是个分支，这样就不会有垃圾内容，因为人们对想放进去的东西有特定品味。所以你有自己的分支，比如“纯AI Mathlib”，它就一直跑，不停下来。它不需要任何人检查，对吧？它可以一直继续。它可能会提出自己的猜想，自己的理论，不同的定义。也许很多都没用，但它有这棵可以无限生长的树。这是数学独有的、其他领域没有的东西：你可以按下启动键，投入算力，然后十年不看，回来问“你有什么成果？”肯定会有东西，对吧？然后问题就是：它有用吗？你怎么判断？这本身就是一件有趣的事。如果这不能产生某种有趣的数学洞见，那才奇怪呢。所以我认为这才是真正的理由——Lean在这个故事中有两种不同的重要性。这是第一种：你可以放手，甚至不检查，进步就会发生。你可以对围棋这么做，但我不认为你能对自然语言数学这么做。

没有。

但如果你这么做，你不想完全偏离轨道，在逻辑空间里做随机游走。你可能需要一个监督模型来提供关于它是否有用的启发式判断。但确实有这种性质的东西。你知道，人们正在研究它，这是那种五年后我会好奇的事——如果能和未来的自己聊聊，看它是否一无所成。但陶哲轩曾谈到一个研究项目，基本上就是穷举搜索所有可能的代数空间。你可以想象应用于代数系统的不同公理。当我们提出群论时，有一套特定的公理系统，它们看起来像任意规则，除非你知道动机。但基本上就是：如果你尝试所有公理，会怎样？其中任何一个能产生有用的东西吗？绝大多数在某种程度上都是垃圾，全都坍缩成没有有趣结果。但偶尔会有这样一个小岛，一个完全不同的公理系统，至少从它能产生的定理数量来看显得丰富。这正是你想象中自动证明器擅长的事情：探索那个空间，看看哪个能变成有用的东西。也许其中一个小岛实际上可以事后赋予动机，说“这就是那种试图捕捉的结构”，就像你可以想象看到群的公理，不知道它关于对称性，但事后意识到“哇，这对研究对称性非常相关”。所以你可以想象类似的结果，但不仅仅是探索可能的代数系统，而是任何公理的所有可能逻辑推论。

数学比其他领域更有可能依赖验证器，即使你只处理自然语言。我们之前聊过为什么它们不擅长写作，我问过为什么不能直接让它们当评判——它们似乎挺擅长评判的。如果给我两篇学生写的文章，它们能说出哪篇更准确、更有洞见。那为什么不能直接让验证器判断这是不是一篇好文章呢？也许最终的失败在于，即使它们能区分B级和A级文章，也未必能区分A级文章和那种你在Substack上愿意读、有洞见、值得关注的内容。它们实际上更喜欢那些缺乏洞见的文章。所以在数学方面，问题就变成了：如何简单地判断一个证明是否正确？这本身就适合自动化验证器，即使是用自然语言。你大概也能取得很大进展。但我还是更喜欢Lean那种逻辑树的方式，因为那样真的容易跑偏。之前表述的方式没有任何约束，就像大家谈论AlphaGo的第37步那样。什么因素能让它跳出先前的启发式方法？似乎让探索与外部世界脱节是有益的，可以作为自然语言数学研究的补充。Lean的另一个相关点是，假设你有纯自然语言的强化学习环境和纯自然语言的证明集，人们说“让AI数学家去干吧”，然后它们每天生成10篇论文，产出大量内容。如果存在任何错误率——Alex Kontorovich就讨论过这个问题——那对数学家来说就变得难以忍受了。因为你每次看到这些论文，都不知道是否值得花时间，即使100篇里有99篇是对的。你也不确定是否值得去读，因为找出错误非常费时。如果发现自己花时间在一篇垃圾论文上，那会非常沮丧。所以，如果能有一个绿色勾号，告诉你即使内容复杂难懂、处理起来很麻烦，但至少你知道它是正确的——其他领域都会为此拼命，对吧？数学就有这个优势，如果模型也能把自然语言证明形式化的话。这看起来非常了不起，对吧？每个领域都希望有这样的东西。所以我认为你说得对，Lean作为虚拟环境在推动数学整体进步方面可能被高估了，但我肯定不会把它排除在故事之外。

当然。

但你刚才指出，实际上我们在让智能体写代码方面进步很大，不仅写功能代码，还能写干净的代码。

为什么从“仅功能”到“干净且可合并的PR”的进步，不能同样带来更清晰的写作呢？

嗯，听起来，这其实就是蒸馏和解释，对吧？所以如果我在考虑你作为文章写手的质量，比如我给你一本书读，然后我想要一份读书报告，那我可能会觉得，好吧，LLM 也许能给我一份更好的读书报告。但我认为，当人们说它写作能力差时，他们真正想表达的是——写作到底是什么？它不只是对现有观点的蒸馏，也不只是如何清晰解释，因为它们在解释方面确实很擅长。关键在于洞察力。而这就是问题所在：自回归是一种非常奇怪的生成方式，因为当你写作时，你大致知道，要想写得好，就必须包含不可预测的元素。这不仅仅是提高你思维中的“温度”之类的，而是精确地知道在什么时候该做出一个不可预测的举动，而这恰恰会带来更深刻的洞察。所以，即使它在解释现有事物方面更出色，但最初生成你想要蒸馏的那本书的，又是什么呢？那不是 LLM 生成的，然后你只需要它。而是某个作者，通过大量探索世界上的各种想法，决定哪些方面有趣，哪种呈现方式能构成连贯、有动机的叙事。他们以某种方式把这些整合在一起。而且，如果他们是好作者，你很可能更愿意读他们的书，而不是蒸馏版。但尽管如此，最初是什么让这些内容值得探索、值得上传呢？我认为，当人们说它们写作能力差时，指的就是这一面。正是那种不可预测性，那种刻意选择新颖事物的能力，与当前生成内容的方式直接矛盾。

嗯，这是个有趣的问题。它们在这方面挣扎，这很奇怪吗？我可能会说得不太准确。你知道，当你引用你曾经读过的研究时，有时那个研究可能根本不存在？有一个非常令人难忘的例子：假设你想测试人们的情商。比如，你展示一张某人面部表情的闪卡，然后让人描述那是什么情绪。实际上，网上有很好的测试，会显示一张脸和四种可能的情绪。要准确描述正确的情绪出奇地难，但你也会感觉到确实有一个正确答案。如果你在生活中对身边的人做这个测试，你会发现那些社交能力强的人通常表现得很好，而那些更偏左脑思维的人则不然。好吧，这是一种可以做的测试。我隐约记得一个相关的实验：他们让刚注射了肉毒杆菌的人做前后测试。结果发现，在注射后，他们解读他人表情的能力明显变差了。这感觉有点奇怪。

是接受测试的人。所以你先做测试，然后去注射肉毒杆菌，你的脸就僵住了，然后你理解所看到情绪的能力就变差了，对吧？有一种观点认为，理解你所看到的情绪，部分原因在于你自己去模仿它。

在面部层面，你知道，你移动面部肌肉，你看到那个表情，你模仿它，然后在某个非常潜意识的层面上，你会想：“哦，那是焦虑。”所以从这个意义上说，如果模型的心智理论很差，那当然。它们知道一切，因为它们读过了所有人写的东西，但在真正设身处地理解你的层面上，就像我的面部肌肉模仿你的面部肌肉那样，这帮助我理解你的感受。这完全不奇怪。它们没有面部肌肉。它们的大脑运作方式完全不同。这就像一个外星人在试图共情。它怎么可能有心智理论？那会是一个非常涌现出来的东西。而我们则可以直接把它接入我们自己的大脑。我们有现成的硬件来直接放置它。所以这很有趣——从这个角度来看，这并不奇怪。

嗯，我今年对他们做了一次采访，部分有趣之处在于他们通常不对外公开什么。在业内，他们以极高的员工留存率而闻名，人们就是愿意留在那里。我觉得能深入了解这一点很有意思。我记得有人评论说，尽管人们有职位头衔，比如研究员、交易员或工程师，但他们常常不知道同事的实际角色是什么，因为每个人都在做一点其他事情。即使你名义上是交易员，你也在做很多研究；即使你名义上是研究员，你也在写很多代码。我猜想，这可能是他们拥有惊人留存率的部分原因，因为任何想要成长的人都有机会做很多不同的事情。

嗯。

我很好奇你的看法。我先说说我的。即使在LLM出现之前，我觉得学习中的一个相关洞见是认识到"谁"比"什么"更重要。所以给任何大学生的建议是，选课时少关注你已有的兴趣，因为它们现在还很随意，多关注授课老师是不是好的教育者、是不是你能产生共鸣的人。我觉得在选择读什么、读什么书时，作者是谁可能比是否是你之前的兴趣更重要。所以如果你之前喜欢一本书，就去读那个作者的其他作品，而不是读同一主题的其他东西。我正要把这个联系到LLM上。所以，尝试学习某个东西时，看维基百科页面和看其他来源的感觉是不同的——比如如果是哲学话题，你去斯坦福哲学百科全书；如果是数学话题，你去普林斯顿数学大全。区别在于，那些文章是由一个人刻意撰写的，他会围绕它构建动机和一切。而维基百科是一个局部最优解，基本上每句话都必须正确。我觉得好的讲解，你不太在意过程中的正确性，而是可以刻意构建一些有点错误的东西，然后在过程中纠正。这在众包环境中会被编辑掉。所以LLM的解释目前给我的感觉很像维基百科，也就是说，很棒，对吧？想象一下没有维基百科的世界，要花多长时间才能找到、梳理出一切。但尽管如此，维基百科页面最有用的部分是什么？往往只是底部的参考文献，对吧？你看到关键参考文献，然后点进去读。实际上有时这能给你更好的概览。所以我经常只是问LLM：我应该读谁的作品？我甚至可以给出一些具体的学习方式。有一次我确实被它误导了。我记得想学习半导体之类的东西。我说，这感觉很视觉化，但全是文字。有没有什么很好的、可视化做得好的数学视频——不对，不是数学，是一个可视化做得好的视频来解释你提到的这些概念？Claude说，有，这里有几个。第一个是，这里有一个来自3Blue1Brown的视频。我敢保证没有。那确实是一个真实的视频、真实的链接，但只是把别人的视频错误地归因了。不过它确实不错。我说，我点击过去看那个视频来学习这个东西，比继续用问题追问下去体验好多了。所以从这个意义上说，基本上就是把它当作一个超级增强版的谷歌，用来精准定位正确的人类撰写的资源。你呢？你经常用这些。最好的方式是什么——

混沌那本？

《混沌与非线性动力学》？是的，我很喜欢那本书。

他太厉害了。

对。

对。

对。它有点太迎合了。说到底，这就像那种非常谄媚的——"哦，多么有洞见的问题"之类的。你想去掉这些。这是个好观点。我觉得这触及了一点心智理论。认识到提出某种问题表明你的心智结构——至少——与讲解者不同。有时人们会做得过头，对吧？我觉得一个真正好的老师，比如在初中数学课堂上，如果一个学生提出的问题表明他在以不同的方式思考，实际上很难在当下认真对待——等等，你能用那种方式得到正确答案吗？然后再说，哦，不如我们这样做。真正好的老师能够顺势利用学生思考的创造性方式，并将其融入进来。我的意思是，LLM在重新框架你的问题时并没有这样做。相反，它们有点跑偏了。但至少，我觉得这里有三个层次。LLM在一个层次，好的讲解者在另一个层次，而A+级的讲解者是能顺势利用你的思维方式，说，哦，那个思路在这里有用。所以也许存在一个循环，五年后，LLM仍然会做这件事，但会做得更好。

我可能不会相信我给出的任何建议，这或许就是我的开场白。但即使在AI出现之前，对于任何你要从事的工作来说，真正理解——如果我们谈的是工作，而不是说你是个绅士科学家、想参与数学世界之类的事情——钱从哪里来，你实际增加的价值是什么，以及这两者之间的联系，感觉都非常重要。我认为，人们对此的思考往往少得惊人，尤其是学生。他们身处这样一个环境：可能想进入数学领域，是因为他们一直擅长数学，并且因为正确完成下一个关卡、迈出下一步而在生活中不断获得回报。当他们觉得自己想成为数学家时，这更像是能继续从事这种活动的版本。就像，"嗯，我去看看哪里有人能做这个？"而不是思考，"我为他人增加了什么价值？"以及"这在多大程度上是薪水流向我的原因？"不同情况差异很大。比如，有些情况下，一位非常有声望的数学家，他们在一所大学的存在带来了某种品牌价值，这就是大学想要他们的原因。有些情况下，国家科学基金会的拨款是因为我们有一种信念，即基础科学具有公共价值，你围绕这个建立了机构，然后会有整个官僚体系试图作为我们心目中公共价值的代理，并围绕如何正确让他们预测你的进展符合资助精神而进行一系列繁琐操作。有时纯粹就是教学，对吧？人们喜欢把孩子送到有专家教学的机构，这就是你在做的事情：作为专家提供品牌价值，作为教师提供直接价值。所以，无论AI是否能证明定理，无论我们是在2016年还是2026年，这都是很多想成为数学家的学生没有充分思考的事情，但我认为值得思考。对我来说，我觉得——我当初并没有刻意去想，而是偶然踏上了这条职业道路，基本上数学探索可以作为一种娱乐来变现。我偶然发现了这一点，对此非常感激，但这纯属意外，并非有意为之。我想，如果我当时能批判性地思考，也许本可以避免依赖偶然性，更有计划地做到这一点。所以回到你的问题，如果自动定理证明已经实现，而且假设它们也是很好的解释者，那么即使是为了人类的理解，我认为数学家所扮演的许多社会角色实际上不会有太大改变，对吧？公众仍然有一种感觉，认为基础科学有价值，我们信任数学家的判断来决定他们的时间最好花在哪里。声望来自这个社群内部，是其他成员说"这是一个很好的结果"，而不是拨款撰写者真正理解代数数论才知道这是个好结果。所以，关于什么构成有价值的贡献，会有一些内部文化。也许它会从定理证明转向好的定义撰写，也许是那种博物馆策展人的概念，但你仍然会有同样的社群。只要整个社会仍然重视基础科学的前提，并且如果我们处于AI带来的富足世界，从某种意义上说，可能会有更多资金流向这个方向。从机构对其讲师的声望角度来看，我实际上认为教学是AGI之后最稳定的工作之一，因为它非常注重关系。如果父母拥有富足的财富，他们愿意把钱花在好的教学和教育上。这远远超出了解释的范畴。即使LLM是很好的解释者，教师所做的是一种社会辅导、导师式的事情，这可能是未来50年最稳定的职业之一。因此，就许多数学家的角色与此重叠而言，作为即将进入这个领域的学生，你可以朝这个方向倾斜。实际上，我认为更多学生应该思考并重视成为一名数学教育者的想法，以及这对下一代所能提供的价值。我再次强调——我不认为我是那个可以说"未来的年轻数学家，你应该这样思考未来"的人，因为我是一个YouTuber，对吧？我不在他们考虑进入的机构里。所以我是作为一个局外人在观察。但这感觉像是普遍的好建议：知道钱从哪里来，知道你在其中扮演什么角色。如果你只是在问这些问题，实际上你已经领先于其他所有初出茅庐的未来数学家了。

而且有趣的是，所有这些都预设它是无用的，对吧？我们并没有讨论数学的实际应用。因此，只要它有任何经济效用，你可以想象，那些理解它并能决定它应该指向何方的人，实际上拥有更大的经济价值。作为策展人，能够做出判断，并将这个数学新巨兽指向有用的方向，这突然之间就变成了一个比以往杠杆效应大得多的举动。

是的。

我觉得有些领域可能会——我的意思是，这非常不均衡，对吧？比如代数数论的进展，感觉不太可能直接解锁什么实际应用。但我不确定，我记得和一位研究动力系统和偏微分方程求解的数学家聊过。他提到他们团队有一些想法——让我看看能不能说清楚。大致是波音制造飞机的方式：先造出来，然后做大量测试，再根据测试结果拆解重组。他们团队在模拟方面有一些见解，可以减少拆解和重建的步骤。这为波音节省了数十亿美元。然后波音就开始资助他们团队了。这显然更贴近应用，因为偏微分方程本身就是这类问题。所以这个领域的进展，你可以想象确实能解锁一些东西。我不确定这是否是阶跃式变化，但可能更多体现在发动机设计更流畅、找到更合适的机翼形状而不用跑大量复杂的CFD模拟，或者通过某些纯数学洞见加速CFD模拟。我打赌你会看到很多渐进式的改进。数学的重大突破直接转化为重大经济突破的可能性似乎较小。比如你解决了纳维-斯托克斯问题，然后解锁了模拟更多事物的能力。但在那些边缘领域，你可能会看到纯数学洞见向其他领域的有意义渗透。另外，有很多人在研究AI工程、物理工程、材料科学等领域。你可以想象，他们应该有能力审视AI数学洞见，判断它们是否相关。所以这又是那种我不会轻易下结论的事情。但如果未来五年内没有出现直接归因于AI数学进展的经济价值提升，那会有点令人失望和意外。如果只是解决了一堆埃尔德什问题，却没有触及任何直接关联物理世界的数学，那确实挺令人失望的。

是的，就像我说的，当前发生的有趣事情之一是让人们退后一步问：数学到底是什么？其中一个尴尬的结论可能是揭示出："唉，过去这些年，数学已经完全没用了。" 是的。比如人们提出的问题已经变得与物理应用完全脱节。这是数学家必须面对的问题之一：所有人都会看着他们说："等等，你们不是应该——如果进展这么大，为什么我们这边看不到效果？" 然后数学家们会说："唉，每次我们写那些资助申请时都说，相信我们，椭圆曲线的进展会对密码学有帮助。" 这反而凸显了一个事实：也许它并没有帮助。所以这是一种可能性。

不客气，这是我的荣幸。