LLM 撕裂了数学

· · 科技·工程

知乎:数学家宣称 Claude 证明黎曼猜想,为何 Anthropic 股价仍跌?市场不买账,核心原因是什么?

这个问题背后的完整逻辑如下:

过去,存在一个共识:有能力证明黎曼猜想或同等级大猜想的 AI,一定对人类极有价值。

这个共识强烈且普遍,乃至于人们进一步相信:如果一个公司持有它,其价值必将盖过一切金融噪声,兑现为高涨的股价。

如今,AI 真的证明了黎曼猜想。或者,如果你不信,OA 两家累计放出的数学成果在很多人心目中也已不亚于此。

然而,A\ 的股价在爬行。

在数学内部讨论这个矛盾(关注证明细节,或问题的特异性)是徒劳的,因为在数学外部,对它的共识已经毁了。可以说,数学已经不存在了。

这个共识是怎么毁掉的?

不妨回到上一个问题:共识是怎么产生的?

除了「培养人的智性」等间接贡献,纯数学对人类确有直接帮助:

  1. 数学告诉人类命题的对错。
  2. 数学告诉人类什么值得感兴趣。

值得强调的是,第二部分的贡献比第一部分大得多。

很多人仍在用十九世纪工程师的方式理解数学:工科负责在生产中划定问题,数学(或任何纯理论学科)负责发展一套机械工具解答它们。对于数学的其余部分,也就是顺应数学自身趣味提出的部分,则兴趣寥寥,甚至认为是不务正业。

对此,一个折中的辩解是:人类无法分辨一个数学问题在未来是否有用,只能广撒网——允许做一切可做的数学问题。万一未来星际飞船上,某个天马行空的命题突然变成现实工作呢?出于这种宽容,工程师们点头默许了数学家的玩耍——向他们无尽的百宝箱中添加收藏,或者,近乎徒劳地开采百年后才会兑现的稀薄矿床。

然而,数学的工作方式完全不是这样。《具体数学》探讨过「数学问题的五个层级」 :

假设我们感兴趣的对象组成集合 X。

层级一:求证关于特定对象 x_0\in X 的命题。

层级二:求证对所有 x\in X 都成立的命题。

层级三:证明或推翻一个层级二的命题。

层级四:命题在 X 上不总成立。探究命题在 X 的哪个部分成立,找出命题成立的充要条件。

注意,我们不能答「命题 P 成立的充要条件是命题 P 成立」这种废话,这说明层级四开始对答案有某种「审美」,或至少是「超出对错的标准」,它似乎希望你把这个条件简化或清晰化

层级五:给定 X,探究其元素的某种有趣的性质。

什么是「有趣」?这里甚至已经没有命题和对错……

作者对层级五的评价是「在学生眼中充满混乱和疯狂」 ,然而,「这才是真正的数学」 。是的,在中学阶段,大家接触的基本都是层级一的问题——数学的末梢,和数学真正的使命相距甚远。

什么是有趣的问题?著名的大猜想当然是有趣的问题,这造成一个误解,似乎有趣的问题就是难题。实际情况是,有趣的问题是那些不太难又不太简单的问题。或者说,那些我们能取得进展的问题。

什么是「进展」?进展基本上是发现:看似复杂混乱的表象居然有一个简单的规律。或者,看似复杂混乱的命题居然有一个简单的充要条件。

如果问题过于简单,表象距离它的本质很近,「进展」就过于短而没有价值;如果问题过于难,「进展」则不可能得到。这两座大山,一左一右,分别称为「显然」和「不可做」,只有极少数问题能钻过两山之间的缝隙,被人类捕获。

过于简单的问题大家熟知。过于难的问题,例如对某个充分大的 N 计算 {\rm BB}(N),很可能穷尽人类文明的力量也无法得到;即使给出对这个问题的最简化的理解,人类(或宇宙中诞生的任何智慧)也无法接受。

刚才我们说明了,数学有自己的审美,或者说「直觉」,来自行发现问题;它不只是被应用学科牵引的一群零星的末梢。

更有趣的是,数学直觉,作为应用学科自身直觉的重要补充,数百年来一直在指引应用学科的发展。

假设某门应用学科关心的领域是 U, U 里面会有一些「有趣」的问题,学科的任务是发现它并研究它。然而,「发现」这一步已经非常困难,仅凭学科自身的直觉,可能无法做到。

数学是许多学科的上游学科,俗话说「上帝可以创造一个不遵守物理学的宇宙,但后者仍要遵守数学和逻辑学」。很多具体问题会归结为,或至少部分归结为(或者,引导出)某种数学问题(哲学也是这个道理),这意味着:

这解释了为什么数学是矿脉,而不是荒地。数学家不是在随机抽卡,是在做一些真正有意义的探索。按照数学线索,你可能发现一些具体学科不能独立发现的东西。

具体而言,从 1905 年狭义相对论提出到 1945 年原子弹爆炸,物理学的黄金年代,各路物理学家靠着数学直觉捕获了许多精妙绝伦的理论,有的甚至领先于实验近百年。有些研究者「几乎纯粹依靠数学形式来工作」——先在纸上把数学结构摆弄到符合美感,再问世界是否配合。

他们使用的数学是过去百年间,凭借数学之有趣标准「盲目」发展出来的。在那些数学家中,没有人预知到这些物理理论,更没人预知到实验结果,然而宇宙万物以另一种方式留下了它的痕迹;或者说,有趣的数学实现于宇宙万物之中,因为世界是有趣的,而又无法是不数学的。

当然,数学直觉和应用学科的直觉不能一分为二来谈,两者向来是相辅相成的,数学也从应用学科中汲取了很多养分,尤其是发展方向。

回到正题。我们刚刚已经说明了数学的直接价值(既是工具,也是某种直觉导航),基于这种价值,人们普遍关心纯数学,包括其中大猜想的进展。

然而,LLM 证明破坏了这种直接价值,准确地说,它撕裂了数学。解答命题是否正确的数学,已经远远甩下了为人类产生洞见的数学。

面对数十万行的 Lean 证明,数学家仍在迟疑,应用学科已经转头离去。毕竟,没人相信现实中的任何有趣结构必须用十万行来写,如果那是真的,我们也只能举手投降。(结果本身有意义,但过程已经无太大意义;甚至结果的意义都不大,毕竟不少人已经默认黎曼猜想成立多年了)

或许黎曼猜想的证明最终会被约化到足够简单、可以被人类理解,但纵观 LLM 证明的发展趋势,更长,更复杂是必然的。LLM 的读写、运算、记忆力都远胜于人,将它强行局限在人的框架内是不合理的,在不远的将来,数学研究必然会脱离人类的理解范畴。

我不想主张 LLM 害了数学,恰恰相反,LLM 拯救了数学,把它从孱弱的人类手中拯救出来,只不过问题是,它目前还没有拯救其他学科。数学是第一个飞升者,它和其他学科之间的直觉连接被切断了。(这种连接即使恢复,也将在 LLM 和新的 LLM 之间,人类没有资格参与)

更要命的是,人类在数学中的特权被废除了。数学曾是一个自由王国,数学家不仅考察它的各处,还有权且必须提出它的各处;相较而言,应用学科只能发现真理早就在那,在提问上,它们是不自由的。

如今,数学正在从一门理论学科变化为一门实验学科。数学不再拥有它骄傲的独特自由。数学家的工作将变为:从艰深庞杂的 LLM 证明中整理有趣之处,把它们细细打理成和旧时代一样的,人类可读的洞见。真理的客观性被冷峻地加强了。人类被逐出自由王国,再次徒劳地追逐和匍匐于宇宙(借由 LLM)向我们展示的真理之一角。

上文说到,LLM 证明破坏了数学的直接价值,主要是破坏了数学和其他学科的直觉连接。对于数学家而言,还额外废除了它们独享的自由地位。

这一节,我们继续谈谈数学的间接价值,即「培养人的智性」,这也是 AI 领域关注纯数学的重要原因。

人们相信数学难题是人类智慧的桂冠,也就是说,一个会解数学难题的 AI 很有可能是 AGI。

2015 年,也有一批人相信围棋是人类智慧的桂冠,这很符合当时大众的直觉,毕竟围棋冠军看上去用到了很多人类的通用能力。在 AlphaGo 问世之前(见知乎的早期讨论),人们普遍认为 AI 在围棋中战胜人类尚有本质困难,这个信仰的潜在原因是,「看不到任何实现 AGI 的迹象」。

后来,我们知道,AlphaGo 当然远远不是 AGI。李世石-柯洁败走后,AI 研究中棋类游戏也渐渐无人再提。

上一个被刷空丢弃的 Benchmark 是算法竞赛,2025 年,CodeForces Rating 还是新模型报告的重头戏,现在已经查无此人。

如今,数学也很可能正面临这个命运。LLM 摧枯拉朽地解决了许多数学难题,这是个好消息也是个坏消息。

好消息是,它进展神速,没有任何卡死的迹象。坏消息是,这些难题可能不如最初预期的那样,是人类智慧的桂冠,它们对 LLM 进化的反馈信号快要耗尽了。

你看,(广义的)模型训练也是一样,希望问题不要太简单也不要太难。太简单,对进化没有帮助;太难,又意味着我们的方法本质上碰壁了。数学曾位于两山之间,现在似乎要向着「显然」之山滑落了。

人们带着些恐惧地,仰望着那些仍大部盘踞在「不可做」之山的问题。这次人类不再有任何自负,这些问题遮天蔽日,可不是两朵小乌云。我们祈祷它们:不要太难,也不要太简单;得稠密,刷完一个还有一个,不能断开。一旦泛化性和 Scaling 的神话断开,我们也只能怒触不周了。

顺便闲聊:有什么问题还做不好呢?

第一个是具身智能。很难想象,AI 已经能嘲讽数学神话中那些最聪明的头脑,却还开不明白一辆汽车。到别人屋里通水管或许是 AI 时代最后被取代的一批工作。

第二个是智能体间交互,比如 AI 与人的交互。

我相信 AI (将)有能力把证明整理为人类可接受的模式,只是,这本质上是一个比证明更困难的问题(或者至少需要非平凡的额外工作),你可以叫它对齐。

两个智能体的对齐需要互相观测并建模。相比于观测物理世界,观测智能体有额外的难处。车企想增加观测到的信息量,只需多安几个激光雷达——观测是无责的。然而,智能体之间的交互带宽极其有限,对对方无限制的观测是不可能的——观测是有责的,不仅成本高,还会对对方产生不可避免的干扰。这也是为啥 LLM 解题一流,但在教学上仍然蹒跚学步。

本文完全由人类生成。