大家好，欢迎回到 S A I R 博客。最近，一家领先的商业 A I 公司一口气发布了七百多个数学证明，网上简直炸开了锅。很多人说，看来 AI 现在要取代数学家了。但如果你真去和数学界的人聊聊，我觉得就会发现，真正的问题其实不在于机器抢饭碗，更多是在于学术诚信、成果该归谁，以及数学本身的灵魂。今天我们请到了 YU Deng 和 Terence Tao，方便的话，请两位向听众介绍一下自己。
大家好，我是 Udan，我目前在芝加哥大学担任数学教授，我主要研究偏微分方程、概率论这些方向。我是 Terence Tao，我是加州大学洛杉矶分校的数学教授。我主要研究分析、数论还有组合数学，不过最近也在参与 AI 相关的工作，思考整个数学领域的未来。太好了，谢谢两位。在聊其他问题之前，我想先多问问两位对AI的态度。
我感觉总的来说，很多人是反对AI的。不过，我想听听两位更细致的看法。你们觉得AI可以怎么用在数学领域，或者现在已经在怎么用了？我觉得用AI是好事儿，这是未来的方向。用AI可以大大拓展数学研究的边界，只是我们得用的恰当。这一点我在今天上午的讲座里也提到了。这更多是在学术规范层面，也是在道德层面。当然，从技术上说，最近我们看到的这些证明，我觉得证明本身真的很了不起，里面有很漂亮的新想法。
我觉得现在可以先撇开这家公司做了什么之类的事情。只看证明本身，我觉得现在的情况真的很好。AI正在学习人的想法，也在创造自己的新想法。这些新想法我们现在也能真正理解，而且可以在这个基础上发展出我们自己的新想法。所以这是人和AI一起进步，这正是我想看到的。现在好像人人都想把人分成两派，支持这个，反对这个。
但技术从来都要复杂的多。你可以问，你支持汽车还是反对汽车？你支持互联网还是反对互联网？事情从来没那么简单。每种技术都有好处和坏处。你可以只盯着好处，也可以只盯着坏处，但实际情况总要更复杂。AI肯定也是这样。AI让我们能做更多的事。很多过去很难的任务现在都可以自动完成，但同时也在取代那些慢得多却很有价值的做事方式。
理想的情况当然是两边的好处都能保留。坐车可能比人走路更好，但你不会希望凡事要走路的地方都改成坐车。有时候你确实想走走，可能是为了享受走路的乐趣，也可能是出于安全、环保或者其他考虑。所以，我们得设法找到合适的平衡，保留慢慢做科学、做数学的那些好处，也就是积累、理解、建立学术社群，让人类保持对这门学科的理解，同时用上这些非常强大的方法，把事情做得快得多。
但有时候，我们想改善的不只是速度。对，其实我想到一种很好的使用场景，比如有一个问题，你已经有了解题的思路，也知道具体有哪些步骤，只是发现做起来实在太复杂了。真正把这些细节做出来会花很多时间，但你大致知道该怎么做。这时把这些工作交给AI，我觉得就是一个很好的用法，能帮你省时省力，让你专心思考更根本的问题。
对我觉得很有道理，尤其是刚才说这更像是一个动态的过程，而不是完全支持或完全反对。我觉得这一点很重要。这也把我们带回了刚才提到的那件事。很多人说这是这家商业巨头在搞噱头，刚发布不久，他们就不得不撤回了三篇预印本，原因只是基本的正负号错误，而且大家发现文字叙述和链代码严重脱节。一家大型科技公司以这么快的速度把这些还不成熟的证明一股脑的公开出来，确实会造成污染学术文献的问题。
所以我想问的是，我们怎么才能阻止别人也这么做，同时避免大家浪费自己的时间，免费替这种东西找错？对，我觉得我们需要改变激励机制和价值体系。这些科技公司解出了这些问题，就大张旗鼓地发布新闻。部分原因是我们数学界也很看重解除这些问题，因为过去一个人解除这类问题，他就会理解得很透彻，也能讲得很清楚。他能根据自己的工作提出新问题，还能培养学生，这些事情原本都是连在一起的。
我们会为解出问题颁奖，但真正奖励的其实是更广泛的这些工作。解出问题只是最容易拿来衡量的指标，可现在 OpenAI 和其他这些公司解出这些问题几乎只是顺带的、无意间的结果。对他们来说，这只是个有用的 benchmark，用来训练模型更广泛的能力。可以说，这就像一种有毒废料，是个副产物。结果他们得想办法处理，或者得由我们来处理。
所以，我觉得我们确实需要把话说得更清楚。我们需要的并不只是解除这些问题本身，我们想要的是更广泛的理解，还有洞见。理想情况下，生成这些证明的公司也会和我们合作，帮助把证明解释清楚。也许在开始之前就请一些数学家参与，而不是等事情做完了再试着收拾。所以，可以有一些供大家采用的最佳做法，但我觉得现实一点说，大家还是会继续这么做。
到了一定时候，我们只能说。如果你只是解出了问题，却没有带来其他这些有价值的东西，那这些结果就不会成为我们学术文献的一部分。我们以后会去看的。OpenAI这次公布的结果里就有十二个我自己关心的问题，总有一天我会去读。但这目前不是我们优先要做的事儿。他们目前对这些结果的解释还没能让我特别感兴趣，但我们最终还是会去看的。
只是比起他们跟我们合作的情况，速度要慢得多。对我一直很认同加深理解这个想法，基本上我是这么理解的。我们为什么做数学？不同的人可能有不同的答案。对我来说，答案就是理解这个世界。这里说的世界既包括现实世界，也包括抽象的数学世界。那我们说的理解是什么意思呢？其实这里有两条边界，一条是在所有问题里面把已经有证明的问题画出来的边界。
还有另一条边界，就是在已经有证明的问题里面，再把我们理解了证明的问题画出来。只是一开始，也就是以前第二条边界没什么意义，因为只要有了证明，就会有人能理解。现在如果只有 AI 知道一个证明，那就出现了第二条边界。我们的价值观其实一直是一致的，只是情况变了。现在价值观在形式上有了变化，但在我看来，我们做数学一直遵循的都是同样的价值观。
这也带来了成果归属和公平的问题。看了菲尔兹奖得主的公开信，我想我们的问题是：当一家商业公司做这种事，想展示自己的算力时，他们拿走的到底是谁的功劳？因为仔细想想，从某种意义上说，这基本上就是把别人的工作提炼出来，因为他们从其他研究、其他论文里获取数据。那我们到底该怎么追溯这些来源呢？学术界遵循开放科学的原则已经有几百年了。
我们把科学文献看作大家共有的资源，所以我们发表论文，收到这些论文，期刊是要付费的。这方面确实有一些值得讨论的问题，但先放在一边。科学文献本来就应该向所有人开放，大家也应该使用别人的文献，当然要恰当的引用，这样才能追溯想法的来源。科学就是这样向前发展的。而现在有了一种技术，可以把科学家和数学家一千年来的全部文献拿过来，用一种不太透明的方式把这些文献转化成答案。
这些AI能给出答案，有时候还会说：“哦，我用的是这篇论文里的某个结果。”有时候啊，AI实际上没法一直追溯到源头，或者没有展示这些想法是从哪儿来的。所以，想法传承的链条开始被我们打断了。确实就是这样，这真的很可惜。因为解出一道题时，我们学到的东西里有一部分就是这个解法受到了哪些工作的启发，有哪些关键想法，其实在已有文献里就已经有了雏形。
也许这只是暂时的，也许未来的AI会更善于追溯来源，但目前的技术在这方面做得很差。而且，我觉得科技公司有动机淡化这一点，因为他们想让人觉得这些AI仿佛是凭空解决了这些问题，没有用到任何前人的成果。但AI也是建立在人类几千年的努力之上的，就像人类科学家一样，只是有时候会注明功劳属于谁，有时候不会。这方面，他们需要做得更好。
对，总体上就是这个情况，还有一些更具体的例子。AI直接用了别人之前输入ChatGPT的想法，就生成了一个证明。这类事情，我觉得最终的目标是做出一个真正能让你追溯想法来源的东西。当然，就现在来说，如果能看到 AI 的思维链，那至少还能大概知道这些东西是从哪儿来的，查阅了哪些资料之类的。但连这个都看不到，这实在太荒唐了。
不过，当然，如果我们想做出一些东西不依赖这些大公司，那这就是我们要追求的目标之一。我觉得总体来说，看这件事实际发展的过程，产业界和科学界之间似乎有些脱节，感觉脱节的地方在于他们是怎么对待这些问题的，对吧？因为我觉得对他们来说，这真的成了一种炫耀实力的营销手段，在一些人看来，可能失败的相当惨。不过说到这个问题，我觉得这也需要我们认真努力，就我们能做些什么达成共识。
那么 Terry，你是 S A R R 基金会的主席，我们最近共同推出了新的开放数学模型，我想聊聊这件事。你牵头做这件事最初的愿景是什么？为什么你相信开源模型能给数学家带来一些闭源模型做不到的帮助？对我们创立 S A I R 的时候，我的愿景之一就是为数学界提供工具，由数学界自己开发，也符合数学界的价值观和目标。
大型科技公司给了我们一些有用的工具，我经常用这些专有模型。我的很多同事也一样。有时候这些工具确实很契合我们的工作，比如他们的文献检索工具现在一般都很强，也很实用。而且如果我们变得很擅长检索文献，也不会破坏我们对研究课题的理解。但正如我们看到的，有时候这些工具给出了证明，却没有带来任何理解；有时候引用也不完整，这就打断了文献传承的链条。
所以我们一直有个愿望，就是不依赖大型科技公司，充分听取学界的意见，自己开发工具。所以我们讨论了很多不同的方案，后来觉得一个数学领域的开源模型，再配上方便使用的框架，让大家不用自己部署，也不用自己买GPU，应该会很有用。于是我们定了个长期计划，打算把这些做出来。但过去几个月，这些重大成果突然发布了，一下子很多数学家都特别想知道，除了通过那些前沿科技公司，还有什么别的方式可以用AI。
所以我们加快了OpenMath OS的发布。所以我们现在还没有新模型。起步阶段，我们用的是现有的开源模型，但至少已经有了围绕模型搭建的操作系统。我们希望现在就能派上用场，把模型和工具整合起来，让大家能一起协作。我们也在召集很多团队来出主意，提供数据和训练支持，提供算力。也有很多合作伙伴希望再过几个月就能有我们自己的模型，在现有平台的基础上继续开发。
所以，我非常期待看到这个社区怎么发展，以及我们接下来几个月会发布什么。那 Yu Deng 是什么让你想跟 Terry 一起参与这个项目？这个项目的哪些地方让你觉得很受鼓舞，甚至直觉上就觉得该这么做？我想，我认同这个项目，想参与进来。原因很简单，就像你说的，科学一直都是开放的，所以像用 AI 做科研这样的事，也都应该是开放的，不应该建立在任何闭源的 AI 工具之上。
对我最早是在国际数学家大会期间联系上 S A I R 的人，当时我们讨论过一些具体项目，但后来九月发生了那件事，就是那一连串事情让我们更迫切的需要这种开放数学模型了。与此同时，我一直跟南加州大学的朋友保持联系，发现他们也在做完全一样的事，制定的计划也完全一样。这之后，我觉得现在世界各地很多团队都开始做这件事儿了。
我觉得这是整个学术界的一个趋势，至少数学界是这样。整个学术界也会尽一切努力让数学和科学保持开放。当然，这些具体的工作都得去做，但基本想法就是这样。Ham，我也觉得有数学家在背后支持这件事很重要，不能只靠AI这一边，或者只靠数学家这一边。我觉得从双方获得必要的信息很重要。另一方面，有了这些模型之后，你们觉得人的创造力哪些方面会变得最重要？
AI怎么跟人配合才能真正帮到人，而不是取代人？关键是让人的能力变强，也就是想办法给科学家、数学家或者其他人提供工具，让他们用工具的时候，自己的能力确实在增强，人变得更聪明，对事情理解的更透彻，而不是为了从AI那里拿到答案就牺牲自己的能力。这跟任何一种技术都是一样的，比如汽车，你可以用，但如果去哪儿都开车，最后你会忘了怎么走路，或者身体会变差。
但这不意味着你应该彻底放弃汽车，你得有意识地把握好这些交通工具的用法。我觉得我们可以相信大家，尤其是年轻一代，他们可能会很焦虑甚至绝望，因为数学领域很多旧的规则都在变化。但我觉得，一旦大家清楚能做什么，尤其是手里有了这些工具，他们就会迎接挑战，想出很有创意的新事情，让人忍不住说：“哇，我怎么就没想到呢？
真是太棒了！”我对年轻一代寄予厚望，只要给他们合适的工具，他们就能做出了不起的。那真是太好了。对我来说，首先，AI是一种工具，AI本身就只是工具，本身没有什么好坏之分。重要的是围绕AI建立起来的整套体系。比如说，我觉得开放是一个关键特点，能让AI工具对学界有益，而且从长远来看也会让学界受益。接下来的问题就是，到了AI时代，哪些能力是重要的？
当然，就像Terry说的，未来会有很多使用AI的新方法和新想法。我先举几个例子吧，比如提问的能力，要问对问题；比如 AI 解答了一个问题之后，很可能总会带出几个新问题，难度大得多，也非常有意思，而且是直接从原来的问题里引出来的。然后你就可以开始探索了。我在幻灯片最后画过一张图。讲的是你可以怎么沿着AI的路线走，然后试着自己往新的方向开始探索，这就需要你问对问题。
还要有一个整体规划，至少对我来说，有些情况下 AI 能做得很好，前提是人已经对某个问题有了很好的理解，最好还有一个证明思路，比如照着某种方式做就能解决这个问题，那 AI 可能就能做出来。我的合作者 Byron Brinman 昨天刚给我看了一个例子，是一道具体的随机偏微分方程问题。大家大致知道该怎么做，他就拿 Astra 试了一下，对，就是 GPT Astra，结果大概一到两天就解出来了。
但这首先需要你对问题有很好的理解，有一个证明思路，诸如此类。当然，还有提出全新想法的能力，这些都可以说是让你能够引导 AI 的能力，也让你能够不依赖 AI 自己开展工作。这是我的理解。听到两位都说，即使 AI 越来越成为推动力，人的参与仍然非常重要，我觉得很欣慰。那今天就聊到这里，跟两位聊天很愉快，非常感谢两位来参加。
我们下次见。很高兴来参加。