大家好,我很高兴受邀参加由《知识分子》主办的AI与数学论坛。近期数学界风波不断,我相信大家对AI在数学研究中的作用以及数学家应扮演的角色各有看法。对我而言,这也是表达个人观点和对未来期待的好机会。我今天要讲的内容分为两部分:首先是关于1月6日某AI公司宣布设计出300多个问题和700多篇论文的事件;对于这些论文本身,我大致阅读了几篇。据我理解,这些工作中——当然我认为其中很大一部分——属于非常重要的类别。
实际上,大多数工作,包括之前的AlphaGeometry成果,都可以说是基于人类对相关问题已有的深刻理解和现有技术。在这种情况下,AI要么巧妙地结合了来自不同方向、不同领域的多种人类技术,要么基于现有的人类思维和方法创新了新的技巧或想法来解决问题。当然,也有一部分问题的AI证明直接遵循现有的人类推理逻辑。我听到不止一位数学家提到,他们此前输入给AI模型的想法和思路,可能会在该公司最近的发布中 shortly 出现;而且基本上如果不是完全相同,也是极其相似的方法和证明。
我相信这种情况确实存在。从中我们可以看到AI相对于人类的优势:一是拥有无限的知识库;对于人类来说,时间和精力是有限的,因此不可能对所有数学领域的当前技术和所有技术都有深入的理解。然而,AI通过学习或浏览网络上所有的人类数学文献,能够实现这一点。另一方面,对于AI而言,它拥有极低的实验成本,或者更准确地说,试错成本极低。对于人类来说,如果你尝试某种方法并花费数月时间研究却发现行不通,那段时间就浪费了。但对于AI来说,特别是
当有数千或数万个智能体协作时,它可以尝试各种方法并以极高的效率进行试错。因此在这方面,如果人类试图在速度上与AI竞争,那是完全没有希望的。我想强调我们必须始终牢记一点:无论是在数学研究还是其他任何领域,人类始终是主体,而AI只是工具——一种我们人类用于研究的工具。因此在我接下来的讨论中,我认为这是一个基本前提:在数据和各个方面,我们始终坚持以人为本,利用AI作为工具来推进我们自己的研究并追求我们所感兴趣的问题。
在此假设下,我们将发挥引导和控制方向的作用。实际上,在我们要控制的方向指引下,我们可以利用AI进行大量的实验和尝试。因为一旦我们有了想法就需要将其转化为具体的路线图,而路线图的每一步都需要对细节进行大量考量。例如如果路线图行不通可能需要微调某些步骤或节点;所有这些包括具体细节都可以由AI处理,这是其中一个方面。另一方面我们知道AI可以结合不同领域的方法和技巧形成新想法而这些想法当然也是我们可以学习的东西。
我可以看到短期内我们将出现人类与AI共同进化的局面:即基于人类对问题的理解,AI开发新技术和新见解以解决新问题。然后我们可以从这些证明中学习发展出我们自己的新想法和新方法,再将其传递给AI,从而在持续的过程中相互促进。因此针对这些论文本身我觉得它们的存在对数学研究是一个巨大的推动力。所以我们可以看到对于AI作为研究工具的价值及其对人类的作用,显然没有理由拒绝使用这样的工具;我们只需以正确且适当的方式使用它们即可。
关于这一点我必须提到,对于10月6日(注:原文前文为1月6日此处疑为口误或指代另一事件,依原文翻译)发布的问题和论文,我认为它们确实对数学有益。但是关于AI公司在整个过程中扮演的角色以及其行为是否值得商榷,我认为这两点必须完全分开看待。许多人将AI模型本身视为从网络文献中学习形成自己对问题观点、进行原创研究并得出结果的研究者。如果我们将其视为在数学社区发表成果的研究人员,我们就必须按照该社区的标准对其进行评估。
在此评估下我们有几个标准:首先作为一名研究人员如果你取得了非常显著的成果,其他数学家很可能会邀请你进行各种演讲以深入解释它。这些演讲的主要目的是解释你是如何得出证明的,具体而言是形成你证明背后的推理过程。如果AI证明了某个重大问题我认为要求AI公开其思维链是一个非常合理的要求。然而很明显这些AI公司不愿意这样做;他们不想做这样的事。在他们发布的所有证明中只有极少数真正公开了思维链;大多数以“安全”为借口拒绝披露及相关的细节。
如果AI公司拒绝公布,这显然不符合标准的学术实践。关于许多人指出的“窃取”说法,AI公司不能简单地从网络上拿走所有人类知识并如此慷慨地声称拥有。没有人真的想偷他们的东西;人们只是想了解其思维链,但他们却表现得好像有人从他们那里窃取了一样并开始找各种借口。我认为这在任何意义上都不是特别合理的辩护理由。这是一个问题。
此外,作为一名人类研究人员如果你使用了别人的想法——特别是如果你的整个证明遵循了某人的方法——你当然有责任指出这一点。同样,在这些AI公司发表的文章中,在许多情况下我没有看到这样的披露,即使它们直接遵循人类的推理线索。最后对于人类研究人员来说你必须首先
在发表之前确保证明的正确性。针对这一点,AI公司完全可以利用形式化验证方法来确保准确性后再发布。当然,他们没有这样做;相反,他们在没有任何此类保证的情况下就发布了产品。事实上,我们发现他们后来发表的几篇论文中包含错误,其中一些甚至被撤稿了。
由此可见,至少在10月6日这一具体事件中,这家AI公司的行为是值得商榷的。当然,有人可能会争辩说,既然这是一家商业公司,他们就没有义务遵循学术标准。然而,如果我们从商业角度来看待这个问题,情况就会变得更加有趣。如果这是一家提供产品的商业公司,而我们是用户,那么作为用户的我们究竟获得了什么?
我们为产品付费,将我们的想法输入其中,而你们利用这些输入来训练新的模型。然后,你们使用这些模型来解决数学中的开放性问题,同时宣称所有的荣誉。所以,现在回头看,作为用户我们得到了什么?我们一无所获。至于AI公司,他们获得了经济利益和新产品。凭借这个新产品,他们可以收取更高的价格,并获得解决这些数学问题的声望。
如果我们用户一无所获,那么为什么我们要支付那么多钱给你们?我认为从商业角度来看,我们不应该拒绝进步;我们应该使用这些AI工具,但前提是我们必须以正确的方式使用它们。那么,什么是正确的方式呢?关于这一点我有几点想法。首先,这个AI工具应该作为工具发挥作用;它应由数学家或甚至只是数据爱好者来使用。无论用户是谁,操作者应该是人。
AI公司作为提供者,不应代替用户进行研究。这是第一点。其次,用户应有权选择——即能够轻松决定他们输入AI的数据是否可用于进一步训练。我相信这种选择权必须属于用户。接下来,我们需要可追溯性。例如,如果某人A将某些想法或思路输入AI,而AI从中学习——比如当后来有人B提问时,AI利用这些想法提供证明。
在这种情况下,有必要能够追溯回去,以便如果发表了使用该思路的论文,我们可以追踪到最初是某人A向AI提出的。我认为这不仅有助于避免许多优先权争议,还能让我们准确 pinpoint AI贡献了什么、人类贡献了什么,以及在所有AI生成的工作中具体是谁做出了什么贡献。我认为这在短期内尤为重要,因为数学界正处于广泛采用AI的过渡期。
在这方面,目前有许多团体和组织正在推动实现这一点,包括那些致力于开源数学模型的工作者。我认为我们可以通过开源模型来实现这一目标,因为对于许多AI公司来说,他们声称需要防止泄露以保护商业机密,这往往导致一些他们根本无法做到的事情。通过使用这些开源模型,我们可以首先确保我们的数学社区真正拥有一个属于自己的、牢牢掌握在自己手中的模型,而不需要依赖那些AI公司。
其次,正如我刚才提到的,我们对这些模型的使用遵循学术标准,包括数据使用、思维链的披露以及可追溯性。我相信我们可以实现我所称的对AI工具的理性且规范的利用。这大概是我想要提出的第一个观点:虽然这些开源模型目前在数学领域远远落后于最强大的模型,但我们可以通过进一步的训练和优化来缩小这一差距。
实际上,我觉得在许多情况下,整个数学界并不一定非要追求使用绝对最新的工具。对于整个领域来说,如果我们要早半年或晚半年拥有一个达到一定水平的工具,会有那么大的区别吗?我认为不会有显著差异。此外,我相信对于数学研究而言,主体仍然是人类;这是我想要分享的第一件事。
第二点关于未来数学研究的展望。我该怎么说呢?由于AI的数学能力仍在以如此快的速度发展,我们可能会在短期内看到非常迅速的变化,但……从长远来看,假设AI进化到足以独立解决极其困难的数学问题,那么数学家们的数学研究会是什么样子?届时数学家将扮演什么样的角色?我想就这个问题表达一些我的想法。
首先,我相信关键在于,在任何情况下,数学研究将始终以人类为中心。当然,AI可以解决问题,但人类至少能够提出问题、引导AI并指明方向。有些人可能会争辩说AI也能自主提出问题和探索,这确实如此,但回到我的主要观点,AI实际上就像一辆车。当我们开车时,我们设定目的地、提供方向并操控它到达目标;即使这辆车具有自动驾驶功能并能自己行驶。
如果我们在车外,那对我们意味着什么?假设未来AI变得足够强大,我认为它将对数学领域产生两大影响,而且我相信这两点都是积极的。首先,纵观当前的数学状况,确实存在一些問題。其中两个主要问题是:不同的数学分支之间似乎相当孤立;例如,从事数论工作的人可能不理解分析学领域的工作者,或者分析学家可能不理解代数学家。
如果你参加你研究领域之外的讲座,你可能会理解大致思路,但往往很难跟上具体的技术细节。另一个相关点是,现代数学似乎正逐渐脱离现实世界。同样地,因为实际问题在深入研究时往往极其复杂,它们经常超出数学家当前的技术能力。因此,人们可能主要关注所谓的“模型问题”。
虽然研究模型问题本身并非坏事,但如果大家都只专注于这些,他们可能会忽视其背后真正的现实、物理或工程背景。这两点是数学领域客观存在的实际问题。当然,有些人可能会责怪数学界……
如果数学家自己犯了什么错误导致这种情况,我认为这完全是不公平的。这只是因为20世纪数学的大规模扩张和快速发展所致。与此同时,科学领域也经历了迅猛发展。这就像宇宙的膨胀:任意两个固定点之间的距离自然会越来越大。数学也是如此,当每个分支发展到如此高级的阶段时,任何个人的精力自然有限。他们很难理解数学的方方面面;最多只能有一个大致的概览。
但我想要强调一点:人工智能的发展,特别是足够强大的人工智能,实际上可能帮助我们解决这些问题。例如,以我研究的偏微分方程(PDEs)为例。我们知道许多偏微分方程源于现实世界的问题,但往往这些真实世界的偏微分方程结构过于复杂。人类的思维方式无法直接处理如此复杂的问题,因此我们经常不得不考虑简化模型。我们在这方面发展了一些思想,但即便如此,在将这些思想推广到实际现实问题时仍会遇到许多技术困难。
举一个例子,以我关于玻尔兹曼方程的工作为例。这是一个所谓的简单模型——硬球模型。但一旦你将硬球模型扩展到更现实的模型,例如涉及某些相变的模型,你就会遇到许多挑战。虽然我们期望的总体方法完全相同,但具体的工作涉及许多技术难题。然而,借助人工智能,或许我们可以让人工智能解决这些技术困难,而我们则专注于全局图景和更大的框架。
这相当于说,一旦我们解决了这些简化模型的问题——利用人工智能我们可以推进到广义相对论等层面——我们就可以思考更深层的问题,例如缩放定律会是什么样子,或者如果你处理的是纳维-斯托克斯方程而不是基础方程会发生什么。基本上,我们将能够解放自己,从这些繁琐的细节中解脱出来,从而专注于更深刻的问题。这是第一点。当然,“更深”也包括那些更复杂且与现实更相关的问题。
关于第二点,它涉及不同数学分支之间的距离。同样地,作为个体,我们往往无法掌握每个学科的细节,但在人工智能的帮助下,我们不一定需要理解所有这些细节;我们仍然可以利用那些学科的方法论来辅助我们的研究。事实上,人工智能已经在这样做:它连接并整合来自不同学科的思想和方法以解决问题,而我们人类在这方面当然可以向其学习。
很明显,强大人工智能的出现将使不同数学分支之间的联系更加紧密,同时数学与现实世界的联系也将变得更加密切。在最后这几分钟里,我可能会再谈几点。首先,当我们说数学与现实紧密相连时,这绝对并不意味着数学家或数学领域会屈从于其他人,比如物理学或生物学。这是完全不可能的。
有些人甚至可能认为纯数学将会消失,数学家将被吸收进其他领域,但我认为这是不可能的。即使在19世纪,那些数学家的研究完全源于当时的物理学和工程学研究成果,但他们仍然是数学家;他们仍然在举办数学会议并求解数学方程。我相信,即使数学扎根于现实并被应用,它仍保持着自己的独立性——一种独特的思维方式和一套无法简单合并到其他学科中的视角。
例如,物理学家和数学家的思维方式往往大相径庭,而在研究数理物理学时,这两种思维模式都是必要的。其次,那些无法立即与现实世界联系起来的数学怎么办?这很简单:数学是一个整体。正如我所强调的,不同分支的数学在理论上应该是相互联系的;数学是一个统一的实体。因此,我们不能仅仅因为想更接近现实就只关注有直接应用的部分,而忽视那些可能没有即时实用价值的部分。
数学是一个整体;我们不可能只发展一部分而丢弃另一部分。因此,在这两个方面,我相信无论数学研究是否面向现实、是否具有应用性,都无疑会继续下去,因为所有这些构成了一个单一的整体。数学家毫无疑问将继续追求这项研究。关于人的因素的作用,正如我所提到的,它是绝对不可或缺的。
从更广阔的视角来看,作为人类最独特的品质或属性是什么?我认为那是我们的思考能力。我记得一句名言,可能是帕斯卡说的:“人是一根会思想的芦苇。”重点在于思考;将我们与动物区分开来的是我们独立反思、沉思和探索事物的能力。所以我想,好吧,我们可以假设未来人工智能会变得非常强大并能回答许多问题。但我认为在思考方面,人工智能无法取代我们。
如果我们因为人工智能而放弃独立思考的能力,我认为我们将与动物没有任何区别。如果有些人觉得让人工智能去思考和没问题,那我就没有理由在这里谈论这些了。我认为只要我们要保持独立思考和探索的能力——无论人工智能是否存在,数学都将是测试或反映这种人类能力的关键部分。当然,其他科学领域,包括物理学和生物学,我认为也是如此。
但我觉得数学在某种意义上是反映人类独立思考和探索的最纯粹方式。基于此,如果有人说在人工智能时代数学会消失,我相信这绝对是不可能的。但如果那真的发生了,我担心这意味着整个人类已被人工智能所超越。好了,谢谢大家。