球友会

最新动态

陶哲轩邓煜究竟在反对什么:AI暴力解题摧毁人类数学精神

衡宇 发自 凹非寺 量子位 | 公众号 QbitAI 面对近期AI大厂推进数学研究的方式,连一向与AI为善的陶哲轩都坐不住了。 刚刚,陶哲轩、邓煜等25位菲尔兹奖得主联合发起并作为首批签署人,发布了一份声明表示: AI公司推进数学的方式,已经与数学共同体的目标出现“severe misalignment (严重偏移)”。 因鉴于近期AI急剧发展对数学领域带来的冲击极为严峻,发起人未走流程繁琐的协商程序,而是选择紧急公开发布,以尽快回应危机。 过去几个月,大语言模型的数学能力急剧提升,已经能解决多个数学领域中重大的未决问题;但AI公司越来越倾向于把解决数学问题当作benchmark来推进的做法,对数学这门科学、对数学共同体都是有害的。 AI公司的目标与数学共同体的目标严重错位。 我们认为,这属于更广泛的错位问题的一部分,影响着其他科学与创意职业,乃至整个社会。 回顾过去半年,AI在解决数学难题方面频频取得了突破性进展—— 5月,OpenAI内部模型给出Erdős单位距离猜想反例。 7月,Claude参与推翻Jacobian conjecture。 9月初,GPT-6 Astra在孪生素数猜想方向上取得了新进展,用Lean形式化证明把连续素数间距的上界从246推到了186。 本周,OpenAI用1万个Agent跑了88小时,拿出Navier-Stokes证明,并由此引发出一场涉及OpenAI、Anthropic和两位数学家之间的罗生门事件。 单纯从数学进展来说,这无疑是好事。 但无可否认,由此还带来的一系列冲击和影响。 本周关于Navier-Stokes的实践更是成为直接导火索 ,促使25位菲尔兹奖得主在过去一周紧急商议,并迅速发表此联名公开信。 声明全文:https://mathandai.org/ 首先要说明,这份声明并不是呼吁or要求停止AI,或停止用AI来主导/辅助数学研究工作,也没有否认AI取得的这些成果。 他们的核心担忧集中在下面三个方面: 第一, AI解题速度开始超过数学共同体消化知识的速度。 第二, AI公司追求benchmark成绩,数学界追求方法、理解和知识传承,两套评价体系开始分叉。 第三, 当AI能快速完成开放问题后,数学研究的优先权、人才培养和开放文化都需要重新定规则。 Navier-Stokes争议暴露出无数个对AI与数学的灵魂拷问 几日前, OpenAI宣布用1万个Agent跑了88小时,解决Navier-Stokes (构造平滑外力使流体有限时间爆破,符合克雷题面C、D情形) 这一千禧年难题 ,而后引发了一场连环抓马,将纽约大学数学家Tristan Buckmaster和Anthropic研究员Levent Alpöge这两名人类一同裹挟进舆论场。 (故事具体详情可见:《难评!OpenAI刚官宣的NS方程大突破,被数学家手撕了》) 事件引发的争议,每一点都直击灵魂 : 一个研究者在AI工具里输入的Prompt,算不算未发表研究材料? 模型公司是否在得知数学家研究思路和进展的前提下,利用上万Agent暴力破题,抢跑成果? OpenAI提出的解决方案中,要求将Anthropic员工Alpöge排除在作者名单之外,是否违背数学研究精神、规则和常理常情? 顶尖模型接受过相关用户数据,那么怎么证明顶尖模型给出的数学证明成果是AI独立产生的? AI把“证明”做出来以后,谁负责把它变成人能理解的数学? AI声明暴力破解数学难题,并署名为个模成果,但后续一系列验证问题却要丢给人类数学家,这其中的各个环节是否合理? 此外,事件很快造成了数学界对大厂后台监控Prompt数据、窃取灵感并凭算力霸权抢跑截胡的强烈恐慌。 原本极度提倡开源共享的数学界濒临陷入寒蝉效应,研究者犹豫是否还能向对话框透露半成品思路。 大家会不会被迫从开放协作走向防御性闭门造车,造成学术生态的严重倒退? 这些问题错综复杂,相关问题越探讨越多,越探讨越说不明白,以至于相关争议愈演愈烈。 总而言之,抓马事件引发的警示,以及余波带来的惊慌无措,说不完,也说不清。 大家爱玩的《三体》梗之一,是“不要回答,不要回答,不要回答”。 现在,所有困惑、担忧和揪心的点,只能化为一句—— 无法回答,谁能回答,到底该如何回答? 25位菲尔兹奖得主联合声明的重点 数学这门科学的意义,不只是解题、证明与寻找新方法 声明中首先表明了数学家眼中的数学、数学问题、数学证明和数学研究等,原本应该是什么样的。 在数学家看来, 一个著名数学问题长期以来更像一个地标和灯塔 (landmark and lighthouse)。 数学家通过解决它来检验,人类对于某一片数学领域究竟理解到了什么程度。 因此,一道重大问题被解决之后,研究工作通常还会继续很久。 数学共同体需要理解新的证明、识别其中出

about image