先蒸餾全人類,再鎖上思維鏈,菲爾茲獎得主攤開這筆帳
「你不能只在你蒸餾全人類的知識時支持蒸餾。」
這句話出自菲爾茲獎得主鄧煜,最近被知乎的討論題單獨摘出來掛在標題上(來源:平臺討論)。演講全文以「聲動」為題在網路上刊出(來源:公開報導),主題寫得直白:AI 時代的數學研究,人永遠是主體。整場演講他沒有點名任何公司,只稱「某 AI 公司」,但日期給得足夠清楚,數學圈很少有人會錯意。
時間軸是這樣的。10 月 6 日,這家公司一次公布涉及 300 多個問題、700 多篇文章;再往前一個月,它才發布過千禧年難題中帶外力項 Navier-Stokes 方程包裹體構造的證明。對照日期與內容,這條時間軸與近月接連交出數學證明的 AI 公司發布紀錄相接,我們先前記錄過掛谷的針轉了一百年、這回由 AI 交卷的那一波,當時 Lean 形式化驗證和千禧年懸賞的傳統,就已經被翻出來討論過一輪。
這是在講哪一家公司?
鄧煜給足了線索,也先給足了肯定。他自述看過 10 月 6 日那批文章裡的幾篇,判斷「相當一部分都屬於數學上非常重大的進展」:多數工作建立在人類對相關問題的既有理解與技術上,AI 或者把不同領域的技術組合起來,或者沿著人類已有思路往前推,也有一部分是直接跟隨。
演講裡他把界線畫得很清楚。成果本身的價值,和 AI 公司在事件裡的行為,要分開評。前者他大方承認對數學研究有促進作用;後者,他用「可以商榷之處」的說法帶過,然後花掉演講後半段逐條攤開。
AI 做數學,贏在哪裡?
在批評之前,鄧煜先老實算了 AI 的兩項優勢。
- 知識面。 人的時間精力有限,不可能對現代數學所有領域、所有技術都有深刻了解;AI 靠學習、蒸餾網路上所有人類數學文獻,可以把整個知識面裝進來。
- 試錯成本。 人走一條思路,做了幾個月發現不行,時間就白費了;幾千個、上萬個並行運作的 AI 代理可以同時嘗試各種思路。他說得坦白:要跟 AI 比速度,人沒有任何希望。
所以他把前提釘死:人是主體,AI 是工具。人負責把握方向,把思路變成路線圖,行不通的節點交給 AI 微調、補上技術細節。短期內會出現他稱為「共同進化」的循環:AI 基於人類的理解長出新技術,人再學 AI 的證明長出新思路,然後餵回去。在他看來,數學研究沒有理由拒絕這樣的工具,重點在使用方式要對。
「防蒸餾」擋住的是什麼?
防蒸餾是模型圈的常用詞:公司限制外界拿自家模型的輸出,去訓練另一家的模型,隱藏推理過程是常見手段。
鄧煜的類比很簡單。很多人把 AI 模型當成一個虛擬研究者,讀遍網路文獻、形成想法、做出原創成果;既然要把它當成發表成果的研究者,就得按學術界的標準來評判。他接著搬出三條慣例。
- 交代思路。 人類數學家做出大結果,界內會邀請他做各種由淺入深的報告,講清楚證明怎麼來;對 AI 來說,對應的東西是思維鏈。而該公司公布的證明裡,只有極少數真的附上思維鏈,其餘多以防蒸餾為由拒絕。
- 標明出處。 人類研究者整個證明跟隨別人的思路,有責任指出來。演講提到,不止一位數學家發現,自己先前餵給模型的想法,幾週後就出現在這家公司的最新發布裡,做法與證明都極為相似;而文章裡多半看不到相應的說明。
- 保證正確。 鄧煜認為這完全可以用形式化的手段做到,先驗證再發布。實際情況是文章在沒有正確性保證下直接公開,事後被發現多於一篇存在錯誤,甚至有文章遭到撤回。
三條對完,那句被摘出來的話就有了落點:模型靠蒸餾全人類的文獻長大,輪到自己該交代思路時,卻用防蒸餾把門關上。知乎的提問也順著這條線展開:如何看待模型廠的反蒸餾?
數學圈怎麼接這一球?
這場討論被放進知乎的公共廣場,也接回了數學界自己的規矩。從中學考卷上被老師圈起來的那個「略」字開始,到論文答辯被追問動機,再到期刊審稿核對細節,數學這一行的信任基礎,一直建立在「交代你怎麼想的」上面。arXiv 讓發表變快,正確性仍交給同行覆核。千禧年難題自 2000 年由克雷數學研究所掛出百萬美元懸賞以來,每一份宣稱的進展,都得過這一關。
AI 的交卷方式,把這套節奏推到了牆角。一次七百多篇的量,同行覆核追不上;思維鏈不公開,思路來歷無從查證;錯誤在發布之後才被發現。鄧煜在演講裡反覆說,數學研究沒有理由拒絕這個工具;他扣住的是交件規格,答案交了,過程扣住。
社羣消化這類大新聞的方式,向來是各自翻譯成自己的語言。先前OpenAI 交出三份證明、B站搜尋頁在教刷卡訂閱的那一週,影片平臺前排被訂閱攻略和跑分對比佔滿;這一回輪到數學圈,翻出來的是引用規矩和驗收流程。同一則新聞,兩份使用說明書。
人機要怎麼共同進化?
演講的最後,鄧煜沒有收回任何一句肯定。人定方向、AI 跑細節的分工他照舊,共同進化的循環他也照樣期待;他堅持的只有一件事,工具要有正確的使用方式,而使用方式的第一步,是把交件規格談清楚。
幾個走向已經在討論裡浮出來。思維鏈會不會像程式碼與資料集那樣,變成發表的標準附件;形式化驗證會不會從選配變標配;數學家或許也會重新考慮,哪些還沒發表的想法適合敲進對話框,畢竟幾週之後,它可能出現在別人的發布會上。
演講的標題下得節制:AI 時代的數學研究,人永遠是主體。真正懸著的是下一題。當你把一個還沒發表的猜想餵給模型,兩週後它以幾乎相同的證明出現在投影片上,這該叫做合作,叫做引用,還是叫做蒸餾?