跳至主要內容
Buzzdope Buzzdope
流行

把工作記憶撐大八成,GPT-6.1 Sol 的上下文開到 500k

Buzzdope 編輯室
把工作記憶撐大八成,GPT-6.1 Sol 的上下文開到 500k

還記得分塊餵食的那套手勢嗎?文件太長,先切段、標編號,逐段貼進對話框,中途還要停下來問機器人「第二段的結論還記得嗎」。那是 4k、8k 上下文年代與聊天機器人相處的基本禮儀。2026 年 10 月 12 日,OpenAI 工程師 Thibault Sottiaux(Tibo)宣布,Codex 與 Work 環境下的 GPT-6.1 Sol,預設上下文長度從 272k 提升到 500k,增幅約八成(來源:官方宣布,經 IT之家 10 月 12 日公開報導)。分塊貼文的舊禮儀,又往退場的方向挪了一格。

先把這次更新講清楚

  • 適用範圍:Codex 與 Work 環境中的 GPT-6.1 Sol,調整的是預設值。
  • 數字:預設上下文從 272k 提升至 500k,約增加 80%。
  • 官方說法:此舉可顯著降低上下文壓縮的觸發頻率,處理需要長期保留大量細節的任務時更從容;Tibo 也預告未來會繼續提高上限。
  • 彈性:仍可手動調高或調低,GPT-6.1 Sol 的上限為 1M。
  • 費用:配合這次調整,從訂閱扣除用量時,GPT-6.1 Sol 不加收長上下文費用。

逐條看下來,最影響日常體感的是兩條:壓縮更晚發作,以及加長記憶不另計價。其餘屬於工程端的從容,使用者感覺不到,只知道長文件不再那麼快「爆框」。

上下文的加長班表

context window 這個詞,是這三年才被大眾學會的。回頭排一張班表就會發現尺度變化有多快。

2022 年底 ChatGPT 剛開放時,上下文約 4k token,對話像在傳紙條,聊到第十幾輪,它已經忘了你是誰。2023 年春天 GPT-4 登場,8k 與 32k 兩種規格,長文件要拆著餵。2023 年 11 月 GPT-4 Turbo 把視窗拉到 128k,官方當時給過一個好記的比喻:大約三百頁英文文件。2024 年初,Google 的 Gemini 1.5 把 1M 搬上檯面,百萬一時成為各家競相展示的天花板。這次 GPT-6.1 Sol 的預設值直接站在 500k,手動可調到 1M。

照「128k 約三百頁英文」的官方比喻換算,500k 大約是一千兩百頁,幾本長篇疊在一起的高度。對照三年前那套切段、編號、逐段貼上的流程,變化是數量級的。

AI 圈一週更新的密度,先前我們在國慶七天排成連軌班表一文裡攤過。這類升級如今排隊出現,單條新聞的聲量容易互相稀釋,但放回班表裡看,才知道自己走到了哪一站。

壓縮發作之前,使用者都在做什麼

先解釋「上下文壓縮」。對話總長超過視窗時,系統會自動摘要前文、騰出空間,細節從縫隙裡掉出去。使用者社羣給這件事取過很多名字,最常見的是「失憶」:你在第 3 輪交代過命名規則,第 40 輪它換了說法,回頭翻紀錄,中間某段早已被摘要掉了。

為了延後壓縮發作,社羣發展出一套應對儀式。重要事項寫進自訂指示,每十幾輪人工總結一次,或者直接開新對話,像重開機一樣清空現場。預設值從 272k 拉到 500k,把壓縮的到來時間往後推了一大段,長任務不必再那麼頻繁地存檔重來。

順帶一提,上下文和 ChatGPT 的記憶功能是兩回事。記憶功能存的是偏好與背景,像長期記憶;上下文裝的是當下這一攤對話,更像心理學講的工作記憶。這次升級加大的是後者,一攤事能攤多大,決定了它能不能接手整份工作。

計費那端也有變化。在公開價目表上,超長輸入另計更高單價的做法並不罕見,長上下文向來被當成加購品。這次公告明寫不加收,加長記憶從選配變成了標配。

誰在用一千兩百頁的工作記憶

500k 的直接受眾很明確。Codex 是寫程式場景,一整個程式碼庫、一整條錯誤堆疊,連同相關文件一起擺進視窗;Work 環境面對的是合約比對、整季會議紀錄,或一份百頁報告的改寫。這類任務的共同點是細節不能掉,掉一處,結論就偏。

把鏡頭拉遠一點,這也是「AI 同事」敘事的新一行裝備清單。八月才上工的雲端同事,先前已經領到自己的專屬信箱,如今工作記憶再加一級。裝備愈齊全,它接手的任務就愈接近「整包丟過去」的形態,分派工作的人反而要重新練習怎麼把驗收標準寫清楚。

從懶人包到全文貼上

再往文化層看一層。中文網路其實早有自己的人肉上下文壓縮技術,名字叫懶人包。論壇時代一個事件吵上幾百樓,總有人出面整理來龍去脈,替後來者省下爬文的時間。懶人包的生產者,做的事和現在的機器一模一樣:讀完全部,壓縮成一份可帶走的摘要。

上下文視窗拉長之後,這個分工鬆動了。原始全文可以直接交給機器,摘要權跟著移交。懶人包不會消失,人們依然需要可信的中介者,但「太長不看」這句老話的解法,從等人整理變成自己貼全文。讀與不讀之間,多了一個選項:讓機器先讀。

「上下文」也悄悄變成了日常詞彙。三年前它還躺在工程文件裡,現在連非技術背景的使用者也會說「超出上下文了」「它沒喫到上下文」。一個技術名詞進入口語的速度,常常就是這項技術進入生活的速度。

記憶體加大之後,稀缺的是別的東西

機器讀得完一千兩百頁,人讀不完。記憶體加大之後,提問的方式跟著換了:從「怎麼把長文塞進機器」,變成「哪一千兩百頁值得塞進去」。分塊餵食的禮儀退場了,那麼下一個被升級淘汰的相處習慣,會是開新對話,還是懶人包本身?