GPT-6 Astra 的 105 萬 Context 不是永久記憶

拆解 Context Window、Codex Retrieval、持久檔案與決策紀錄的分工。

Buda Team
返回部落格
GPT-6 Astra 的 105 萬 Context 不是永久記憶

GPT-6 Astra 的 105 萬 Context 不是永久記憶

GPT-6 Astra API 支援 1,050,000 tokens context,足以放入大型 repository、長 research trail 或大量 documents,但仍不是 permanent memory。

OpenAI 也為 Codex 加入另一層能力:active window 滿後,Astra 可跨窗口保留 notes 並搜尋 earlier messages/tool outputs。這是 harness feature,不會自動把所有舊資訊變成 trusted record。

正確架構有三層:active context、retrievable history、persistent source of truth

三層Context讓長期Agent保持方向

Context Window 是 Working Attention

Model page 列出 1,050,000 context window、128,000 max output;OpenAI 報告 Astra 在 512K–1M 的 8-needle MRCR 為 96.3%。這是 provider-reported result,不保證每個 detail 都能正確 recall。

Large context 不會解決 stale instructions、版本衝突、source labeling 與 irrelevant material cost。超過 272K input tokens 還有更高 API pricing multiplier。不要把全部資料丟進 prompt 當成 architecture。

Codex Retrieval 找回 Earlier Windows

過去 compaction 可能漏掉 failure reason 或 component behavior。OpenAI 表示 Astra 可保存 cross-window notes,並搜尋較早 messages 與 tool outputs,包括 notes 未記錄的內容。Launch 時這是 experimental config。

Searchable history 回答「以前觀察到什麼」,不回答「現在批准什麼」。Previous test 可能 stale,old requirement 可能 superseded,retrieved message 也可能只是 proposal。

Persistent Files 保存 Authority

Long-running work 需要 current brief、approved requirements、source files、decision log、test evidence、final deliverable,並記錄 owner、date、review state。

Buda 每個 Agent 有 persistent Drive 與 cloud computer,可使用 browser、terminal、files、Git、Skills、Channels、Automations。這是 workspace persistence,不是 perfect model memory。Reviewer 直接檢查 artifact。

QuestionContext WindowSearchable HistoryPersistent Record
JobCurrent reasoningRecover observationsPreserve accepted state
FailureAttention/conflict/costMiss/stale resultWeak ownership/review
ContentCurrent task packetMessages/tool outputBriefs/sources/decisions
AuthorityModel interpretsHarness retrievesNamed owner reviews

建立 Context Packet,而不是 Context Dump

維護 current brief、authoritative source index、decision log、evidence log、next checkpoint。Active window 放 packet 與當前材料;history search 找回細節;persistent files 固定 approved state。

維護Context Packet而不是堆滿百萬Token

Million-token Window 何時有用

Repository-wide refactor、contract comparison、literature synthesis、multi-document investigation,以及用大量 sources 核對 deliverable,都需要同時理解跨檔案關係。

但 task 跨日、換 owner 或產生 consequential decision 時,record 必須獨立於 model call 保存。

啟動 Long-running Agent 前的四問

  • 哪些 files authoritative?
  • 哪些 earlier decisions 仍 active?
  • 哪些 history 只能當 background?
  • 哪個 output 必須 human acceptance?

Astra 擴大 working attention,Codex 改善 continuity,persistent workspace 保存 accountable work。三層不要混用。

了解 Buda Agent Workspace

來源