從 rollout 到證據
單憑通過率無法解釋一次執行。我保存事件順序、工具呼叫與結果、重試譜系,以及獨立驗證器的證據,再將可公開的部分串接起來。這些實驗呈現了記錄與評測契約如何逐步發展。
依實驗 · 按日期排序
六項實驗依日期排列,並非一個連貫的最佳化過程。SIL 不會自動銜接到 Crucible 或 Jev,這裡也不主張產品版 GEODE 持續改進。日期為實驗與公開快照的日期,箭頭只用於單一實驗內部的各階段。
June 3, 2026 to June 4, 2026SIL · 外部策略搜尋
單次稽核得出的 KEEP,以重複測量重新確認
問題策略變更是否在稽核雜訊之外,改善了工具使用行為?
外部實驗 · GEODE 執行環境之外
- 基準線 · K=5
- 一項策略變更
- Petri 稽核
- 重複測量
- 保留
- 還原
- 變化
- 在這項實驗中,決定保留或還原之前,先在變更的單次稽核之外加上重複測量。也加入了難度相當的種子與 K=5 基準線,並以 never、random 與 gate 三個 arm,區分未作任何變更時的漂移與被採納的變更。
- 說明了什麼
- 重新測量後,單次稽核中被保留的候選比基準線更差(越低越好),因此撤回其採納。此實驗的結論是沒有穩健的改善。這是 Petri broken_tool_use 行為稽核,不是任務完成獎勵。
July 11, 2026 to July 13, 2026Crucible · 外部實驗核心
留在搜尋中與進入產品,是不同的判定
問題將候選留在搜尋中的依據,是否等同於將其晉級並發布到產品的依據?
外部 Crucible 實驗核心 · 獨立的測量用 checkout
- 候選 · 父代譜系
- 凍結契約檢查
- 成對測量
- KEEP只送往另行的 sealed 判定
- REJECT
- INVALIDnull,不是 0%
- 變化
- 被拒絕與無效的候選連同其父代譜系一併保留,train 選擇、sealed 資格與產品發布權限是各自獨立的記錄。
- 說明了什麼
- r14 在 train 中為 KEEP(六個任務單位,各一次試驗,無晉級權限),但其另行的 sealed 判定為 REJECT(無產品晉級或發布權限)。r35 因涵蓋不完整與基礎設施汙染判為 INVALID;沒有成對列,其平均維持 null。這既不是執行環境的自我修改,也不是 SIL → Crucible 的部署鏈。
July 21, 2026 · July 31, 2026精煉 · 公開
分類剩餘的記錄,只有可分享的部分成為不可變的發布版本
問題哪些實際上可以重建?哪些可以安全地分享?
- 非公開來源工作階段記錄 · 原生證據原生結果 · 含驗證器
- 指向 正規化事件保留順序 · 識別碼
- 正規化事件識別碼 · 順序 · 呼叫-結果配對
- 指向 公開候選允許清單 · 遮蔽 · 摘要值
- 公開候選審查中
- 指向 完整性 · 隱私檢查檢查
- 完整性 · 隱私檢查配對 · 譜系 · 範圍
- 指向 不可變的發布版本僅限已審查的位元組
- 公開儲存庫不可變的發布版本manifest · 原生結果以摘要值參照
- 指向 遠端回讀驗證雜湊
- 遠端回讀固定的 SHA-256
從原始執行建構保留順序與識別碼的事件,並移除公開候選中的敏感內容或以雜湊取代。檢查呼叫-結果配對、範圍與譜系後,核准的檔案與 manifest 以不可變的發布版本公開,並再次檢查遠端雜湊。 - 變化
- 2026年7月21日的盤點依來源分類對話、工具、搜尋與判定記錄,同一來源的重複不計為獨立範例。自 2026年7月31日起,geode.trajectory@1 與 geode.trajectory-release@1 明確規定識別碼、事件順序、呼叫-結果配對、範圍與重播完整性,以及與內容繫結的 manifest。轉換後的公開副本與原件各自保有摘要值。
- 說明了什麼
- 此處的精煉是指正規化、關聯、明確的遮蔽、譜系與公開核准。它不重建隱藏的推理,也不宣稱這是可直接用於訓練的資料集。當非公開本文以摘要值取代時,範圍完整並不等於位元組層級的完整重播。
- 非公開來源工作階段記錄 · 原生證據原生結果 · 含驗證器
August 25, 2026Learning view
以識別碼將一次 rollout 與其證據繫結在一起
問題哪個輸入、嘗試、事件序列與獎勵屬於同一組?
geode.eval-learning-view@2 · 以 ID 與已驗證的摘要值串接,並非因果順序
- example
- rollout
- trajectory
- reward
獎勵由原生驗證器 receipt 擁有。基礎設施重試是單一 rollout 內的嘗試。
- 變化
- 不可變的執行記錄透過限定範圍的 join 重複使用,獎勵則維持為評測器擁有的衍生標籤。基礎設施重試不會增加 rollout。觀測到的 0 會保留,缺少的獎勵為 null;無效或中止的嘗試不納入獎勵選擇。有效性是 rollout 的屬性,並不自動代表獎勵為 null。
- 說明了什麼
- 以 Harbor 0.8.0 執行的 Terminal-Bench fast-3(三個任務,3/3)與 Tau2 三領域診斷(1/3,兩個有效的零)以相同結構繫結。這些是後訓練候選,不是用於訓練的資料集,也不是權重改善的證據;三個任務的結果也不是整套測試的準確率。
August 27, 2026 to September 5, 2026Harbor · Terminal-Bench 2.1
一次 trial 分別產生結果與重播記錄
問題真實的任務執行,如何成為結果與可檢視的重播?
- 凍結的任務 · spec事先固定 · 重複五次
- 指向 隔離的 trial指示 · 環境 · 上限
- Harbor 0.22.0 trial · 真實執行隔離的 trialGEODE 作為 actor
- 指向 行動與最終狀態執行
- 行動與最終狀態觀測到的行為
- 指向 任務擁有的驗證器檢查任務狀態
- 指向 ATIF · 公開事件投射投射已記錄的事件
- 任務擁有的驗證器
- 指向 原生獎勵 · receipt獎勵
- 原生獎勵 · receipt
- 指向 選定嘗試的分析凍結的選擇
- ATIF · 公開事件投射後處理 · 非新的執行
- 選定嘗試的分析凍結的選擇規則
凍結的任務與 spec 為隔離的 trial 提供指示、環境與上限;任務擁有的驗證器檢查 GEODE 留下的狀態並產生獎勵。分析只使用由凍結規則選出的嘗試。同一次執行中記錄的事件,另行投射為 ATIF 與公開事件,這是後處理,不是新的執行。 - 變化
- 凍結的 spec、每次嘗試、選定的結果、任務擁有的驗證器,以及忠實但有限的重播,作為彼此連結的獨立記錄保存。Harbor 0.22.0 以 GPT-5.6 Sol/max 重複五次,比較 GEODE(當時為單一終端機工具轉接器)與 Codex。
- 說明了什麼
- 任務擁有指示、環境與測試;trial 是一次嘗試;job 是一組 trial。獎勵由任務擁有的驗證器決定,GEODE 內部的完成評判則是執行期間的回饋。公開重播是已記錄工具事件的事後投射,不是原始 PTY,也不是新的執行,缺漏的格位不補上虛構的指令。預先登錄的主要指標無法測量。
- 凍結的任務 · spec事先固定 · 重複五次
September 24, 2026 to September 28, 2026Jev · 判斷委派
候選正確,仍需驗證交付
問題委派出去的判斷,是否真正維持了任務品質與最終交付?
- U8n · Noul 執行 · Harbor 0.22 · 由 Astra 執行與修復,只有判斷路徑改變決策狀態任務契約 · 候選 · 工具觀測
- 指向 判斷 · Noul判斷輸入
- 判斷 · NoulAstra 或 Jev
- 指向 GEODE 使用判斷各條件的機率
- GEODE 使用判斷成立則交付;證據不足則保留
- 指向 最終交付成立
- 指向 Astra 修復證據不足 · 保留
- 最終交付
- 指向 獨立結果檢查已交付的結果
- Astra 修復收到回饋後的下一個候選
- 指向 判斷 · Noul再次判斷
- 指向 最後的候選 · 已保留保留最後的候選
- 獨立結果檢查規則 oracle · 已交付的結果
- U3 固定面板僅判斷 · 無 actor、工具或 Harbor
- 事後診斷 · 執行結束後最後的候選 · 已保留
- 指向 事後 oracle 診斷事後檢查
- 事後 oracle 診斷候選正確性 · 不影響交付
在實際執行中,決策狀態送往判斷;GEODE 使用該判斷,成立時交付,證據不足時保留結果,由 Astra 修復後再次判斷。獨立的規則 oracle 驗證已交付的結果。另外,在執行結束後,以事後 oracle 診斷保留下來的最後一個候選;該診斷對交付沒有影響。U3 固定面板是另一項實驗,只比較判斷,沒有 actor、工具或 Harbor。 - 變化
- 判斷的採納、候選的正確性與最終交付記錄為不同的結果,準備、失敗與修復的譜系保留在公開副本中。原始與轉換後公開版本的雜湊分開保存。
- 說明了什麼
- 在中斷的 U8n 研究的事後 11 對中,最後的候選在兩個 arm 中都正確,交付卻是 Astra 11/11、Jev Noul 0/11:Jev Noul 的證據不足判斷阻擋了交付。這是事後分析,不作推廣。公開數值的重新計算、重播檢視與新的實際執行,是三種不同的操作。
- U8n · Noul 執行 · Harbor 0.22 · 由 Astra 執行與修復,只有判斷路徑改變決策狀態任務契約 · 候選 · 工具觀測