候選採納與發布權限是不同的判定。
Crucible 是獨立於策略搜尋的實驗核心。候選提交依允許修改的面與凍結的契約驗證,成對任務在另一個測量用 checkout 中彙總,結果為 KEEP、REJECT 或 INVALID。
train 判定
允許修改的面之內的一個候選,在隔離的 checkout 中依固定契約測量,再由預先登錄的規則決定 KEEP、REJECT 或 INVALID。
propose → preflight
search/supervisor.py執行 · 判定: 請求候選search/producers搜尋 supervisor 向產生器請求候選。r14 的候選是 replay producer 重新套用的先前候選(r13),並非新的 LLM 生成候選。
search/producers資料: 一個候選提交propose → preflight
search/supervisor.py產生器在允許的路徑內傳回單一候選提交。
propose → preflight
search/supervisor.py執行 · 判定: 允許修改的面 · diff 檢查允許修改的面 · 候選 diffcontract.py候選 diff 必須留在契約允許修改的面之內,並驗證凍結評測器。在 r14 與 r35 中,允許的目標只有 tau2_agent_policy.md 一個檔案;core 與 Crucible 實作則作為評測器路徑固定。
evaluate → decide → record
search/supervisor.py執行 · 判定: 隔離的 checkout與產生器隔離measurement checkout候選在與產生器隔離的測量用 checkout 中檢查。
與產生器隔離
measurement checkout執行 · 判定: 在固定契約下執行tau2 執行 · receiptassays/基準線與候選以相同的契約、種子與任務執行。
tau2 執行 · receipt
assays/資料: actor · 使用者對話tau2 環境GEODE 代理(actor)在 tau2 任務環境中,與評測器擁有的模擬使用者對話。
tau2 執行 · receipt
assays/資料: 模型呼叫actor · user 模型在 r14 與 r35 中,actor 與模擬使用者皆為 gpt-5.4/high(訂閱)。
任務驗證器
assays/資料: paired evidence成對 · task · family 彙總promotion.py任務驗證器的結果以基準線–候選成對保存。
凍結評測器 · 預先登錄
contract.py執行 · 判定: 預先登錄的彙總成對 · task · family 彙總promotion.py成對結果依 task 與預先登錄的 family 彙總,預算、涵蓋率、基礎設施與安全條件另行檢查。
KEEP · REJECT · INVALID
promotion.py執行 · 判定: KEEP · head 移動search/* headrefs/crucibleKEEP 時,下一個 refs/crucible/search/* head 成為該候選。train 判定的 promotion_authority 為 none。
拒絕 · 無效 · 回饋
REJECT 與 INVALID 會維持 head,下一個候選只取得失敗代碼與固定的 train 任務 ID。INVALID 不是零分。
任務驗證器
assays/資料: paired evidence成對 · task · family 彙總promotion.py任務驗證器的結果以基準線–候選成對保存。
凍結評測器 · 預先登錄
contract.py執行 · 判定: 預先登錄的彙總成對 · task · family 彙總promotion.py成對結果依 task 與預先登錄的 family 彙總,預算、涵蓋率、基礎設施與安全條件另行檢查。
KEEP · REJECT · INVALID
promotion.py資料: REJECT · INVALID失敗代碼 · train 任務 IDattempt/feedback.json被拒絕或無效時,維持先前的 head,候選與其記錄則保留。INVALID 的平均為 null,不是零。
失敗代碼 · train 任務 ID
attempt/feedback.json資料: 失敗代碼 · 任務 IDsearch/producers給下一個候選的回饋僅限失敗代碼與固定的 train 任務 ID;不傳遞評測器的執行記錄或答案。
sealed 資格 · 獨立權限
train KEEP 只移動搜尋 head。sealed 資格只到達 eligible ref;產品發布與部署是 Crucible 之外的獨立權限。
evaluate → decide → record
search/supervisor.py資料: record · ref receipttrain bundle · 重新計算的 KEEPattestation/bundle.py只有當契約、基準線與候選的證據、重新計算的 KEEP、提議譜系、supervisor 記錄與已套用的 ref receipt 全部連得上時,train bundle 才成立。它不是改善的別名。
train bundle · 重新計算的 KEEP
attestation/bundle.py執行 · 判定: 僅限 train bundle · 一次不重疊的 test pack · 僅用一次attestation/sealed.pysealed 評測只使用一次與 train 不重疊的 test pack,基礎設施重試為零次。
ELIGIBLE · release_authority none
attestation/sealed.py執行 · 判定: 僅到 eligible refeligible/*refs/crucible即使是 ELIGIBLE,也只寫入 refs/crucible/eligible/*,release_authority 固定為 none。
公開記錄 · r14 · r35
r14 先為 train KEEP,後為 sealed REJECT;r35(2026年7月13日)因涵蓋不完整與基礎設施汙染判為 INVALID(0 個成對列,平均 null),head 維持不變。
KEEP · REJECT · INVALID
promotion.py資料: 公開的 verdict.jsongeode-eval-artifacts公開產出物是固定於 23e3428 的正規化記錄。r14 預先登錄的 train 設定雜湊與公開設定的位元組不同,因此完整的原始鏈並未重新認證。
attestation/sealed.py資料: sealed decision.jsonr14 · train KEEP → sealed REJECT
geode-eval-artifactsr14:在 telecom train 6 個任務 × 1 次試驗中為 KEEP(6 個成對列,無晉級權限),之後另行的 sealed 判定為 REJECT(無發布權限)。
所有連線以相同粗細顯示。選擇一個流程,即只突顯其路徑,並標出步驟編號。
- 實線 · 請求、候選與結果的流向
- 虛線 · 執行、判定、授權、設定
- 粗黑線 · 所選流程;數字表示順序
- 方框 · 程式碼或記錄的邊界,標頭為其路徑
- 內層小框 · 該邊界內的元件
- 虛線框 · 該邊界之外
- 搜尋 supervisor
- 契約 · 判定 · 證明
- ref · 記錄
- 產生器 · 執行
Crucible 是獨立於 SIL 的實驗核心;兩種搜尋並非互相晉級對方候選的單一管線。產品發布方框沒有任何連入的連線。
- 三種權限
- train KEEP 移動搜尋 head,sealed ELIGIBLE 記錄一個 eligible ref,產品發布則是 Crucible 之外的獨立決定。先前的判定絕不授予後續的權限。
- null 不是零
- r35 計畫 9 個任務 × 3 次試驗(每個 arm 27 列),但可比較的成對為 0,因此其平均與改善值為 null。這不是 27 個任務失敗,也不是 0% 成功率。