GEODE
Autonomous Agent Harness
Gözlemden bir sonraki eyleme.
Araştırma, dosya işleri ve zamanlanmış görevler devredilebilen yerel bir otonom ajan düzeneği.
Aday kabulü ve sürüm yetkisi ayrı yargılardır.
Crucible, politika aramasından ayrı bir deney çekirdeğidir. Aday commit izin verilen yüzeylere ve dondurulmuş bir sözleşmeye göre doğrulanır, eşli görevler ayrı bir ölçüm checkout'unda toplanır ve sonuç KEEP, REJECT ya da INVALID olur.
Train hükmü
İzin verilen yüzeydeki tek bir aday yalıtılmış bir checkout'ta sabit sözleşmeyle ölçülür; önceden kaydedilmiş kurallar KEEP, REJECT ya da INVALID'e karar verir.
propose → preflight
search/supervisor.pyçalıştırma · karar: aday istesearch/producersArama supervisor'ı bir üreticiden aday ister. r14 adayı, replay producer'ın yeniden uyguladığı daha önceki bir adaydı (r13); yeni üretilmiş bir LLM adayı değildi.
search/producersveri: tek aday commitpropose → preflight
search/supervisor.pyÜretici, izin verilen yollar içinde tek bir aday commit döndürür.
propose → preflight
search/supervisor.pyçalıştırma · karar: izin verilen yüzey · diff kontrolüizin verilen yüzey · aday diffcontract.pyAday diff sözleşmenin izin verdiği yüzeyin içinde kalmalıdır ve frozen evaluator doğrulanır. r14 ve r35'te izin verilen hedef tek bir dosyaydı, tau2_agent_policy.md; core ve Crucible uygulaması evaluator yolu olarak sabitlendi.
evaluate → decide → record
search/supervisor.pyçalıştırma · karar: yalıtılmış checkoutüreticiden yalıtılmışmeasurement checkoutAday, üreticiden ayrılmış bir ölçüm checkout'unda kontrol edilir.
üreticiden yalıtılmış
measurement checkoutçalıştırma · karar: sabit sözleşmeyle çalıştırmatau2 çalıştırması · receiptassays/Baseline ve aday aynı sözleşme, seed ve görevlerle çalıştırılır.
tau2 çalıştırması · receipt
assays/veri: actor · kullanıcı diyaloğutau2 ortamıGEODE ajanı (actor), tau2 görev ortamında evaluator'a ait simüle kullanıcıyla konuşur.
tau2 çalıştırması · receipt
assays/veri: model çağrılarıActor · user modellerir14 ve r35'te hem actor hem simüle kullanıcı gpt-5.4/high (abonelik) idi.
görev doğrulayıcısı
assays/veri: paired evidencepaired · task · family toplamıpromotion.pyGörev doğrulayıcısının sonuçları baseline–aday çiftleri olarak tutulur.
frozen evaluator · önceden kayıtlı
contract.pyçalıştırma · karar: önceden kayıtlı toplamapaired · task · family toplamıpromotion.pyEşli sonuçlar task ve önceden kaydedilmiş family bazında toplanır; bütçe, coverage, altyapı ve güvenlik koşulları ayrıca kontrol edilir.
KEEP · REJECT · INVALID
promotion.pyçalıştırma · karar: KEEP · head ilerlersearch/* headrefs/crucibleKEEP durumunda refs/crucible/search/* altındaki bir sonraki head aday olur. Bir train hükmünün promotion_authority değeri none'dır.
Ret · geçersiz · geri bildirim
REJECT ve INVALID head'i korur; bir sonraki aday yalnızca hata kodlarını ve sabit train görev ID'lerini alır. INVALID sıfır puan değildir.
görev doğrulayıcısı
assays/veri: paired evidencepaired · task · family toplamıpromotion.pyGörev doğrulayıcısının sonuçları baseline–aday çiftleri olarak tutulur.
frozen evaluator · önceden kayıtlı
contract.pyçalıştırma · karar: önceden kayıtlı toplamapaired · task · family toplamıpromotion.pyEşli sonuçlar task ve önceden kaydedilmiş family bazında toplanır; bütçe, coverage, altyapı ve güvenlik koşulları ayrıca kontrol edilir.
KEEP · REJECT · INVALID
promotion.pyveri: REJECT · INVALIDhata kodları · train görev ID'leriattempt/feedback.jsonRet ya da geçersizlik durumunda önceki head kalır; aday ve kayıtları korunur. INVALID ortalaması sıfır değil, null'dır.
hata kodları · train görev ID'leri
attempt/feedback.jsonveri: hata kodları · görev ID'lerisearch/producersBir sonraki adaya verilen geri bildirim hata kodları ve sabit train görev ID'leriyle sınırlıdır; evaluator yörüngeleri ya da yanıtlar aktarılmaz.
Sealed uygunluk · ayrı yetki
Train KEEP yalnızca arama head'ini taşır. Sealed uygunluk yalnızca eligible ref'e ulaşır; ürün sürümü ve dağıtım Crucible dışındaki ayrı yetkilerdir.
evaluate → decide → record
search/supervisor.pyveri: record · ref receipttrain bundle · yeniden hesaplanan KEEPattestation/bundle.pyBir train bundle ancak sözleşme, baseline ve aday kanıtları, yeniden hesaplanan KEEP, öneri soy kaydı, supervisor kaydı ve uygulanan ref receipt'i birbirine bağlandığında geçerlidir. İyileşmenin başka bir adı değildir.
train bundle · yeniden hesaplanan KEEP
attestation/bundle.pyçalıştırma · karar: yalnızca train bundle · tek seferdisjoint test pack · tek kullanımlıkattestation/sealed.pySealed değerlendirme, train'den ayrık bir test pack'i tek kez ve sıfır altyapı yeniden denemesiyle kullanır.
ELIGIBLE · release_authority none
attestation/sealed.pyçalıştırma · karar: yalnızca eligible refeligible/*refs/crucibleELIGIBLE bile yalnızca refs/crucible/eligible/* yazar; release_authority none olarak sabittir.
Herkese açık kayıtlar · r14 · r35
r14 önce train KEEP, sonra sealed REJECT oldu; r35 (July 13, 2026) eksik coverage ve altyapı kirlenmesi nedeniyle INVALID oldu (0 eşli satır, ortalama null) ve head değişmedi.
KEEP · REJECT · INVALID
promotion.pyveri: herkese açık verdict.jsongeode-eval-artifactsHerkese açık artefaktlar 23e3428'e sabitlenmiş normalleştirilmiş kayıtlardır. r14'ün önceden kaydedilmiş train yapılandırma hash'i herkese açık yapılandırma baytlarından farklıdır; bu nedenle orijinal zincirin tamamı yeniden onaylanmış değildir.
attestation/sealed.pyveri: sealed decision.jsonr14 · train KEEP → sealed REJECT
geode-eval-artifactsr14: telecom train'de 6 görev × 1 denemeyle KEEP (6 eşli satır, terfi yetkisi yok), ardından ayrı bir sealed hükümle REJECT (sürüm yetkisi yok).
Her bağlantı aynı kalınlıkta. Yalnızca yolunu numaralı adımlarla vurgulamak için bir akış seçin.
- Düz çizgi · isteklerin, adayların ve sonuçların akış yönü
- Kesikli · çalıştırma, karar, yetkilendirme, yapılandırma
- Kalın siyah çizgi · seçilen akış; numaralar sırayı verir
- Kutu · bir kod ya da kayıt sınırı, başlığında yolu
- İç çip · o sınırdaki bir bileşen
- Kesikli kutu · o sınırın dışı
- arama supervisor'ı
- sözleşme · hüküm · tasdik
- ref'ler · kayıtlar
- üreticiler · yürütme
Crucible, SIL'den ayrı bir çekirdektir; iki arama, birbirinin adaylarını terfi ettiren tek bir hat değildir. Ürün sürümü kutusuna gelen bir bağlantı yoktur.
- Üç yetki
- Train KEEP arama head'ini taşır, sealed ELIGIBLE bir eligible ref kaydeder ve ürün sürümü Crucible dışında ayrı bir karardır. Önceki bir hüküm sonraki bir yetkiyi asla vermez.
- Null sıfır değildir
- r35'te 9 görev × 3 deneme (arm başına 27 satır) planlanmıştı, ancak karşılaştırılabilir çift sayısı 0'dı; bu yüzden ortalama ve iyileşme değeri null'dır. Bu, 27 başarısız görev ya da %0 başarı oranı değildir.