GEODE
Autonomous Agent Harness
Nuo stebėjimo iki kito veiksmo.
Vietinis autonominio agento karkasas, kuriam galima patikėti tyrimus, darbą su failais ir suplanuotas užduotis.
Keisti po vieną politiką; matavimą laikyti fiksuotą.
Atskiras ciklas, veikiantis už karkaso ribų. Nuo bazinės linijos jis pritaiko vieną tipizuotą politikos pakeitimą, o tas pats Petri auditas ir slenkstis sprendžia tarp KEEP ir atkūrimo.
Vienas pakeitimas → auditas
Užfiksavus paleidimo sutartį keičiama viena leidžiama politika, o GEODE audituojamas tuo pačiu aparatu. Tai nėra veikiantis produktas, perrašantis pats save.
Operatoriaus patvirtinimaspaleisti · nuspręsti: patvirtinimaspaleidimo sutartis · modeliai · biudžetas
program.mdPaleidimas pradedamas tik patvirtinus tikrus iškvietimus ir fiksuotą biudžetą. Be patvirtinimo tik parengiama sutartis ir patikrinama neprisijungus.
paleidimo sutartis · modeliai · biudžetas
program.mdpaleisti · nuspręsti: paleidimo sutartisfiksuoto biudžeto ciklastrain.pySėklų ir rubrikos versijos, vaidmenų modeliai ir prisijungimo duomenų šaltiniai, matavimo nustatymai, iteracijų, laiko ir kainos biudžetai, paaukštinimo politika ir sustojimo sąlygos fiksuojami prieš paleidimą.
fiksuoto biudžeto ciklas
train.pypaleisti · nuspręsti: prašyti vieno kandidatomutatorius · vienas kandidatasloop/mutateViena įrodymais paremta hipotezė keičia vieną leidžiamą politikos paviršių.
7 paviršiai · be hiperparametrų
loop/mutateduomenys: politikos pakeitimas · mutacijos IDfaile saugoma politikastate/policiesKeisti galima tik septynis paviršius: apvalkalo raginimą, įrankių politiką, dekompozicijos patarimus, refleksiją, įgūdžių katalogo metaduomenis, agento sutartį (role, system_prompt, tools) bei įrankių aprašus ir užuominas. Hiperparametrų pakeitimai atmetami ir analizuojant, ir taikant. Politikos taikymas, pakartotinis matavimas ir pasirenkamas komitas yra atskiri žingsniai, todėl taikymas savaime nėra auditas.
sėklų telkinys · rubrika fiksuoti
prepare.pypaleisti · nuspręsti: sėklos · rubrika fiksuotosaudito antrinis procesas · fiksuotas laiko limitasmeasure.pyprepare.py yra fiksuotas sėklų telkinio ir rubrikos etalonas; kandidatai jo nekeičia. Pakeitus matavimo modulį keičiasi pats matavimas, o ne testuojama sistema.
faile saugoma politika
state/policiesduomenys: pasirinkta politikaOVERRIDE kiekvienai politikai · STRICTmeasure.pymeasure.py skaito šiuo metu pasirinktą politikos failą ir perduoda jį į audito aplinką.
OVERRIDE kiekvienai politikai · STRICT
measure.pypaleisti · nuspręsti: perrašymo keliai kiekvienai politikaicore · politikų įkėlikliaimeasure.py audito antriniam procesui perduoda apvalkalo kelią ir kiekvienos politikos perrašymo bei strict kelius, o atitinkamas vykdymo aplinkos politikų įkėliklis skaito kiekvieną iš jų. Apvalkalas (GEODE_WRAPPER_OVERRIDE → system_prompt) yra tik viena šaka; papildomi aplinkos raktai neišplečia septynių keičiamų paviršių. Vien redaguotas failas neįrodo, kad kandidatas pasiekė taikinį; tai patvirtina audito įrodymų diagnostika.
audito antrinis procesas · fiksuotas laiko limitas
measure.pypaleisti · nuspręsti: audit subprocessPetri auditasAuditas vykdomas su fiksuotu laiko limitu ir biudžetu, kurie niekada nekeičiami palyginimo viduryje. Trūkstama išvestis yra diagnostinė spraga, o ne nulinis balas.
Petri auditasduomenys: audito dialogascore · politikų įkėlikliai
Auditorius kalbasi su GEODE pagal sėklos scenarijų, o teisėjas vertina transkriptą.
Verdiktas → išlaikyti · atkurti
Palyginus su tos pačios sutarties bazine linija, kritinės regresijos ir paaukštinimo taisyklė nusprendžia KEEP; atmestas pakeitimas atkuriamas į įrašytą ankstesnę reikšmę.
Petri auditasduomenys: matmenų balaikritinė regresija · baudos
fitness.pyBalai pateikiami kartu su trūkstamais matmenimis ir pavyzdžių skaičiumi. Neišmatuotas matmuo nelaikomas stebėjimu.
baseline · provenance
ledger.pyduomenys: baseline · provenancekritinė regresija · baudosfitness.pyLyginama tik su bazine linija, turinčia tą pačią užfiksuotą sutartį ir epochą. Nauja Git šaka neizoliuoja bazinės linijos būsenos.
kritinė regresija · baudos
fitness.pyduomenys: fitness · regresijos priežastys_should_promote · KEEPgate.pyPirmiausia tikrinamos kritinių matmenų regresijos ir pagalbinės baudos, tada atsargos ar tikslinio matmens testas. Vien teigiamas skaliaras niekada neduoda paaukštinimo.
_should_promote · KEEP
gate.pyduomenys: KEEP · kita bazinė linijabaseline · provenanceledger.pyIšlaikytas kandidatas tampa kita bazine linija. Vietoje išlaikytas kandidatas nėra sujungimas su saugykla ar leidimas.
_reject_and_revert
gate.pypaleisti · nuspręsti: REJECT · atkurti ankstesnįfaile saugoma politikastate/policiesRunner sukurtam kandidatui atkuriama politikos dalis, įrašyta pagal jo mutacijos ID, o nepavykęs atkūrimas pažymimas. Rankiniai pakeitimai automatiškai neatkuriami, o neaiškus atkūrimas sustabdo kitą kandidatą.
_should_promote · KEEP
gate.pyįrašas · stebėjimas: rezultatas · verdikto eilutėresults · mutacijų eilutėsledger.pyMatavimas, verdiktas ir kilmė vieną kartą įrašomi kaip rezultatų eilutės; istorinės eilutės niekada neperrašomos.
Kontrolė · pakartotiniai matavimai
June 2026 paleidimas: never šaka be pakeitimų ir K=5 bazinė linija atskirai išmatavo audito triukšmą, o vieno audito KEEP patikrintas pakartotiniais matavimais.
run-2606-broken-tool-usepaleisti · nuspręsti: trys šakosfiksuoto biudžeto ciklas
train.pyJune 3–4, 2026 paleidimas atskyrė dreifą nuo mutacijos poveikio trimis šakomis: never (be pakeitimų), random (atsitiktinis priėmimas) ir gate (priėmimas pagal verdiktą). Taikinys buvo GPT-5.5; auditorius ir teisėjas – Claude Opus 4.8.
gen-0 bazinė linija · 5 auditų vidurkis
run-2606-broken-tool-useduomenys: K=5 vidurkio bazinė linijabaseline · provenanceledger.pygen-0 bazinė linija buvo penkių auditų vidurkis (Petri broken_tool_use, mažiau yra geriau, vidurkis 2.667).
never šaka · kontrolė be pakeitimų
run-2606-broken-tool-usepaleisti · nuspręsti: matavimas be pakeitimųaudito antrinis procesas · fiksuotas laiko limitasmeasure.pyNever šaka be jokio politikos pakeitimo nudreifavo iki vidurkio 3.38 (10 auditų, mažiau yra geriau): tiesioginis įrodymas, kad audito triukšmas viršijo mutacijos poveikį.
--replicate K · pakartotinis matavimas
train.pypaleisti · nuspręsti: --replicate Kaudito antrinis procesas · fiksuotas laiko limitasmeasure.pyTas pats kandidatas tomis pačiomis sąlygomis matuojamas dar K kartų, kad būtų atsijotas atsitiktinai sėkmingas pavienis auditas.
replicate · vieno KEEP pakartotinis matavimas
run-2606-broken-tool-usepaleisti · nuspręsti: pakartotinis matavimas → atšaukimas_reject_and_revertgate.pyKandidatas, išlaikytas pagal vieną gate auditą (1.6), pakartotiniuose matavimuose parodė 3.0–3.8, prasčiau nei bazinė linija, todėl atkurtas čempionas 2.667. Paleidimo išvada – aiškaus pagerėjimo nėra.
Visi ryšiai vienodo storio. Pasirinkite srautą, kad būtų paryškintas tik jo kelias su sunumeruotais žingsniais.
- Ištisinė · kryptis, kuria keliauja užklausos, kandidatai ir rezultatai
- Brūkšninė · paleisti, nuspręsti, įgalioti, konfigūruoti
- Ilga brūkšninė-taškinė · įrašai ir stebėjimas, atskirai nuo verdikto
- Stora juoda linija · pasirinktas srautas; skaičiai rodo tvarką
- Rėmelis · kodo ar įrašų riba, kelias antraštėje
- Vidinė plokštelė · komponentas toje riboje
- Brūkšninis rėmelis · už tos ribos
- ciklas · matavimo paleidimas
- sutartis · verdiktas
- politika · įrašai
- pakeitimas · audituojamas taikinys · paleidimo įrašas
GEODE SIL tvarkyklė vadinasi autoresearch; jos prepare/train/program struktūra ir fiksuotas biudžetas perimti iš Karpathy autoresearch. Modelių svoriai nekeičiami, o aparatas ir biudžetas palyginimo metu lieka fiksuoti.
- Ką galima keisti
- Septyni paviršiai: apvalkalo raginimas, įrankių politika, dekompozicijos patarimai, refleksija, įgūdžių katalogo metaduomenys, agento sutartis bei įrankių aprašai ir užuominos. Vertintojas, biudžetas, sėklos ir rubrika palyginimo metu lieka fiksuoti.
- Paleidimo įrašo apimtis
- run-2606 reikšmės yra to paleidimo Petri broken_tool_use vidurkiai (mažiau yra geriau). Jos nėra kaupiamojo SIL pagerėjimo ar apibendrinimo įrodymas.