GEODE
Autonomous Agent Harness
Od opažanja do sljedeće radnje.
Lokalni okvir za autonomnog agenta kojemu se mogu prepustiti istraživanje, rad s datotekama i zakazani zadaci.
Decision Offloading w. Jev
Koje se međuodluke koje agent donosi usred zadatka mogu predati Jevu, modelu samo za odluke? Ovo istraživanje provjerava ostaje li neovisno provjerena kvaliteta zadataka očuvana nakon toga, računajući pripremu, ponovljene prosudbe, popravak i konačnu isporuku. Rani piloti nisu se mogli objasniti samom zamjenom poziva za prosudbu, pa su ugovor ulaza, ugovor odluke, politika vjerojatnosti i način na koji izvršni agent koristi odluku razdvojeni u zasebne eksperimente.
Izvršno okruženje · konačna presuda
Kad je odabran Jev, konačna verifikacija jednom poziva Jev s jednim pitanjem Choice, a prolazi samo prihvaćena presuda supported.
judgment_engine · llm | jev
core/config/judgment.pypokretanje · odluka: odabir putakonačna presuda · jedno pitanje Choicecore/agent/verify.pyPut Jev koristi se samo kad je judgment_engine postavljen na jev (zadano llm). provider auto bira TypeSafe, zatim OpenRouter, ovisno o tome za koji postoji ključ; bez ključa ostaje put LLM judge. To nije fallback koji neuspjeli zahtjev ponavlja negdje drugdje.
konačna presuda · jedno pitanje Choice
core/agent/verify.pypodaci: zahtjev · kandidat · opažanjaSystemOne · jedan poziv · bez fallbackaadapters/typesafe.pyIzvorni zahtjev i kandidat čiste se od osjetljivih podataka i ograničavaju po duljini, a zatim šalju s opažanjima alata kao jedno pitanje Choice (supported, contradicted, insufficient_evidence). Poziv za prosudbu ne dobiva alate (allow_tools=False). Prosudba kojoj trebaju slike ne šalje se Jevu i postaje verification_error.
SystemOne · jedan poziv · bez fallbacka
adapters/typesafe.pypodaci: jedan poziv SystemOneTypeSafe SystemOneJedan poziv, izravno TypeSafeu ili preko OpenRoutera, bez prelaska na drugog pružatelja. Jev se nikad ne koristi kao korijenski model za generiranje teksta.
prihvaćanje · tolerancija zbroja 1e-5
adapters/typesafe.pypodaci: prihvaćeni Choiceprolazi samo supported · samo tekstcore/agent/verify.pyOdgovor se koristi tek nakon provjere prihvaćanja po tipu, rasponu i zbroju vjerojatnosti (tolerancija 1e-5). Prolazi samo supported; contradicted i insufficient_evidence postaju signal za ponovni pokušaj s fiksnom sljedećom provjerom. Odgovor koji nije end_turn ili ne prođe prihvaćanje postaje verification_error, što nije signal za ponovni pokušaj (should_retry=False). Ocjena je binarna projekcija, a ne kalibrirana vjerojatnost.
prolazi samo supported · samo tekst
core/agent/verify.pypodaci: passed · reflectionPostVerify · politika Stoploop/_lifecycle.pyPresuda ide politici PostVerify i Stop iz poglavlja „Završetak”. Presuda je ulaz te politike, a ne ovlast; kad čeka recenziju, kandidat ostaje samo kao pending_text, a konačni odgovor je prazan, pa se ništa ne isporučuje.
PostVerify · politika Stop
loop/_lifecycle.pyzapis · opažanje: retci presudatimeline · retci odluka u ledgerumemory · observabilityOdluke presuda bilježe se u timeline i evidence ledger: to su zapisi izvršnog okruženja, odvojeni od istraživačkih artefakata.
Izvršno okruženje · refleksija
Isti odabir pokreće klasifikaciju dokaza u refleksiji; rečenicu sljedeće provjere određuje kod.
judgment_engine · llm | jev
core/config/judgment.pypokretanje · odluka: isti odabirrefleksija · klasifikacija dokazaloop/_reflection.pyIsti odabir vrijedi i za refleksiju.
refleksija · klasifikacija dokaza
loop/_reflection.pypodaci: klasificirati dokazeSystemOne · jedan poziv · bez fallbackaadapters/typesafe.pyRefleksija s pomoću Jeva klasificira ograničene dokaze i dodaje sljedeću provjeru koju određuje kod. Ne mijenja hipoteze uvjerenja ni samopouzdanje.
SystemOne · jedan poziv · bez fallbacka
adapters/typesafe.pypodaci: jedan poziv SystemOneTypeSafe SystemOneJedan poziv, izravno TypeSafeu ili preko OpenRoutera, bez prelaska na drugog pružatelja. Jev se nikad ne koristi kao korijenski model za generiranje teksta.
prihvaćanje · tolerancija zbroja 1e-5
adapters/typesafe.pypodaci: klasifikacijarefleksija · klasifikacija dokazaloop/_reflection.pySamo prihvaćena klasifikacija ažurira stanje refleksije; pri neuspjehu sljedeća runda pokušava ponovno iz istog prethodnog stanja.
Istraživanje · fiksni panel U3
Bez actora, prosudbe Jeva i Astre o istom stanju i pitanju uspoređene su u parovima.
Astra · Jev · isto pitanje
U3 · panel fiksnih stanjapodaci: Prosudba JevTypeSafe SystemOneU3 (commit izvornog eksperimenta 2f2b494): 120 fiksnih stanja · 27 klastera izvora · 240 poziva. Svako stanje i pitanje išli su Jevu i Astri kao jedan par; bez actora, alata i Harbora.
Astra · Jev · isto pitanje
U3 · panel fiksnih stanjapodaci: Prosudba AstraAstra: sudac · model actoraTočno na istom uzorku: Astra 90/120, Jev 84/120; medijan po pozivu 10.446 s naspram 0.253 s. To je samo latencija poziva za prosudbu, a ne vrijeme zadatka ni ušteda troškova.
U3 · panel fiksnih stanjapodaci: rezultati panela · izvješćeIzvješće o istraživanju Jev
Rezultati točnosti i latencije za U3 navedeni su u javnom tehničkom izvješću. Ovdje se ne tvrdi je li taj panel dio javnog paketa E2E.
Istraživanje · izvođenja E/I
Uz Astru kao actora mijenjao se samo put prosudbe, a neovisni orakul pravila zasebno je provjeravao rezultate i isporuku.
Astra kao actor · alati · popravak
E/I · Harbor 0.22podaci: generiranje · alati · popravakAstra: sudac · model actoraU E/I na Harboru 0.22 actor Astra obavlja generiranje, pozive alata i popravak; mijenja se samo put prosudbe.
put suca · Astra · Jev · Jev-first
E/I · Harbor 0.22podaci: put prosudbe o završetkuTypeSafe SystemOneE7 (commit izvornog eksperimenta 1f65534): 12 autorskih sintetičkih zadataka × 3 konfiguracije × 2 izvođenja = 72 izvođenja, 24/24 po konfiguraciji. Konfiguracija Jev-first imala je 0/24 stvarnih fallbackova, pa njezin učinak nije izmjeren.
E/I · Harbor 0.22zapis · opažanje: neovisna provjeratočnost · isporuka zasebno
rule oracleNeovisni orakul pravila provjerava konačni rezultat, a stvarna konačna isporuka broji se zasebno. U 11 naknadnih parova prekinutog U8n svaki je kandidat prošao orakul, no isporuka je bila Astra 11/11 i Jev Noul 0/11.
E/I · Harbor 0.22podaci: neuspjeh · rodoslovlje popravakaE2E-DATA · hashevi izvora i javni
jev-v3-20260927Javni paket E2E čuva rodoslovlja pripreme, neuspjeha i popravaka, a hasheve izvora i javne kopije drži odvojeno. Očišćena javna kopija ne zamjenjuje validaciju nepromijenjenog izvora.
REPRODUCE · model-free
jev-v3-20260927podaci: ponovni izračun bez modelaIzvješće o istraživanju JevPonovni izračun brojki iz spremljenih odgovora i novo izvođenje različite su operacije. Izvješće je javno tehničko izvješće, a ne recenzirani rad.
Sve veze iste debljine. Odaberite tijek kako biste istaknuli samo njegov put s numeriranim koracima.
- Puna crta · smjer kojim teku zahtjevi, kandidati i rezultati
- Isprekidana crta · pokretanje, odluka, autorizacija, konfiguracija
- Duga crta-točka · zapisi i opažanje, odvojeno od presude
- Debela crna crta · odabrani tijek; brojevi daju redoslijed
- Okvir · granica koda ili zapisa, putanja u zaglavlju
- Unutarnja pločica · komponenta unutar te granice
- Isprekidani okvir · izvan te granice
- petlja · okvir izvođenja
- odabir puta · presuda · orakul
- zapisi · javni paket
- prijenos · panel prosudbe
Gornji i donji dio različiti su sustavi. Istraživačke konfiguracije i rezultati nisu svi uključeni u današnjem putu izvršnog okruženja; jedina je zajednička veza to što oba pozivaju isti model Jev (jev-1.13.0).
- Prihvaćanje u izvršnom okruženju
- Izvršno okruženje drži strogu toleranciju zbroja vjerojatnosti od 1e-5. Pozivatelji evaluacije prosljeđuju vlastitu zabilježenu toleranciju umjesto da labave parser izvršnog okruženja.
- Opseg istraživanja
- U3 mjeri samo pozive za prosudbu; E/I uključuje actora i popravak. Njihovi se nazivnici nikad ne miješaju, a 11 parova U8n naknadna je analiza prekinutog istraživanja.
Tri ugovora odluka
Choice
- Vraća
- Vjerojatnost za svaku kategoriju ili opciju
- Odlučuje
- Završetak; namjera i cilj zahtjeva
Noul
- Vraća
- P(true) za svaki uvjet
- Odlučuje
- Proturječje; nedostatak dokaza
Score
- Vraća
- Očekivana vrijednost i distribucija na fiksnoj ordinalnoj ljestvici
- Odlučuje
- Rangiranje generiranih kandidata
Očekivana vrijednost smješta kandidata na ljestvicu; ne koristi se kao pouzdanost.
Evaluacija i povezivanje
Svaki je ugovor evaluiran na vlastitom fiksnom panelu ulaza, a neki su povezani s putom izvođenja eksperimentalnog okvira kako bi se vidjelo kako izvršni agent koristi odluku. Na karti gore istraživački dio prikazuje ta izvođenja; dio izvršnog okruženja opcionalni je put u današnjem GEODE-u.
Opažanja koja su promijenila dizajn
- I5 → I6 · ugovor ulaza
- Praćenje zajedničkog neuspjeha isporuke pokazalo je da ulazu prosudbe nedostaje ugovor zadatka i da opisuje opažanja alata iz istog zahtjeva kao prošli kontekst
- I6 je isporučio 6/6 u zasebnom izvođenju s revidiranim kodom i novim računom
- U3 · istih 120 parova stanja
- Medijan po pozivu Astra 10.446 s · Jev 0.253 s; točno na istom uzorku 90/120 · 84/120
- Brzina i točnost važu se zajedno za svaku odluku kako bi se odredio opseg delegiranja
- U2 · vjerojatnosti
- Vjerojatnosti Jeva bile su bolje kalibrirane po veličini, ali Astra je pouzdanije stavljala svoje pogrešne prosudbe naprijed
- Kalibracija i odabir pogrešaka mjere se zasebno, a prag je zamrznut na podjeli selection
- U6a · namjera i cilj
- Na 40 obitelji koje je napisao dizajner Jev 216/220 · Astra 220/220, unutar unaprijed registrirane margine od −5 pp
- Fiksna klasifikacija namjere i cilja sužena je kao sljedeći kandidat za primjenu
- U8n · isporuka
- 11 naknadnih parova iz prekinutog izvođenja: popravljeni kandidati prošli su orakul u obje grane; isporuka Astra 11/11 · Jev Noul 0/11
- Prosudbe o nedostatku dokaza blokirale su ispravnu isporuku; trenutačni postav Noul nema osnove da bude jedini sudac isporuke