GEODE
Autonomous Agent Harness
Nuo stebėjimo iki kito veiksmo.
Vietinis autonominio agento karkasas, kuriam galima patikėti tyrimus, darbą su failais ir suplanuotas užduotis.
Nuo paleidimų iki įrodymų
Vien įveikimo dalis vykdymo nepaaiškina. Išsaugau įvykių tvarką, įrankių iškvietimus ir rezultatus, pakartojimų kilmę ir nepriklausomo tikrintuvo įrodymus, tada susieju dalis, kurias galima paskelbti. Šie eksperimentai rodo, kaip vystėsi įrašymo ir vertinimo sutartys.
Pagal eksperimentą · chronologine tvarka
Šeši eksperimentai išdėstyti pagal datas; tai nėra vienas susietas optimizavimo procesas. SIL automatiškai neperduoda duomenų į Crucible ar Jev, ir tai nėra teiginys, kad produkcinis GEODE nuolat gerėjo. Datos yra eksperimentų ir publikavimo momentinių kopijų datos, o rodyklės naudojamos tik etapams vieno eksperimento viduje.
June 3, 2026 to June 4, 2026SIL · išorinė politikų paieška
Vieno audito KEEP patikrintas pakartotiniais matavimais
KlausimasAr politikos mutacija pagerino įrankių naudojimo elgseną daugiau nei audito triukšmas?
Išorinis eksperimentas · už GEODE vykdymo aplinkos ribų
- Bazinė linija · K=5
- Viena politikos mutacija
- Petri auditas
- Pakartotinis matavimas
- Išlaikyti
- Atšaukti
- Kas pasikeitė
- Šiame eksperimente prie vieno mutacijos audito pridėtas pakartotinis matavimas prieš sprendžiant, ar ją išlaikyti, ar atšaukti. Pridėtos pagal sunkumą suderintos sėklos ir K=5 bazinė linija, o never, random ir gate šakos atskiria dreifą be jokių pakeitimų nuo priimtų pakeitimų.
- Ką tai pagrindžia
- Išmatavus iš naujo, pagal vieną auditą išlaikytas kandidatas buvo prastesnis už bazinę liniją (mažiau yra geriau), todėl jo priėmimas atšauktas. Eksperimento išvada – tvaraus pagerėjimo nėra. Tai Petri broken_tool_use elgsenos auditas, o ne atlygis už užduoties atlikimą.
July 11, 2026 to July 13, 2026Crucible · išorinis eksperimentų branduolys
Likti paieškoje ir patekti į produktą – atskiri verdiktai
KlausimasAr įrodymai kandidatui palikti paieškoje yra tie patys, kaip ir įrodymai jam paaukštinti ir išleisti į produktą?
Išorinis Crucible branduolys · atskiras matavimo checkout
- Kandidatas · tėvinė kilmė
- Įšaldytos sutarties patikra
- Suporuotas matavimas
- KEEPtik iki atskiro užantspauduoto verdikto
- REJECT
- INVALIDnull, o ne 0 %
- Kas pasikeitė
- Atmesti ir negaliojantys kandidatai saugomi su tėvine kilme, o train atranka, užantspauduotas tinkamumas ir produkto leidimo įgaliojimai yra atskiri įrašai.
- Ką tai pagrindžia
- r14 train rinkinyje gavo KEEP (šeši užduočių vienetai, po vieną bandymą, be paaukštinimo įgaliojimų), bet jo atskiras užantspauduotas verdiktas buvo REJECT (be įgaliojimų paaukštinti į produktą ar išleisti). r35 yra INVALID dėl nepilnos aprėpties ir infrastruktūros užteršimo; be suporuotų eilučių jo vidurkis lieka null. Tai nei vykdymo aplinkos savimodifikacija, nei SIL → Crucible diegimo grandinė.
July 21, 2026 · July 31, 2026Gryninimas · publikavimas
Likę įrašai suklasifikuoti, ir tik tai, kuo galima dalytis, tapo nekintamu leidimu
KlausimasKą iš tiesų galima rekonstruoti, o kuo galima saugiai dalytis?
- Privatus šaltinisSesijos įrašas · pirminiai įrodymainatyvus rezultatas · su tikrintuvu
- į Normalizuoti įvykiaiišlaikyti tvarką · tapatybę
- Normalizuoti įvykiaitapatybė · tvarka · iškvietimo–rezultato poros
- į Viešas kandidatasleidžiamųjų sąrašas · užtušavimas · maiša
- Viešas kandidatasperžiūrimas
- į Vientisumo · privatumo patikrospatikrinti
- Vientisumo · privatumo patikrosporos · kilmė · apimtis
- į Nekintamas leidimastik peržiūrėti baitai
- Vieša saugyklaNekintamas leidimasmanifestas · natyvūs rezultatai pagal maišą
- į Nuotolinis perskaitymaspatikrinti maišą
- Nuotolinis perskaitymasužfiksuota SHA-256
Iš originalaus vykdymo kuriami įvykiai, išsaugantys tvarką ir identifikatorius, o jautrus viešo kandidato turinys pašalinamas arba pakeičiamas maišomis. Patikrinus iškvietimo–rezultato poras, apimtį ir kilmę, patvirtinti failai ir manifestas paskelbiami kaip nekintamas leidimas, o nuotolinės maišos patikrinamos dar kartą. - Kas pasikeitė
- July 21, 2026 inventorizacija suklasifikavo dialogų, įrankių, paieškos ir sprendimų įrašus pagal šaltinį, o to paties šaltinio dublikatai nelaikyti nepriklausomais pavyzdžiais. Nuo July 31, 2026 geode.trajectory@1 ir geode.trajectory-release@1 aiškiai apibrėžia tapatybę, įvykių tvarką, iškvietimo–rezultato poras, apimtį ir replay vientisumą bei su turiniu susietus manifestus. Transformuotos viešos kopijos ir originalai turi atskiras maišas.
- Ką tai pagrindžia
- Gryninimas čia reiškia normalizavimą, koreliavimą, aiškų jautrių duomenų užtušavimą, kilmę ir leidimą publikuoti. Jis nerekonstruoja paslėpto samprotavimo ir neskelbia duomenų rinkinio paruoštu mokymui. Pilna apimtis nėra pilnas baitų replay, kai privatūs tekstai pakeisti maišomis.
- Privatus šaltinisSesijos įrašas · pirminiai įrodymainatyvus rezultatas · su tikrintuvu
August 25, 2026Learning view
Vienas paleidimas ir jo įrodymai susieti identifikatoriais
KlausimasKuri įvestis, bandymas, įvykių seka ir atlygis priklauso vieni kitiems?
geode.eval-learning-view@2 · sujungta pagal ID ir patikrintas maišas, o ne priežastine tvarka
- example
- rollout
- trajectory
- reward
Atlygis priklauso natyviems tikrintuvo receipt. Infrastruktūriniai pakartojimai yra bandymai vieno paleidimo viduje.
- Kas pasikeitė
- Nekintamos trajektorijos pakartotinai naudojamos per apimties ribose sudarytas jungtis, o atlygiai lieka vertintojui priklausančios išvestinės žymės. Infrastruktūriniai pakartojimai neprideda paleidimų. Stebėtas 0 išsaugomas, o trūkstamas atlygis yra null; negaliojantys ar nutraukti bandymai neįtraukiami į atlygio atranką. Galiojimas yra paleidimo savybė, o ne automatiškai null atlygis.
- Ką tai pagrindžia
- Terminal-Bench fast-3 paleidimas su Harbor 0.8.0 (trys užduotys, 3/3) ir Tau2 trijų sričių diagnostika (1/3, du galiojantys nuliai) susieti toje pačioje struktūroje. Tai kandidatai papildomam mokymui, o ne mokymui naudoti duomenų rinkiniai ar pagerėjusių svorių įrodymas, o trijų užduočių rezultatas nėra viso rinkinio tikslumas.
August 27, 2026 to September 5, 2026Harbor · Terminal-Bench 2.1
Vienas trial atskirai davė rezultatą ir replay įrašą
KlausimasKaip tikras užduoties vykdymas tampa rezultatu ir patikrinamu replay?
- Įšaldyta užduotis · specifikacijaužfiksuota iš anksto · penki pakartojimai
- į Izoliuotas trialnurodymas · aplinka · limitai
- Harbor 0.22.0 trial · tikras vykdymasIzoliuotas trialGEODE kaip actor
- į Veiksmai ir galutinė būsenavykdyti
- Veiksmai ir galutinė būsenastebėta elgsena
- į Užduoties tikrintuvaspatikrinti užduoties būseną
- į ATIF · viešų įvykių projekcijaprojektuoti įrašytus įvykius
- Užduoties tikrintuvas
- į Natyvus atlygis · receiptatlygis
- Natyvus atlygis · receipt
- į Pasirinkto bandymo analizėįšaldyta atranka
- ATIF · viešų įvykių projekcijapapildomas apdorojimas · ne naujas paleidimas
- Pasirinkto bandymo analizėįšaldyta atrankos taisyklė
Įšaldyta užduotis ir specifikacija izoliuotam trial suteikia nurodymą, aplinką ir limitus; užduočiai priklausantis tikrintuvas patikrina GEODE paliktą būseną ir duoda atlygį. Analizė naudoja tik įšaldyta taisykle pasirinktą bandymą. Tame pačiame paleidime įrašyti įvykiai atskirai projektuojami į ATIF ir viešus įvykius – tai papildomas apdorojimas, o ne naujas paleidimas. - Kas pasikeitė
- Įšaldyta specifikacija, kiekvienas bandymas, pasirinktas rezultatas, užduoties tikrintuvas ir tikslus, bet ribotas replay saugomi kaip atskiri susieti įrašai. Harbor 0.22.0 atliko penkis pakartojimus su GPT-5.6 Sol/max, lygindamas GEODE (tuomet – adapterį su vienu terminalo įrankiu) su Codex.
- Ką tai pagrindžia
- Užduotis apima nurodymus, aplinką ir testus; trial yra vienas bandymas; job grupuoja trial. Atlygį nustato užduoties tikrintuvas, o GEODE vidinis užbaigimo teisėjas yra grįžtamasis ryšys vykdymo metu. Viešas replay yra post factum įrašytų įrankių įvykių projekcija, o ne neapdorotas PTY ar naujas paleidimas, ir trūkstamiems langeliams komandos neišgalvotos. Iš anksto užregistruotos pagrindinės metrikos išmatuoti nepavyko.
- Įšaldyta užduotis · specifikacijaužfiksuota iš anksto · penki pakartojimai
September 24, 2026 to September 28, 2026Jev · sprendimų delegavimas
Teisingam kandidatui vis tiek reikia pateikimo patikros
KlausimasAr deleguotas sprendimas iš tiesų išsaugo užduoties kokybę ir galutinį pateikimą?
- U8n · Noul paleidimas · Harbor 0.22 · Astra vykdo ir taiso, keičiasi tik sprendimo maršrutasSprendimo būsenaužduoties sutartis · kandidatas · įrankių stebėjimai
- į Sprendimas · Noulsprendimo įvestis
- Sprendimas · NoulAstra arba Jev
- į GEODE naudojasąlygų tikimybės
- GEODE naudojasupported: pateikti; trūksta įrodymų: sulaikyti
- į Galutinis pateikimassupported
- į Astra taisymastrūksta įrodymų · sulaikyti
- Galutinis pateikimas
- į Nepriklausoma rezultato patikrapateiktas rezultatas
- Astra taisymaskitas kandidatas po grįžtamojo ryšio
- į Sprendimas · Noulspręsti iš naujo
- į Paskutinis kandidatas · išsaugotaspaskutinis kandidatas išsaugotas
- Nepriklausoma rezultato patikrataisyklių orakulas · pateiktas rezultatas
- U3 fiksuoti rinkiniaitik sprendimai · be actor, įrankių ir Harbor
- Post factum diagnozė · po paleidimoPaskutinis kandidatas · išsaugotas
- į Post factum orakulo diagnozėpost factum patikra
- Post factum orakulo diagnozėkandidato teisingumas · pateikimui įtakos neturi
Tikrame paleidime sprendimo būsena perduodama sprendimui; GEODE jį naudoja, pateikia rezultatą, kai jis supported, o trūkstant įrodymų jį sulaiko, kol Astra taiso, ir sprendimas priimamas iš naujo. Nepriklausomas taisyklių orakulas tikrina pateiktą rezultatą. Atskirai, po paleidimo, išsaugotas paskutinis kandidatas diagnozuotas post factum orakulu; ši diagnozė pateikimui įtakos neturi. U3 fiksuoti rinkiniai yra atskiras eksperimentas, lyginantis tik sprendimus, be actor, įrankių ir Harbor. - Kas pasikeitė
- Sprendimo priėmimas, kandidato teisingumas ir galutinis pateikimas įrašomi kaip atskiri rezultatai, o parengimo, nesėkmių ir taisymų kilmė išsaugoma viešoje kopijoje. Originalios ir transformuotos viešos maišos laikomos atskirai.
- Ką tai pagrindžia
- Nutraukto U8n tyrimo 11 post factum porų paskutinis kandidatas buvo teisingas abiejose šakose, tačiau pateikimas buvo Astra 11/11 ir Jev Noul 0/11: Jev Noul sprendimas dėl įrodymų trūkumo sulaikė pateikimą. Tai post factum analizė, ir ji neapibendrinama. Viešas skaitinis perskaičiavimas, replay peržiūra ir naujas tikras paleidimas yra trys skirtingos operacijos.
- U8n · Noul paleidimas · Harbor 0.22 · Astra vykdo ir taiso, keičiasi tik sprendimo maršrutasSprendimo būsenaužduoties sutartis · kandidatas · įrankių stebėjimai