GEODE
Autonomous Agent Harness
Dari observasi ke tindakan berikutnya.
Harness agen otonom lokal yang dapat diserahi riset, pekerjaan berkas, dan tugas terjadwal.
Ubah satu kebijakan setiap kali; pengukuran tetap.
Loop terpisah yang berjalan di luar harness. Dari baseline, loop ini menerapkan satu perubahan kebijakan bertipe, dan audit Petri serta gerbang yang sama memutuskan antara KEEP dan pemulihan.
Satu perubahan → audit
Dengan kontrak eksekusi terkunci, satu kebijakan yang diizinkan berubah dan GEODE diaudit dengan perangkat yang sama. Ini bukan produk yang sedang berjalan menulis ulang dirinya sendiri.
Persetujuan operatorjalankan · putuskan: persetujuankontrak eksekusi · model · anggaran
program.mdEksekusi baru dimulai setelah pemanggilan langsung dan anggaran tetap disetujui. Tanpa persetujuan, hanya kontrak yang disiapkan dan diperiksa secara offline.
kontrak eksekusi · model · anggaran
program.mdjalankan · putuskan: kontrak eksekusiloop anggaran tetaptrain.pyRevisi seed dan rubrik, model per peran dan sumber kredensial, pengaturan pengukuran, anggaran iterasi, waktu, dan biaya, kebijakan promosi, serta kondisi berhenti dikunci sebelum eksekusi.
loop anggaran tetap
train.pyjalankan · putuskan: minta satu kandidatmutator · satu kandidatloop/mutateSatu hipotesis berbasis bukti mengubah satu permukaan kebijakan yang diizinkan.
7 permukaan · tanpa hyperparam
loop/mutatedata: perubahan kebijakan · mutation IDkebijakan berbasis berkasstate/policiesHanya tujuh permukaan yang boleh berubah: prompt wrapper, kebijakan alat, saran dekomposisi, reflection, metadata katalog skill, kontrak agen (role, system_prompt, tools), serta deskripsi dan petunjuk alat. Perubahan hyperparameter ditolak saat parsing maupun saat penerapan. Penerapan kebijakan, pengukuran ulang, dan commit opsional adalah langkah terpisah, sehingga penerapan bukanlah audit dengan sendirinya.
kumpulan seed · rubrik tetap
prepare.pyjalankan · putuskan: seed · rubrik tetapsubproses audit · timeout tetapmeasure.pyprepare.py adalah acuan tetap untuk kumpulan seed dan rubrik; kandidat tidak mengubahnya. Mengubah modul pengukuran berarti mengubah pengukurannya, bukan sistem yang diuji.
kebijakan berbasis berkas
state/policiesdata: kebijakan terpilihOVERRIDE per kebijakan · STRICTmeasure.pymeasure.py membaca berkas kebijakan yang sedang dipilih dan meneruskannya ke lingkungan audit.
OVERRIDE per kebijakan · STRICT
measure.pyjalankan · putuskan: path override per kebijakancore · pemuat kebijakanmeasure.py meneruskan path wrapper serta path override dan strict per kebijakan ke subproses audit, dan pemuat kebijakan yang sesuai di runtime membaca masing-masing. Wrapper (GEODE_WRAPPER_OVERRIDE → system_prompt) adalah satu cabang; kunci lingkungan tambahan tidak memperluas tujuh permukaan yang dapat diubah. Berkas yang diedit saja tidak membuktikan kandidat mencapai target; diagnostik dalam bukti audit yang mengonfirmasinya.
subproses audit · timeout tetap
measure.pyjalankan · putuskan: audit subprocessAudit PetriAudit berjalan dengan timeout dan anggaran tetap, tidak pernah diubah di tengah perbandingan. Output yang hilang adalah celah diagnostik, bukan skor nol.
Audit Petridata: dialog auditcore · pemuat kebijakan
Auditor berbicara dengan GEODE melalui skenario seed, dan judge menilai transkripnya.
Putusan → pertahankan · pulihkan
Dibandingkan dengan baseline berkontrak sama, regresi kritis dan aturan promosi memutuskan KEEP; perubahan yang ditolak dipulihkan ke nilai sebelumnya yang tercatat.
Audit Petridata: skor dimensiregresi kritis · penalti
fitness.pySkor disertai dimensi yang hilang dan jumlah sampel. Dimensi yang tidak terukur tidak dibaca sebagai observasi.
baseline · provenance
ledger.pydata: baseline · provenanceregresi kritis · penaltifitness.pyPerbandingan hanya memakai baseline dengan kontrak dan epoch tercatat yang sama. Branch Git baru tidak mengisolasi status baseline.
regresi kritis · penalti
fitness.pydata: fitness · alasan regresi_should_promote · KEEPgate.pyRegresi dimensi kritis dan penalti tambahan diperiksa lebih dahulu, lalu uji margin atau dimensi target. Skalar positif saja tidak pernah membuat promosi.
_should_promote · KEEP
gate.pydata: KEEP · baseline berikutnyabaseline · provenanceledger.pyKandidat yang dipertahankan menjadi baseline berikutnya. Kandidat yang dipertahankan secara lokal bukanlah merge ke repositori atau rilis.
_reject_and_revert
gate.pyjalankan · putuskan: REJECT · pulihkan nilai sebelumnyakebijakan berbasis berkasstate/policiesUntuk kandidat buatan runner, bagian kebijakan yang tercatat di bawah mutation ID-nya dipulihkan, dan pemulihan yang gagal ditandai. Perubahan manual tidak dipulihkan otomatis, dan pemulihan yang tidak pasti menghentikan kandidat berikutnya.
_should_promote · KEEP
gate.pycatat · amati: hasil · baris putusanhasil · baris mutasiledger.pyPengukuran, putusan, dan asal-usul ditulis sekali sebagai baris hasil; baris lama tidak pernah ditulis ulang.
Kontrol · pengukuran replikasi
Eksekusi June 2026: never arm tanpa perubahan dan baseline K=5 mengukur noise audit secara terpisah, dan KEEP dari satu audit diperiksa ulang dengan replikasi.
run-2606-broken-tool-usejalankan · putuskan: tiga armloop anggaran tetap
train.pyEksekusi June 3–4, 2026 memisahkan pergeseran dari efek mutasi dengan tiga arm: never (tanpa perubahan), random (penerimaan acak), dan gate (diterima oleh putusan). Targetnya GPT-5.5; auditor dan judge-nya Claude Opus 4.8.
baseline gen-0 · rata-rata 5 audit
run-2606-broken-tool-usedata: baseline rata-rata K=5baseline · provenanceledger.pyBaseline gen-0 adalah rata-rata lima audit (Petri broken_tool_use, makin rendah makin baik, rata-rata 2.667).
never arm · kontrol tanpa perubahan
run-2606-broken-tool-usejalankan · putuskan: ukur tanpa perubahansubproses audit · timeout tetapmeasure.pyNever arm bergeser ke rata-rata 3.38 tanpa perubahan kebijakan apa pun (10 audit, makin rendah makin baik): bukti langsung bahwa noise audit melampaui efek mutasi.
--replicate K · ukur ulang
train.pyjalankan · putuskan: --replicate Ksubproses audit · timeout tetapmeasure.pyKandidat yang sama diukur K kali lagi dalam kondisi yang sama untuk menyaring satu audit yang kebetulan beruntung.
replicate · ukur ulang satu KEEP
run-2606-broken-tool-usejalankan · putuskan: ukur ulang → kembalikan_reject_and_revertgate.pyKandidat yang di-KEEP pada satu audit gate (1.6) terukur 3.0–3.8 pada replikasi, lebih buruk dari baseline, sehingga champion 2.667 dipulihkan. Eksekusi ini menyimpulkan tidak ada perbaikan yang jelas.
Setiap koneksi dengan bobot yang sama. Pilih alur untuk menyorot hanya jalurnya, dengan langkah bernomor.
- Garis utuh · arah aliran permintaan, kandidat, dan hasil
- Garis putus · jalankan, putuskan, otorisasi, konfigurasi
- Garis titik-strip panjang · catatan dan observasi, terpisah dari putusan
- Garis hitam tebal · alur yang dipilih; angka menunjukkan urutan
- Kotak · batas kode atau catatan, path-nya di bagian kepala
- Chip dalam · komponen di dalam batas itu
- Kotak putus-putus · di luar batas itu
- loop · eksekusi pengukuran
- kontrak · putusan
- kebijakan · catatan
- perubahan · target yang diaudit · catatan eksekusi
Driver SIL GEODE bernama autoresearch; bentuk prepare/train/program dan anggaran tetapnya meniru autoresearch milik Karpathy. Tidak ada bobot model yang berubah, dan perangkat serta anggaran tetap selama perbandingan.
- Yang boleh berubah
- Tujuh permukaan: prompt wrapper, kebijakan alat, saran dekomposisi, reflection, metadata katalog skill, kontrak agen, serta deskripsi dan petunjuk alat. Evaluator, anggaran, seed, dan rubrik tetap selama perbandingan.
- Cakupan catatan eksekusi
- Nilai run-2606 adalah rata-rata Petri broken_tool_use dari eksekusi itu (makin rendah makin baik). Nilai ini bukan bukti perbaikan kumulatif atau generalisasi SIL.