GEODE
Autonomous Agent Harness
Gözlemden bir sonraki eyleme.
Araştırma, dosya işleri ve zamanlanmış görevler devredilebilen yerel bir otonom ajan düzeneği.
Decision Offloading w. Jev
Bir ajanın görev sırasında verdiği ara kararlardan hangileri yalnızca karar veren bir model olan Jev'e devredilebilir? Bu araştırma, kararlar devredildiğinde bağımsız olarak doğrulanan görev kalitesinin korunup korunmadığını; hazırlığı, tekrarlanan yargıları, onarımı ve nihai teslimi de sayarak kontrol eder. İlk pilotlar yalnızca yargı çağrısını değiştirmekle açıklanamadı; bu yüzden girdi sözleşmesi, karar sözleşmesi, olasılık politikası ve yürütme ajanının tüketimi ayrı deneylere bölündü.
Çalışma zamanı · nihai hüküm
Jev seçildiğinde nihai doğrulama Jev'i tek bir Choice sorusuyla bir kez çağırır ve yalnızca kabul edilmiş bir supported hükmü geçer.
judgment_engine · llm | jev
core/config/judgment.pyçalıştırma · karar: yolu seçnihai hüküm · tek Choice sorusucore/agent/verify.pyJev yolu yalnızca judgment_engine jev olarak ayarlandığında kullanılır (varsayılan llm). provider auto, anahtarı olanı önce TypeSafe, sonra OpenRouter sırasıyla seçer; anahtar yoksa LLM judge yolu kalır. Bu, başarısız bir isteği başka yerde yeniden deneyen bir fallback değildir.
nihai hüküm · tek Choice sorusu
core/agent/verify.pyveri: istek · aday · gözlemlerSystemOne · tek çağrı · fallback yokadapters/typesafe.pyOrijinal istek ve aday maskelenip uzunlukları sınırlandırılır, ardından araç gözlemleriyle birlikte tek bir Choice sorusu olarak (supported, contradicted, insufficient_evidence) gönderilir. Yargı çağrısına araç verilmez (allow_tools=False). Görsel gerektiren bir yargı Jev'e gönderilmez ve verification_error olur.
SystemOne · tek çağrı · fallback yok
adapters/typesafe.pyveri: tek SystemOne çağrısıTypeSafe SystemOneTypeSafe'e doğrudan ya da OpenRouter üzerinden tek bir çağrı; başka bir sağlayıcıya geçiş yoktur. Jev asla kök metin üretim modeli olarak kullanılmaz.
kabul kontrolü · toplam toleransı 1e-5
adapters/typesafe.pyveri: kabul edilmiş Choiceyalnızca supported geçer · yalnızca metincore/agent/verify.pyYanıt ancak tür, aralık ve olasılık toplamı (tolerans 1e-5) kabul kontrolünden sonra kullanılır. Yalnızca supported geçer; contradicted ve insufficient_evidence sabit bir sonraki kontrolle birlikte yeniden deneme sinyali olur. end_turn olmayan ya da kabul kontrolünü geçemeyen bir yanıt verification_error olur ve bu bir yeniden deneme sinyali değildir (should_retry=False). Puan kalibre edilmiş bir olasılık değil, ikili bir izdüşümdür.
yalnızca supported geçer · yalnızca metin
core/agent/verify.pyveri: passed · reflectionPostVerify · Stop politikasıloop/_lifecycle.pyHüküm “Tamamlanma” bölümündeki PostVerify ve Stop politikasına gider. Hüküm bir yetki değil, o politikanın girdisidir; inceleme beklendiğinde aday yalnızca pending_text olarak kalır ve nihai yanıt boştur, yani hiçbir şey teslim edilmez.
PostVerify · Stop politikası
loop/_lifecycle.pykayıt · gözlem: hüküm satırlarıtimeline · ledger karar satırlarımemory · observabilityHüküm kararları timeline'a ve evidence ledger'a kaydedilir: araştırma artefaktlarından ayrı çalışma zamanı kayıtları.
Çalışma zamanı · reflection
Aynı seçim reflection'ın kanıt sınıflandırmasını da yönlendirir; sonraki kontrol cümlesini kod belirler.
judgment_engine · llm | jev
core/config/judgment.pyçalıştırma · karar: aynı seçimreflection · kanıt sınıflandırmasıloop/_reflection.pyAynı seçim reflection için de geçerlidir.
reflection · kanıt sınıflandırması
loop/_reflection.pyveri: kanıtı sınıflandırSystemOne · tek çağrı · fallback yokadapters/typesafe.pyReflection, sınırlı kanıtı sınıflandırmak için Jev'i kullanır ve kodun belirlediği bir sonraki kontrolü ekler. İnanç hipotezlerini ya da öz güveni değiştirmez.
SystemOne · tek çağrı · fallback yok
adapters/typesafe.pyveri: tek SystemOne çağrısıTypeSafe SystemOneTypeSafe'e doğrudan ya da OpenRouter üzerinden tek bir çağrı; başka bir sağlayıcıya geçiş yoktur. Jev asla kök metin üretim modeli olarak kullanılmaz.
kabul kontrolü · toplam toleransı 1e-5
adapters/typesafe.pyveri: sınıflandırmareflection · kanıt sınıflandırmasıloop/_reflection.pyReflection durumunu yalnızca kabul edilmiş bir sınıflandırma günceller; başarısızlıkta bir sonraki raunt aynı önceki durumdan yeniden dener.
Araştırma · sabit panel U3
Actor olmadan, aynı durum ve soru üzerindeki Jev ve Astra yargıları çiftler hâlinde karşılaştırıldı.
Astra · Jev · aynı soru
U3 · sabit durumlu panelveri: Jev yargısıTypeSafe SystemOneU3 (orijinal deney commit'i 2f2b494): 120 sabit durum · 27 kaynak kümesi · 240 çağrı. Her durum ve soru Jev'e ve Astra'ya bir çift olarak gönderildi; actor, araç ya da Harbor yoktu.
Astra · Jev · aynı soru
U3 · sabit durumlu panelveri: Astra yargısıAstra hakemi · actor modeliAynı örneklemde doğru: Astra 90/120, Jev 84/120; çağrı başına medyan 10.446 s ve 0.253 s. Bu yalnızca yargı çağrısı gecikmesidir; görev süresi ya da maliyet tasarrufu değildir.
U3 · sabit durumlu panelveri: panel sonuçları · raporJev araştırma raporu
U3'ün doğruluk ve gecikme sonuçları herkese açık teknik raporda yer alır. Bu panelin E2E herkese açık paketinin parçası olup olmadığı burada iddia edilmez.
Araştırma · E/I çalıştırmaları
Actor olarak Astra ile yalnızca yargı yolu değişti; bağımsız bir kural oracle'ı sonuçları ve teslimi ayrı ayrı kontrol etti.
Astra actor · araçlar · onarım
E/I · Harbor 0.22veri: üretim · araçlar · onarımAstra hakemi · actor modeliHarbor 0.22 üzerindeki E/I'da actor Astra üretimi, araç çağrılarını ve onarımı üstlenir; yalnızca yargı yolu değişir.
hakem yolu · Astra · Jev · Jev-first
E/I · Harbor 0.22veri: tamamlanma yargısı yoluTypeSafe SystemOneE7 (orijinal deney commit'i 1f65534): elle yazılmış 12 sentetik görev × 3 yapılandırma × 2 çalıştırma = 72 çalıştırma, yapılandırma başına 24/24. Jev-first yapılandırmasında gerçek fallback 0/24 olduğundan etkisi ölçülmedi.
E/I · Harbor 0.22kayıt · gözlem: bağımsız kontroldoğruluk · teslim ayrı
rule oracleNihai sonucu bağımsız bir kural oracle'ı kontrol eder; gerçek nihai teslim ayrıca sayılır. Yarıda kesilen U8n'in sonradan incelenen 11 çiftinde her aday oracle'dan geçti, ancak teslim Astra 11/11 ve Jev Noul 0/11 oldu.
E/I · Harbor 0.22veri: hata · onarım soy kaydıE2E-DATA · kaynak · herkese açık hash'ler
jev-v3-20260927E2E herkese açık paketi hazırlık, hata ve onarım soy kayıtlarını korur; kaynak ve herkese açık kopya hash'leri ayrı tutulur. Maskelenmiş bir herkese açık kopya, değiştirilmemiş kaynağın doğrulanmasının yerini tutmaz.
REPRODUCE · model-free
jev-v3-20260927veri: model-free yeniden hesaplamaJev araştırma raporuKayıtlı yanıtlardan rakamları yeniden hesaplamak ile yeniden çalıştırmak farklı işlemlerdir. Rapor, hakemli bir makale değil, herkese açık bir teknik rapordur.
Her bağlantı aynı kalınlıkta. Yalnızca yolunu numaralı adımlarla vurgulamak için bir akış seçin.
- Düz çizgi · isteklerin, adayların ve sonuçların akış yönü
- Kesikli · çalıştırma, karar, yetkilendirme, yapılandırma
- Uzun çizgi-nokta · kayıtlar ve gözlem, hükümden ayrı
- Kalın siyah çizgi · seçilen akış; numaralar sırayı verir
- Kutu · bir kod ya da kayıt sınırı, başlığında yolu
- İç çip · o sınırdaki bir bileşen
- Kesikli kutu · o sınırın dışı
- döngü · yürütme düzeneği
- yol seçimi · hüküm · oracle
- kayıtlar · herkese açık paket
- iletim · yargı paneli
Üst ve alt kısımlar farklı sistemlerdir. Araştırmanın yapılandırmaları ve sonuçlarının hepsi bugünkü çalışma zamanı yolunda açık değildir; tek ortak bağ, ikisinin de aynı Jev modelini (jev-1.13.0) çağırmasıdır.
- Çalışma zamanı kabul kontrolü
- Çalışma zamanı olasılık toplamı toleransını 1e-5'te katı tutar. Değerlendirme tarafındaki çağıranlar, çalışma zamanı ayrıştırıcısını gevşetmek yerine kendi kayıtlı toleranslarını iletir.
- Araştırma kapsamı
- U3 yalnızca yargı çağrılarını ölçer; E/I actor'ı ve onarımı içerir. Paydaları asla karıştırılmaz ve U8n'in 11 çifti yarıda kesilmiş bir çalışmanın sonradan yapılan analizidir.
Üç karar sözleşmesi
Choice
- Döndürür
- Kategori ya da seçenek başına olasılık
- Karar verir
- Tamamlanma; isteğin amacı ve hedefi
Noul
- Döndürür
- Her koşul için P(true)
- Karar verir
- Çelişki; eksik kanıt
Score
- Döndürür
- Sabit sıralı bir ölçek üzerinde beklenen değer ve dağılım
- Karar verir
- Üretilen adayların sıralaması
Beklenen değer adayın ölçekteki yerini belirler; güven düzeyi olarak kullanılmaz.
Değerlendirme ve bağlantı
Her sözleşme kendi sabit girdi panelinde değerlendirildi; bazıları yürütme ajanının yargıyı nasıl tükettiğini görmek için deney düzeneğinin yürütme yoluna bağlandı. Yukarıdaki haritada araştırma kısmı bu çalıştırmaları gösterir; çalışma zamanı kısmı ise bugünkü GEODE'deki isteğe bağlı yoldur.
Tasarımı değiştiren gözlemler
- I5 → I6 · girdi sözleşmesi
- Ortak bir teslim hatasının izi sürülünce, yargı girdisinde görev sözleşmesinin eksik olduğu ve aynı isteğin araç gözlemlerinin geçmiş bağlam gibi tanımlandığı görüldü
- I6, revize kod ve yeni bir hesapla yapılan ayrı bir çalıştırmada 6/6 teslim etti
- U3 · aynı 120 durum çifti
- Çağrı başına medyan Astra 10.446 s · Jev 0.253 s; aynı örneklemde doğru 90/120 · 84/120
- Devir kapsamını belirlemek için her kararda hız ve doğruluk birlikte tartılır
- U2 · olasılıklar
- Jev'in olasılıkları büyüklük olarak daha iyi kalibre edildi, ancak yanlış yargılarını öne sıralamada Astra daha güvenilirdi
- Kalibrasyon ve hata seçimi ayrı ölçülür; eşik selection bölmesinde dondurulur
- U6a · amaç ve hedef
- Tasarımcının yazdığı 40 ailede Jev 216/220 · Astra 220/220; önceden kaydedilmiş −5 pp marjı karşılandı
- Sabit amaç ve hedef sınıflandırması bir sonraki uygulama adayı olarak daraltıldı
- U8n · teslim
- Yarıda kesilmiş bir çalıştırmadan sonradan incelenen 11 çift: onarılmış adaylar iki arm'da da oracle'dan geçti; teslim Astra 11/11 · Jev Noul 0/11
- Eksik kanıt yargıları doğru teslimi engelledi; mevcut Noul kurulumunun tek teslim hakemi olarak kullanılması için dayanak yok