Geodi, die offizielle Pixelfigur von GEODE
Zurück zum Saal

GEODE

Autonomous Agent Harness

Von der Beobachtung zur nächsten Handlung.

Ein lokales Harness für autonome Agenten, dem sich Recherche, Dateiarbeit und geplante Aufgaben übergeben lassen.

2026.02.21 — present

Entwurf, Urteil, Verifikation: Author · Implementierung: Claude · Review: Codex

  • CLIVeröffentlicht · PyPI
  • MCP-ServerImplementiert

Audit-Szenarien entstehen in Phasen mit fester Reihenfolge.

Der Host besitzt die Phasenreihenfolge, und in jeder Phase teilen Rollen-Agenten die Arbeit auf. Der entstehende Seed-Pool und die gewählte Rubrik werden zu Eingaben des Petri-Verhaltensaudits.

Seed-Karte · gezeichnet nach den evals-Pfaden im fixierten Commit 9e2c041
GEODE: Erzeugung von Audit-Szenarien und Petri-AuditWie Audit-Szenarien (Seeds) geschrieben und auditiert werden. Der Orchestrator seed_generation besitzt die Phasenreihenfolge, während Rollen-Agenten Entwurf, Review und Verbesserung übernehmen; das Ergebnis wird als survivors-Verzeichnis und meta-review-Dateien exportiert. Ein Petri-Audit übernimmt eine Seed-Auswahl und vergibt drei getrennte Modellrollen: Der Auditor spielt das Seed-Szenario, das Target ist das gesamte GEODE-Scaffold, und der Judge bewertet das Transkript nach Dimensionen in ein Inspect-Log. Die SIL-Messung liest dieses Ergebnis, und eine beibehaltene Messung wird zum Baseline-Beleg für die nächste Generierung.Auditor-Modellspielt das Seed-SzenarioTarget-Basismodelldas Modell, das GEODE umhülltJudge-Modellbewertet das gesamte TranskriptInspect-.eval-LogArchiv · ZusammenfassungSIL-Messung · measure.pygelesen vom Kapitel „Policy-Suche“baseline snapshotDimensionsmittel · Belegehandoff pointerlatest_pointer.json · priorsseed_generation/orchestrator.pyPhasenreihenfolge · PipelineStatecheckpoint · resumeagents/ · EntwurfSupervisor · Laufstrategieliterature_review · standardmäßig ausGenerator · Seed-Kandidatenagents/ · ReviewProximity · DeduplizierungCritic · ReviewPilot · optional · nicht in smokeRanker · Eloagents/ · VerbesserungEvolver · VerbesserungMeta-reviewer · nächste priorsrun_dir/survivors/ · .md-Kopien der Kandidatensurvivors.json · Elo · pilotmeta_review.json · state.jsonpetri/seedsmitgelieferte Seeds · *.mdpetri/runner.pygeode audit · /audit · ToolKostenschätzung · standardmäßig dry-runpetri/geode_target.pyGEODE als Target · AgenticLooppetri/judge_dimsjudge_dimensions · YAMLZustandsdateien außerhalb eines Laufsevals/seed_generationSzenario-Erstellungevals/petriAudit-Lauf1Phasen der Reihe nach ausführen2Baseline-Belege3 vorheriges meta-review · latest_pointer.json · priors → agents/ · Entwurf34 Seed-Kandidaten · agents/ · Entwurf → agents/ · Review45survivors · Elo6 nächste Iteration · ab Critic · Meta-reviewer · nächste priors → Critic · Review67 survivors exportieren · agents/ · Verbesserung → run_dir/78latest-Pointer1--seed-select2mitgelieferte Seeds3 Modellrollen · drei Plätze · geode audit · /audit · Tool → Auditor-Modell34Seed-Szenario-Dialog5 Modellaufrufe · GEODE als Target · AgenticLoop → Target-Basismodell56Transkript7 judge_dimensions · judge_dimensions · YAML → Judge-Modell78Dimensionsscores1Dimensionsscores2 Messung · Inspect-.eval-Log → SIL-Messung · measure.py23Baseline-Aktualisierung4Baseline-Belege

Szenario-Erstellung

Der Orchestrator besitzt die Phasenreihenfolge, Rollen-Agenten entwerfen und filtern Kandidaten, und das Ergebnis wird über einen Dateivertrag exportiert.

  1. Phasenreihenfolge · PipelineStateseed_generation/orchestrator.pyAusführen · Entscheiden: Phasen der Reihe nach ausführenagents/ · Entwurf

    Der Orchestrator besitzt die Phasenreihenfolge und das Zusammenführen des Zustands; der Rollen-Agent jeder Phase erledigt die Arbeit. Innerhalb einer Phase kann die Arbeit über SubAgentManager aufgefächert werden, und Sub-Agenten verzweigen nicht weiter (depth 1).

  2. Dimensionsmittel · Belegebaseline snapshotDaten: Baseline-Belegeagents/ · Entwurf

    Generator, Critic und Evolver lesen die Mittelwerte, Standardfehler und Belege der gewählten Baseline pro Dimension. Die erste Generierung hat keine Baseline und nutzt die Standard-Prompts.

  3. latest_pointer.json · priorshandoff pointerDaten: vorheriges meta-reviewagents/ · Entwurf

    Das meta-review des vorherigen Laufs hinterlässt priors für die nächste Generation und zu wenig abgedeckte Dimensionen, die diese Generierung berücksichtigt.

  4. agents/ · EntwurfDaten: Seed-Kandidatenagents/ · Review

    Kandidaten des Generator durchlaufen nacheinander die Deduplizierung durch Proximity, das Review durch Critic, Pilot (optional; in smoke-Läufen übersprungen) und das Elo-Ranking von Ranker.

  5. agents/ · ReviewDaten: survivors · Eloagents/ · Verbesserung

    Evolver verbessert die am höchsten gerankten Kandidaten, und Meta-reviewer fasst den Lauf zu priors für die nächste Generation zusammen.

  6. Meta-reviewer · nächste priorsagents/ · VerbesserungAusführen · Entscheiden: nächste Iteration · ab CriticCritic · Reviewagents/ · Review

    Ist max_iterations gesetzt, durchlaufen die verbesserten Kandidaten nach Meta-reviewer erneut Critic → Pilot → Ranker → Evolver → Meta-reviewer. Supervisor, Generator und Proximity laufen nicht erneut; Standard sind null Iterationen.

  7. agents/ · VerbesserungDaten: survivors exportierenrun_dir/

    Die Texte überlebender Kandidaten werden als Dateien nach survivors/ kopiert, Elo- und pilot-Scores gehen nach survivors.json, und meta-review und Zustand werden getrennt geschrieben.

  8. meta_review.json · state.jsonrun_dir/Daten: latest-Pointerlatest_pointer.json · priorshandoff pointer

    Eine einzige latest_pointer.json hält fest, wo seed_pool und meta_review dieses Laufs liegen. Maßgeblich sind die Ausgaben pro Lauf; der Pointer ist eine best-effort-Hilfe für den nächsten Lauf, und ein fehlgeschlagenes Schreiben wird nur geloggt. Nicht jeder Lauf hat beide Felder.

Audit-Lauf

Der Auditor spielt den Seed (eine Szenario-Anweisung), das Target ist das GEODE-Scaffold, und der Judge bewertet das Transkript. Die drei Rollen sind getrennte Modellplätze.

  1. survivors/ · .md-Kopien der Kandidatenrun_dir/Daten: --seed-selectgeode audit · /audit · Toolpetri/runner.py

    Ein Audit übernimmt eine Seed-Auswahl (ein survivors-Verzeichnis, mitgelieferte Seeds, IDs oder Tags) und übergibt sie an den Inspect-Task inspect_petri/audit. Die Seed-Erzeugung startet selbst kein Audit.

  2. mitgelieferte Seeds · *.mdpetri/seedsDaten: mitgelieferte Seedsgeode audit · /audit · Toolpetri/runner.py

    Die im Repository mitgelieferten Seeds lassen sich unverändert auswählen.

  3. geode audit · /audit · Toolpetri/runner.pyAusführen · Entscheiden: Modellrollen · drei PlätzeAuditor-Modell

    Auditor-, Target- und Judge-Modell werden getrennt festgelegt. Standard ist ein Dry-Run; echte Aufrufe erfolgen erst nach Bestätigung einer Kostenschätzung. Teilen sich alle drei Rollen einen Provider, wird eine Markierung für Same-Provider-Bias angehängt.

  4. Auditor-ModellDaten: Seed-Szenario-DialogGEODE als Target · AgenticLooppetri/geode_target.py

    Ein Seed ist eine Szenario-Anweisung für den Auditor. Der Auditor führt das Gespräch und kann Tools und Tool-Ergebnisse nur erzeugen, wenn target_tools aktiviert ist.

  5. GEODE als Target · AgenticLooppetri/geode_target.pyDaten: ModellaufrufeTarget-Basismodell

    Die gesamte AgenticLoop von GEODE (Tools, Hooks, Gedächtnis) wird als eine Modell-API umhüllt; auditiert wird also das GEODE-Scaffold, nicht das Basismodell allein.

  6. GEODE als Target · AgenticLooppetri/geode_target.pyDaten: TranskriptJudge-Modell

    Der Judge liest das vollständige Transkript jedes Samples einmal und bewertet es nach Dimensionen.

  7. judge_dimensions · YAMLpetri/judge_dimsAusführen · Entscheiden: judge_dimensionsJudge-Modell

    Die gewählte YAML der Judge-Dimensionen legt die Bewertungsdimensionen fest. Es ist ein Verhaltensaudit, eine andere Messung als Aufgabenabschluss.

  8. Judge-ModellDaten: DimensionsscoresInspect-.eval-Log

    Das Inspect-.eval-Log und eine Zusammenfassung werden archiviert. Ein Archivierungsfehler wird vermerkt und blockiert das Audit-Ergebnis nicht.

Messung → nächste Generierung

SIL nutzt Audit-Scores für sein Urteil, und eine beibehaltene Messung wird zum Baseline-Beleg für die nächste Seed-Erzeugung. Das heißt nicht, dass diese Verbindung in jeder Kampagne automatisch lief.

  1. Judge-ModellDaten: DimensionsscoresInspect-.eval-Log

    Das Inspect-.eval-Log und eine Zusammenfassung werden archiviert. Ein Archivierungsfehler wird vermerkt und blockiert das Audit-Ergebnis nicht.

  2. Inspect-.eval-LogAufzeichnen · Beobachten: MessungSIL-Messung · measure.py

    measure.py von SIL führt den Audit-Subprozess aus und berechnet aus dessen Ergebnis die Fitness.

  3. SIL-Messung · measure.pyDaten: Baseline-AktualisierungDimensionsmittel · Belegebaseline snapshot

    Das Ledger von SIL schreibt eine beibehaltene Messung als Baseline. Die Seed-Erzeugung liest diese Belege, wenn eine Baseline gewählt ist (automatisch oder explizit).

  4. Dimensionsmittel · Belegebaseline snapshotDaten: Baseline-Belegeagents/ · Entwurf

    Generator, Critic und Evolver lesen die Mittelwerte, Standardfehler und Belege der gewählten Baseline pro Dimension. Die erste Generierung hat keine Baseline und nutzt die Standard-Prompts.

Alle Verbindungen in gleicher Stärke. Wird ein Ablauf gewählt, ist nur sein Pfad hervorgehoben, mit nummerierten Schritten.

  • Durchgezogen · Richtung, in die Anfragen, Kandidaten und Ergebnisse fließen
  • Gestrichelt · ausführen, entscheiden, autorisieren, konfigurieren
  • Lang strichpunktiert · Aufzeichnungen und Beobachtung, getrennt vom Urteil
  • Dicke schwarze Linie · der gewählte Ablauf; Nummern geben die Reihenfolge an
  • Kasten · eine Code- oder Aufzeichnungsgrenze, Pfad in der Kopfzeile
  • Innerer Chip · eine Komponente in dieser Grenze
  • Gestrichelter Kasten · außerhalb dieser Grenze
  • Orchestrator · Audit-Einstieg
  • Audit-Target · Bewertungsdimensionen
  • Ausgaben · Zustandsdateien
  • Rollen-Agenten · mitgelieferte Seeds

Der Orchestrator legt die Reihenfolge des ersten Durchgangs und der Wiederholung fest. Konfiguration, registrierte Rollen und der Wiederaufnahmepunkt können einzelne Phasen überspringen, und nicht jede Kampagne durchlief jede Phase. Die Orte der Zustandsdateien hängen von der Umgebung ab, daher sind keine Pfade angegeben.

Drei Rollen
Ein Seed ist eine Szenario-Anweisung, von einem Menschen geschrieben oder erzeugt; der Auditor ist das Modell, das sie spielt, das Target das auditierte GEODE-Scaffold und der Judge das Modell, das das Transkript bewertet. Scores und Logs sind Ausgaben des Judge.
Was gemessen wird
Ein Petri-Audit bewertet Verhaltensdimensionen. Es ist weder eine Aufgabenabschlussquote noch eine Garantie für Produktqualität.