GEODE
Autonomous Agent Harness
Від спостереження до наступної дії.
Локальна обв’язка автономного агента, якій можна доручити дослідження, роботу з файлами та заплановані завдання.
Аудитні сценарії створюються через фази у фіксованому порядку.
Порядком фаз володіє хост, а рольові агенти в кожній фазі розподіляють роботу. Отриманий пул сідів і обрана рубрика стають входами для поведінкового аудиту Petri.
Написання сценаріїв
Оркестратор володіє порядком фаз, рольові агенти створюють і фільтрують кандидатів, а результат експортується через файловий контракт.
порядок фаз · PipelineState
seed_generation/orchestrator.pyзапуск · рішення: запуск фаз по черзіagents/ · чернеткаОркестратор володіє порядком фаз і об’єднанням стану; роботу кожної фази виконує її рольовий агент. Усередині фази робота може розгалужуватися через SubAgentManager, а субагенти не викликають рекурсивно інших (глибина 1).
середні за вимірами · докази
baseline snapshotдані: докази базової лініїagents/ · чернеткаGenerator, Critic і Evolver читають середні за вимірами, стандартні похибки й докази обраної базової лінії. Перша генерація не має базової лінії й використовує типові промпти.
latest_pointer.json · priors
handoff pointerдані: попередній meta-reviewagents/ · чернеткаMeta-review попереднього запуску залишає priors для наступної генерації та недостатньо охоплені виміри, які ця генерація має врахувати.
agents/ · чернеткадані: кандидати в сідиagents/ · рев’ю
Кандидати від Generator по черзі проходять дедуплікацію Proximity, рев’ю Critic, Pilot (необов’язковий; пропускається в smoke-запусках) і рейтинг Elo від Ranker.
agents/ · рев’юдані: survivors · Eloagents/ · покращення
Evolver покращує кандидатів із найвищим рейтингом, а Meta-reviewer підсумовує запуск у priors для наступної генерації.
Meta-reviewer · наступні priors
agents/ · покращеннязапуск · рішення: наступна ітерація · з CriticCritic · рев’юagents/ · рев’юЯкщо задано max_iterations, після Meta-reviewer покращені кандидати знову проходять Critic → Pilot → Ranker → Evolver → Meta-reviewer. Supervisor, Generator і Proximity повторно не запускаються; типово ітерацій нуль.
agents/ · покращеннядані: експорт survivorsrun_dir/
Тексти кандидатів, що вижили, копіюються файлами в survivors/, оцінки Elo й pilot потрапляють у survivors.json, а meta-review і стан записуються окремо.
meta_review.json · state.json
run_dir/дані: вказівник latestlatest_pointer.json · priorshandoff pointerОдин latest_pointer.json записує, де лежать seed_pool і meta_review цього запуску. Канонічними є результати кожного запуску; вказівник — допоміжний засіб best-effort для наступного запуску, і невдалий запис лише логується. Не кожен запуск має обидва поля.
Запуск аудиту
Аудитор розігрує сід (інструкцію-сценарій), ціллю є обв’язка GEODE, а суддя оцінює транскрипт. Три ролі — окремі місця для моделей.
survivors/ · копії кандидатів .md
run_dir/дані: --seed-selectgeode audit · /audit · інструментpetri/runner.pyАудит бере вибірку сідів (каталог survivors, вбудовані сіди, ідентифікатори чи теги) і передає її в завдання Inspect inspect_petri/audit. Генерація сідів сама аудит не запускає.
вбудовані сіди · *.md
petri/seedsдані: вбудовані сідиgeode audit · /audit · інструментpetri/runner.pyВбудовані в репозиторій сіди можна обрати без змін.
geode audit · /audit · інструмент
petri/runner.pyзапуск · рішення: ролі моделей · три місцяМодель-аудиторМоделі аудитора, цілі та судді задаються окремо. Типово це пробний прогін; реальні виклики відбуваються лише після підтвердження оцінки вартості. Коли всі три ролі мають одного провайдера, додається позначка упередження одного провайдера.
Модель-аудитордані: діалог за сценарієм сідуGEODE як ціль · AgenticLoop
petri/geode_target.pyСід — це інструкція-сценарій для аудитора. Аудитор веде розмову й може створювати інструменти та результати інструментів лише тоді, коли ввімкнено target_tools.
GEODE як ціль · AgenticLoop
petri/geode_target.pyдані: виклики моделіБазова модель ціліУвесь AgenticLoop GEODE (інструменти, hooks, пам’ять) обгорнуто як один API моделі, тож об’єктом аудиту є обв’язка GEODE, а не сама базова модель.
GEODE як ціль · AgenticLoop
petri/geode_target.pyдані: транскриптМодель-суддяСуддя один раз читає повний транскрипт кожного зразка й оцінює його за вимірами.
judge_dimensions · YAML
petri/judge_dimsзапуск · рішення: judge_dimensionsМодель-суддяВиміри оцінювання задає обраний YAML вимірів судді. Це поведінковий аудит — вимірювання, відмінне від виконання завдань.
Модель-суддядані: оцінки за вимірамиЖурнал Inspect .eval
Журнал Inspect .eval і зведення архівуються. Збій архівування фіксується й не блокує результат аудиту.
Вимірювання → наступна генерація
SIL використовує оцінки аудиту для свого вердикту, а збережене вимірювання стає доказом базової лінії для наступної генерації сідів. Це не означає, що цей зв’язок спрацьовував автоматично в кожній кампанії.
Модель-суддядані: оцінки за вимірамиЖурнал Inspect .eval
Журнал Inspect .eval і зведення архівуються. Збій архівування фіксується й не блокує результат аудиту.
Журнал Inspect .evalзапис · спостереження: вимірюванняВимірювання SIL · measure.py
measure.py із SIL запускає аудит як підпроцес і обчислює fitness з його результату.
Вимірювання SIL · measure.pyдані: оновлення базової лініїсередні за вимірами · докази
baseline snapshotLedger SIL записує збережене вимірювання як базову лінію. Генерація сідів читає ці докази, коли базову лінію обрано (автоматично чи явно).
середні за вимірами · докази
baseline snapshotдані: докази базової лініїagents/ · чернеткаGenerator, Critic і Evolver читають середні за вимірами, стандартні похибки й докази обраної базової лінії. Перша генерація не має базової лінії й використовує типові промпти.
Усі зв’язки однакової товщини. Оберіть потік, щоб підсвітити лише його шлях із пронумерованими кроками.
- Суцільна · напрямок, яким рухаються запити, кандидати й результати
- Штрихова · запуск, рішення, авторизація, налаштування
- Довга штрихпунктирна · записи й спостереження, окремо від вердикту
- Товста чорна лінія · обраний потік; номери показують порядок
- Рамка · межа коду чи записів, шлях у заголовку
- Внутрішня плашка · компонент у цій межі
- Штрихова рамка · поза цією межею
- оркестратор · вхід аудиту
- ціль аудиту · виміри оцінювання
- результати · файли стану
- рольові агенти · вбудовані сіди
Оркестратор фіксує порядок першого проходу й порядок повторів. Конфігурація, зареєстровані ролі й точка продовження можуть пропускати деякі фази, і не кожна кампанія виконувала всі фази. Розташування файлів стану залежить від середовища, тому шляхи не показано.
- Три ролі
- Сід — це інструкція-сценарій, написана людиною чи згенерована; аудитор — модель, що її розігрує, ціль — обв’язка GEODE, яка проходить аудит, а суддя — модель, що оцінює транскрипт. Оцінки й журнали — це результати судді.
- Що вимірюється
- Аудит Petri оцінює поведінкові виміри. Це не частка виконаних завдань і не гарантія якості продукту.