GEODE
Autonomous Agent Harness
От наблюдението до следващото действие.
Локална рамка за автономни агенти, на която могат да се възлагат проучвания, работа с файлове и планирани задачи.
Една политика се променя наведнъж; измерването остава фиксирано.
Отделен цикъл, който работи извън рамката. От базовата линия прилага една типизирана промяна на политика, а същият одит Petri и същата порта решават между KEEP и възстановяване.
Една промяна → одит
При фиксиран договор за изпълнение се променя една разрешена политика и GEODE се одитира със същия апарат. Това не е работещият продукт, който сам се пренаписва.
Одобрение от оператораизпълнение · решение: одобрениедоговор за изпълнение · модели · бюджет
program.mdИзпълнението започва едва след одобрение на реалните извиквания и фиксирания бюджет. Без одобрение само се подготвя договорът и се проверява офлайн.
договор за изпълнение · модели · бюджет
program.mdизпълнение · решение: договор за изпълнениецикъл с фиксиран бюджетtrain.pyВерсиите на seed и рубриката, моделите за ролите и източниците на идентификационни данни, настройките на измерването, бюджетите за итерации, време и разходи, политиката за повишаване и условията за спиране се фиксират преди изпълнението.
цикъл с фиксиран бюджет
train.pyизпълнение · решение: искане на един кандидатмутатор · един кандидатloop/mutateЕдна подкрепена с доказателства хипотеза променя една разрешена повърхност на политиката.
7 повърхности · без хиперпараметри
loop/mutateданни: промяна на политика · ID на мутациятаполитика във файлstate/policiesМогат да се променят само седем повърхности: обвиващият промпт, политиката за инструментите, съветите за декомпозиция, рефлексията, метаданните на каталога с умения, договорът на агента (role, system_prompt, tools) и описанията и подсказките на инструментите. Промените в хиперпараметри се отхвърлят както при анализа, така и при прилагането. Прилагането на политика, повторното измерване и незадължителният къмит са отделни стъпки, така че прилагането само по себе си не е одит.
пул от seed · рубрика фиксирани
prepare.pyизпълнение · решение: seed · рубрика фиксираниодитен подпроцес · фиксиран timeoutmeasure.pyprepare.py е фиксираната отправна точка за пула от seed и рубриката; кандидатите не го променят. Промяната на измервателен модул променя измерването, а не изпитваната система.
политика във файл
state/policiesданни: избрана политикаOVERRIDE за всяка политика · STRICTmeasure.pymeasure.py прочита текущо избрания файл с политика и го предава в средата на одита.
OVERRIDE за всяка политика · STRICT
measure.pyизпълнение · решение: пътища за override на всяка политикаcore · зареждачи на политикиmeasure.py предава на одитния подпроцес пътищата на обвивката и пътищата override и strict за всяка политика, а съответният зареждач на политики в средата за изпълнение прочита всеки от тях. Обвивката (GEODE_WRAPPER_OVERRIDE → system_prompt) е само един клон; допълнителни ключове на средата не разширяват седемте променяеми повърхности. Редактиран файл сам по себе си не доказва, че кандидатът е достигнал целта; това се потвърждава от диагностиката в одитните доказателства.
одитен подпроцес · фиксиран timeout
measure.pyизпълнение · решение: audit subprocessОдит PetriОдитът се изпълнява с фиксиран timeout и бюджет, които никога не се променят по време на сравнение. Липсващият изход е празнина в диагностиката, а не оценка нула.
Одит Petriданни: одитен диалогcore · зареждачи на политики
Одиторът разговаря с GEODE чрез сценария seed, а съдията оценява стенограмата.
Вердикт → запазване · възстановяване
Спрямо базовата линия със същия договор критичните регресии и правилото за повишаване решават KEEP; отхвърлената промяна се връща към записаната предишна стойност.
Одит Petriданни: оценки по измерениякритична регресия · наказания
fitness.pyОценките идват заедно с липсващите измерения и броя на извадките. Неизмерено измерение не се чете като наблюдение.
baseline · provenance
ledger.pyданни: baseline · provenanceкритична регресия · наказанияfitness.pyСравнението използва само базова линия със същите записани договор и епоха. Нов клон в Git не изолира състоянието на базовата линия.
критична регресия · наказания
fitness.pyданни: fitness · причини за регресия_should_promote · KEEPgate.pyПърво се проверяват регресиите по критичните измерения и спомагателните наказания, а след това тестът за марж или за целевото измерение. Само положителен скалар никога не води до повишаване.
_should_promote · KEEP
gate.pyданни: KEEP · следваща базова линияbaseline · provenanceledger.pyЗапазеният кандидат става следващата базова линия. Кандидат, запазен локално, не е сливане в хранилището, нито пускане.
_reject_and_revert
gate.pyизпълнение · решение: REJECT · връщане на предишнотополитика във файлstate/policiesЗа кандидат, създаден от runner, се възстановява разделът на политиката, записан под неговия ID на мутация, а неуспешното възстановяване се отбелязва. Ръчните промени не се възстановяват автоматично, а несигурно възстановяване спира следващия кандидат.
_should_promote · KEEP
gate.pyзапис · наблюдение: резултат · ред с вердиктрезултати · редове с мутацииledger.pyИзмерването, вердиктът и произходът се записват веднъж като редове с резултати; старите редове никога не се пренаписват.
Контроли · повторни измервания
Изпълнение от юни 2026 г.: рамо never без промяна и базова линия K=5 измериха отделно шума на одита, а KEEP от единичен одит беше проверен отново чрез повторения.
run-2606-broken-tool-useизпълнение · решение: три раменацикъл с фиксиран бюджет
train.pyИзпълнението от 3–4 юни 2026 г. раздели отклонението от ефекта на мутацията с три рамена: never (без промяна), random (случайно приемане) и gate (приемане по вердикт). Целта беше GPT-5.5; одиторът и съдията бяха Claude Opus 4.8.
базова линия gen-0 · средно от 5 одита
run-2606-broken-tool-useданни: базова линия от средно K=5baseline · provenanceledger.pyБазовата линия gen-0 беше средното от пет одита (Petri broken_tool_use, по-ниското е по-добро, средно 2.667).
рамо never · контрола без промяна
run-2606-broken-tool-useизпълнение · решение: измерване без промянаодитен подпроцес · фиксиран timeoutmeasure.pyРамото never се отклони до средно 3.38 без никаква промяна на политиката (10 одита, по-ниското е по-добро): пряко доказателство, че шумът на одита е надхвърлил ефекта на мутацията.
--replicate K · повторно измерване
train.pyизпълнение · решение: --replicate Kодитен подпроцес · фиксиран timeoutmeasure.pyСъщият кандидат се измерва още K пъти при същите условия, за да се отсее един случайно сполучлив одит.
replicate · повторно измерване на единичен KEEP
run-2606-broken-tool-useизпълнение · решение: повторно измерване → връщане_reject_and_revertgate.pyКандидат, запазен след един одит gate (1.6), измери 3.0–3.8 при повторенията, по-зле от базовата линия, затова беше възстановен шампионът 2.667. Изводът от изпълнението: няма ясно подобрение.
Всички връзки с еднаква дебелина. Изберете поток, за да се откроят само неговият път и номерираните стъпки.
- Плътна · посоката, в която текат заявките, кандидатите и резултатите
- Прекъсната · изпълнение, решение, разрешаване, конфигуриране
- Дълга щрих-пунктирна · записи и наблюдение, отделно от вердикта
- Дебела черна линия · избраният поток; числата показват реда
- Кутия · граница на код или записи, с пътя в заглавието
- Вътрешен етикет · компонент в тази граница
- Прекъсната кутия · извън тази граница
- цикъл · измервателно изпълнение
- договор · вердикт
- политика · записи
- промяна · одитирана цел · запис на изпълнението
Драйверът за SIL на GEODE се казва autoresearch; структурата prepare/train/program и фиксираният бюджет следват autoresearch на Karpathy. Теглата на модела не се променят, а апаратът и бюджетът остават фиксирани по време на сравнение.
- Какво може да се променя
- Седем повърхности: обвиващ промпт, политика за инструментите, съвети за декомпозиция, рефлексия, метаданни на каталога с умения, договор на агента и описания и подсказки на инструментите. Оценителят, бюджетът, seed и рубриката остават фиксирани по време на сравнение.
- Обхват на записа на изпълнението
- Стойностите на run-2606 са средните Petri broken_tool_use на това изпълнение (по-ниското е по-добро). Те не са доказателство за кумулативно подобрение на SIL или за обобщаемост.