GEODE
Autonomous Agent Harness
Da observação à próxima ação.
Um harness local de agentes autônomos ao qual se pode confiar pesquisa, trabalho com arquivos e tarefas agendadas.
Decision Offloading w. Jev
Quais das decisões intermediárias que um agente toma no meio de uma tarefa podem ser entregues ao Jev, um modelo só de decisão? Esta pesquisa verifica se a qualidade da tarefa, verificada de forma independente, se mantém depois disso, contando preparação, julgamentos repetidos, reparo e entrega final. Os primeiros pilotos não se explicavam apenas pela troca da chamada de julgamento, por isso o contrato de entrada, o contrato de decisão, a política de probabilidade e o consumo pelo agente de execução foram separados em experimentos próprios.
Runtime · veredito final
Com o Jev selecionado, a verificação final chama o Jev uma vez com uma pergunta Choice, e só passa um veredito supported admitido.
judgment_engine · llm | jev
core/config/judgment.pyexecutar · decidir: escolher a viaveredito final · uma pergunta Choicecore/agent/verify.pyA via do Jev só é usada quando judgment_engine é definido como jev (padrão llm). provider auto escolhe TypeSafe e depois OpenRouter, o que tiver chave; sem chave, a via do juiz LLM permanece. Não é um fallback que repete em outro lugar uma requisição que falhou.
veredito final · uma pergunta Choice
core/agent/verify.pydados: requisição · candidato · observaçõesSystemOne · uma chamada · sem fallbackadapters/typesafe.pyA requisição original e o candidato são ocultados e limitados, depois enviados com as observações de ferramentas como uma única pergunta Choice (supported, contradicted, insufficient_evidence). A chamada de julgamento não recebe ferramentas (allow_tools=False). Um julgamento que precisa de imagens não é enviado ao Jev e vira verification_error.
SystemOne · uma chamada · sem fallback
adapters/typesafe.pydados: uma chamada ao SystemOneTypeSafe SystemOneUma chamada, direto ao TypeSafe ou via OpenRouter, sem salto para outro provedor. O Jev nunca é usado como modelo raiz de geração de texto.
admissão · tolerância de soma 1e-5
adapters/typesafe.pydados: Choice admitidosó supported passa · só textocore/agent/verify.pyUma resposta só é usada após a admissão de tipo, intervalo e soma das probabilidades (tolerância 1e-5). Só supported passa; contradicted e insufficient_evidence viram sinal de nova tentativa com uma próxima verificação fixa. Uma resposta que não é end_turn ou falha na admissão vira verification_error, que não é sinal de nova tentativa (should_retry=False). A pontuação é uma projeção binária, não uma probabilidade calibrada.
só supported passa · só texto
core/agent/verify.pydados: passed · reflectionpolítica PostVerify · Stoploop/_lifecycle.pyO veredito vai para a política PostVerify e Stop do capítulo “Conclusão”. Um veredito é uma entrada dessa política, não uma autoridade; quando aguarda revisão, o candidato fica só como pending_text e a resposta final é vazia, então nada é entregue.
política PostVerify · Stop
loop/_lifecycle.pyregistrar · observar: linhas de vereditotimeline · linhas de decisão do ledgermemory · observabilityAs decisões de veredito são registradas na timeline e no evidence ledger: registros do runtime, separados dos artefatos de pesquisa.
Runtime · reflexão
A mesma escolha conduz a classificação de evidências da reflexão; a frase da próxima verificação é definida pelo código.
judgment_engine · llm | jev
core/config/judgment.pyexecutar · decidir: mesma escolhareflexão · classificação de evidênciasloop/_reflection.pyA mesma escolha vale para a reflexão.
reflexão · classificação de evidências
loop/_reflection.pydados: classificar evidênciasSystemOne · uma chamada · sem fallbackadapters/typesafe.pyA reflexão usa o Jev para classificar evidências limitadas e acrescenta uma próxima verificação definida pelo código. Não muda hipóteses de crença nem a autoconfiança.
SystemOne · uma chamada · sem fallback
adapters/typesafe.pydados: uma chamada ao SystemOneTypeSafe SystemOneUma chamada, direto ao TypeSafe ou via OpenRouter, sem salto para outro provedor. O Jev nunca é usado como modelo raiz de geração de texto.
admissão · tolerância de soma 1e-5
adapters/typesafe.pydados: classificaçãoreflexão · classificação de evidênciasloop/_reflection.pySó uma classificação admitida atualiza o estado de reflexão; em caso de falha, a próxima rodada tenta de novo a partir do mesmo estado anterior.
Pesquisa · painel fixo U3
Sem ator, os julgamentos do Jev e do Astra sobre o mesmo estado e a mesma pergunta foram comparados em pares.
Astra · Jev · mesma pergunta
U3 · painel de estados fixosdados: Julgamento do JevTypeSafe SystemOneU3 (commit do experimento original 2f2b494): 120 estados fixos · 27 grupos de fontes · 240 chamadas. Cada estado e pergunta foi ao Jev e ao Astra como um par; sem ator, ferramentas ou Harbor.
Astra · Jev · mesma pergunta
U3 · painel de estados fixosdados: Julgamento do AstraJuiz Astra · modelo atorAcertos na mesma amostra: Astra 90/120, Jev 84/120; mediana por chamada 10.446 s contra 0.253 s. É só a latência da chamada de julgamento, não tempo de tarefa nem economia de custo.
U3 · painel de estados fixosdados: resultados do painel · relatórioRelatório de pesquisa do Jev
Os resultados de acerto e latência do U3 aparecem no relatório técnico público. Aqui não se afirma se este painel faz parte do pacote público E2E.
Pesquisa · execuções E/I
Com o Astra como ator, só a via de julgamento mudou, e um oráculo de regras independente verificou separadamente resultados e entrega.
ator Astra · ferramentas · reparo
E/I · Harbor 0.22dados: gerar · ferramentas · repararJuiz Astra · modelo atorNo E/I sobre o Harbor 0.22, o ator Astra cuida da geração, das chamadas de ferramenta e do reparo; só a via de julgamento muda.
via de julgamento · Astra · Jev · Jev-first
E/I · Harbor 0.22dados: via de julgamento de conclusãoTypeSafe SystemOneE7 (commit do experimento original 1f65534): 12 tarefas sintéticas redigidas × 3 configurações × 2 execuções = 72 execuções, 24/24 por configuração. A configuração Jev-first teve 0/24 fallbacks reais, então seu efeito não foi medido.
E/I · Harbor 0.22registrar · observar: verificação independentecorreção · entrega separadas
rule oracleUm oráculo de regras independente verifica o resultado final, e a entrega final real é contada à parte. Nos 11 pares post hoc do U8n, interrompido, todos os candidatos passaram no oráculo, mas a entrega foi Astra 11/11 e Jev Noul 0/11.
E/I · Harbor 0.22dados: linhagem de falha · reparoE2E-DATA · hashes de origem · públicos
jev-v3-20260927O pacote público E2E mantém as linhagens de preparação, falha e reparo, com os hashes de origem e da cópia pública separados. Uma cópia pública com dados ocultados não substitui a validação da origem inalterada.
REPRODUCE · model-free
jev-v3-20260927dados: recálculo sem modeloRelatório de pesquisa do JevRecalcular números a partir de respostas armazenadas e executar de novo são operações diferentes. O relatório é um relatório técnico público, não um artigo revisado por pares.
Todas as conexões com a mesma espessura. Escolha um fluxo para destacar só o caminho dele, com etapas numeradas.
- Contínua · direção em que fluem requisições, candidatos e resultados
- Tracejada · executar, decidir, autorizar, configurar
- Traço longo e ponto · registros e observação, separados do veredito
- Linha preta grossa · o fluxo selecionado; os números dão a ordem
- Caixa · fronteira de código ou de registro, com o caminho no cabeçalho
- Chip interno · componente dessa fronteira
- Caixa tracejada · fora dessa fronteira
- loop · harness de execução
- escolha de via · veredito · oráculo
- registros · pacote público
- transporte · painel de julgamento
As partes superior e inferior são sistemas diferentes. As configurações e resultados da pesquisa não estão todos ativados no caminho atual do runtime; a única ligação comum é que ambas chamam o mesmo modelo Jev (jev-1.13.0).
- Admissão no runtime
- O runtime mantém estrita a tolerância da soma das probabilidades em 1e-5. Os chamadores de avaliação passam sua própria tolerância registrada em vez de afrouxar o parser do runtime.
- Escopo da pesquisa
- O U3 mede só chamadas de julgamento; o E/I inclui o ator e o reparo. Seus denominadores nunca se misturam, e os 11 pares do U8n são uma análise post hoc de um estudo interrompido.
Três contratos de decisão
Choice
- Retorna
- Probabilidade por categoria ou opção
- Decide
- Conclusão; a intenção e o alvo de uma requisição
Noul
- Retorna
- P(true) para cada condição
- Decide
- Contradição; evidência ausente
Score
- Retorna
- Valor esperado e distribuição em uma escala ordinal fixa
- Decide
- Ranking dos candidatos gerados
O valor esperado situa um candidato na escala; não é usado como confiança.
Avaliação e conexão
Cada contrato foi avaliado em seu próprio painel de entradas fixo, e alguns foram ligados ao caminho de execução do harness de experimentos para ver como o agente de execução consome o julgamento. No mapa acima, a parte de pesquisa mostra essas execuções; a parte do runtime é o caminho opcional do GEODE atual.
Observações que mudaram o desenho
- I5 → I6 · contrato de entrada
- Rastrear uma falha de entrega comum mostrou que a entrada do julgamento não tinha o contrato da tarefa e descrevia observações de ferramentas da mesma requisição como contexto passado
- O I6 entregou 6/6 em uma execução separada com o código revisado e uma conta nova
- U3 · os mesmos 120 pares de estados
- Mediana por chamada Astra 10.446 s · Jev 0.253 s; acertos na mesma amostra 90/120 · 84/120
- Velocidade e acerto são pesados juntos em cada decisão para definir o escopo de delegação
- U2 · probabilidades
- As probabilidades do Jev eram mais bem calibradas em magnitude, mas o Astra colocava seus julgamentos errados à frente com mais confiabilidade
- Calibração e seleção de erros são medidas separadamente, e o limiar é congelado na partição de seleção
- U6a · intenção e alvo
- Em 40 famílias redigidas pelo projetista, Jev 216/220 · Astra 220/220, dentro da margem pré-registrada de −5 pp
- A classificação fixa de intenção e alvo foi delimitada como a próxima candidata de aplicação
- U8n · entrega
- 11 pares post hoc de uma execução interrompida: os candidatos reparados passaram no oráculo nos dois braços; entrega Astra 11/11 · Jev Noul 0/11
- Julgamentos de evidência ausente bloquearam entregas corretas; a configuração atual do Noul não tem base para ser o único juiz de entrega