GEODE
Autonomous Agent Harness
Từ quan sát đến hành động tiếp theo.
Một harness tác nhân tự hành chạy cục bộ, có thể nhận việc nghiên cứu, thao tác tệp và tác vụ theo lịch.
Chấp nhận ứng viên và thẩm quyền phát hành là hai phán định riêng biệt.
Crucible là một nhân thử nghiệm tách biệt với tìm kiếm chính sách. Một commit ứng viên được xác thực theo các bề mặt được phép và một hợp đồng đóng băng, các tác vụ ghép cặp được tổng hợp trong một checkout đo riêng, và kết quả là KEEP, REJECT hoặc INVALID.
Phán định train
Một ứng viên trong bề mặt được phép được đo theo hợp đồng cố định trong một checkout cô lập, và các quy tắc đăng ký trước quyết định KEEP, REJECT hoặc INVALID.
propose → preflight
search/supervisor.pychạy · quyết định: yêu cầu ứng viênsearch/producersSupervisor tìm kiếm yêu cầu một producer cung cấp ứng viên. Ứng viên r14 là một ứng viên trước đó (r13) được replay producer áp dụng lại, không phải ứng viên mới do LLM sinh ra.
search/producersdữ liệu: một commit ứng viênpropose → preflight
search/supervisor.pyProducer trả về một commit ứng viên duy nhất trong các đường dẫn được phép.
propose → preflight
search/supervisor.pychạy · quyết định: bề mặt được phép · kiểm tra diffbề mặt được phép · diff ứng viêncontract.pyDiff của ứng viên phải nằm trong bề mặt được hợp đồng cho phép, và evaluator đóng băng được kiểm chứng. Trong r14 và r35, đích được phép là một tệp, tau2_agent_policy.md; core và phần hiện thực Crucible được cố định làm đường dẫn evaluator.
evaluate → decide → record
search/supervisor.pychạy · quyết định: checkout cô lậpcô lập khỏi producermeasurement checkoutỨng viên được kiểm tra trong một checkout đo tách khỏi producer.
cô lập khỏi producer
measurement checkoutchạy · quyết định: chạy theo hợp đồng cố địnhlượt chạy tau2 · receiptassays/Baseline và ứng viên chạy với cùng hợp đồng, seed và tác vụ.
lượt chạy tau2 · receipt
assays/dữ liệu: hội thoại actor · userMôi trường tau2Tác nhân GEODE (actor) trò chuyện với người dùng mô phỏng do evaluator sở hữu trong môi trường tác vụ tau2.
lượt chạy tau2 · receipt
assays/dữ liệu: lệnh gọi mô hìnhMô hình actor · userTrong r14 và r35, cả actor lẫn người dùng mô phỏng đều là gpt-5.4/high (gói thuê bao).
verifier của tác vụ
assays/dữ liệu: paired evidencepaired · tổng hợp theo task · familypromotion.pyKết quả của verifier tác vụ được giữ dưới dạng các cặp baseline–ứng viên.
frozen evaluator · đăng ký trước
contract.pychạy · quyết định: tổng hợp đã đăng ký trướcpaired · tổng hợp theo task · familypromotion.pyKết quả ghép cặp được tổng hợp theo task và family đã đăng ký trước, với các điều kiện ngân sách, độ bao phủ, hạ tầng và an toàn được kiểm tra riêng.
KEEP · REJECT · INVALID
promotion.pychạy · quyết định: KEEP · head di chuyểnsearch/* headrefs/crucibleKhi KEEP, head refs/crucible/search/* tiếp theo trở thành ứng viên. promotion_authority của một phán định train là none.
Từ chối · vô hiệu · phản hồi
REJECT và INVALID giữ nguyên head, và ứng viên tiếp theo chỉ nhận mã lỗi và ID tác vụ train cố định. INVALID không phải điểm không.
verifier của tác vụ
assays/dữ liệu: paired evidencepaired · tổng hợp theo task · familypromotion.pyKết quả của verifier tác vụ được giữ dưới dạng các cặp baseline–ứng viên.
frozen evaluator · đăng ký trước
contract.pychạy · quyết định: tổng hợp đã đăng ký trướcpaired · tổng hợp theo task · familypromotion.pyKết quả ghép cặp được tổng hợp theo task và family đã đăng ký trước, với các điều kiện ngân sách, độ bao phủ, hạ tầng và an toàn được kiểm tra riêng.
KEEP · REJECT · INVALID
promotion.pydữ liệu: REJECT · INVALIDmã lỗi · ID tác vụ trainattempt/feedback.jsonKhi bị từ chối hoặc vô hiệu, head trước đó được giữ, và ứng viên cùng bản ghi của nó được lưu lại. Trung bình của INVALID là null, không phải không.
mã lỗi · ID tác vụ train
attempt/feedback.jsondữ liệu: mã lỗi · ID tác vụsearch/producersPhản hồi cho ứng viên tiếp theo chỉ giới hạn ở mã lỗi và ID tác vụ train cố định; không trajectory hay đáp án nào của evaluator được chuyển tiếp.
Tư cách sealed · thẩm quyền riêng
Train KEEP chỉ di chuyển head tìm kiếm. Tư cách sealed chỉ đến được eligible ref; phát hành và triển khai sản phẩm là những thẩm quyền riêng nằm ngoài Crucible.
evaluate → decide → record
search/supervisor.pydữ liệu: record · ref receipttrain bundle · KEEP tính lạiattestation/bundle.pyMột train bundle chỉ thành lập khi hợp đồng, bằng chứng của baseline và ứng viên, KEEP tính lại, phả hệ đề xuất, bản ghi supervisor và receipt của ref đã áp dụng đều nối liền với nhau. Nó không phải một tên gọi khác của cải thiện.
train bundle · KEEP tính lại
attestation/bundle.pychạy · quyết định: chỉ train bundle · một lầndisjoint test pack · dùng một lầnattestation/sealed.pyĐánh giá sealed dùng một test pack rời khỏi train, một lần, không thử lại hạ tầng nào.
ELIGIBLE · release_authority none
attestation/sealed.pychạy · quyết định: chỉ eligible refeligible/*refs/crucibleNgay cả ELIGIBLE cũng chỉ ghi refs/crucible/eligible/*, và release_authority được cố định là none.
Bản ghi công khai · r14 · r35
r14 là train KEEP rồi sealed REJECT; r35 (July 13, 2026) là INVALID do độ bao phủ chưa đủ và hạ tầng bị nhiễm (0 hàng ghép cặp, trung bình null), với head không đổi.
KEEP · REJECT · INVALID
promotion.pydữ liệu: verdict.json công khaigeode-eval-artifactsCác artifact công khai là bản ghi đã chuẩn hóa, cố định tại 23e3428. Hash cấu hình train đã đăng ký trước của r14 khác với byte cấu hình công khai, nên toàn bộ chuỗi gốc không được chứng nhận lại.
attestation/sealed.pydữ liệu: sealed decision.jsonr14 · train KEEP → sealed REJECT
geode-eval-artifactsr14: KEEP trên telecom train, 6 tác vụ × 1 lần thử (6 hàng ghép cặp, không có thẩm quyền thăng hạng), sau đó một phán định sealed riêng là REJECT (không có thẩm quyền phát hành).
Mọi kết nối có cùng độ đậm. Chọn một luồng để chỉ làm nổi bật đường đi của nó, kèm các bước được đánh số.
- Nét liền · hướng đi của yêu cầu, ứng viên và kết quả
- Nét đứt · chạy, quyết định, cấp quyền, cấu hình
- Nét đen đậm · luồng được chọn; số chỉ thứ tự
- Hộp · một ranh giới mã hoặc bản ghi, đường dẫn ở phần đầu
- Chip bên trong · một thành phần trong ranh giới đó
- Hộp nét đứt · bên ngoài ranh giới đó
- supervisor tìm kiếm
- hợp đồng · phán định · chứng thực
- ref · bản ghi
- producer · thực thi
Crucible là một nhân tách biệt với SIL; hai quá trình tìm kiếm không phải một pipeline thăng hạng ứng viên cho nhau. Hộp phát hành sản phẩm không có kết nối đi vào.
- Ba thẩm quyền
- Train KEEP di chuyển head tìm kiếm, sealed ELIGIBLE ghi một eligible ref, và phát hành sản phẩm là một quyết định riêng ngoài Crucible. Một phán định trước không bao giờ trao thẩm quyền cho bước sau.
- Null không phải không
- r35 dự kiến 9 tác vụ × 3 lần thử (27 hàng mỗi arm) nhưng có 0 cặp so sánh được, nên trung bình và mức cải thiện của nó là null. Đó không phải 27 tác vụ thất bại hay tỷ lệ thành công 0%.