GEODE
Autonomous Agent Harness
Từ quan sát đến hành động tiếp theo.
Một harness tác nhân tự hành chạy cục bộ, có thể nhận việc nghiên cứu, thao tác tệp và tác vụ theo lịch.
Mỗi lần chỉ đổi một chính sách; giữ cố định phép đo.
Một vòng lặp riêng chạy bên ngoài harness. Từ baseline, nó áp dụng một thay đổi chính sách có kiểu, và cùng một đợt kiểm định Petri cùng cổng quyết định giữa KEEP và khôi phục.
Một thay đổi → kiểm định
Với hợp đồng chạy đã cố định, một chính sách được phép thay đổi và GEODE được kiểm định bằng cùng bộ đo. Đây không phải sản phẩm đang chạy tự viết lại chính nó.
Phê duyệt của người vận hànhchạy · quyết định: phê duyệthợp đồng chạy · mô hình · ngân sách
program.mdMột lượt chạy chỉ bắt đầu sau khi các lệnh gọi thật và ngân sách cố định được phê duyệt. Không có phê duyệt thì chỉ hợp đồng được chuẩn bị và kiểm tra offline.
hợp đồng chạy · mô hình · ngân sách
program.mdchạy · quyết định: hợp đồng chạyvòng lặp ngân sách cố địnhtrain.pyPhiên bản seed và rubric, mô hình theo vai trò và nguồn thông tin xác thực, thiết lập đo, ngân sách vòng lặp, thời gian và chi phí, chính sách thăng hạng và điều kiện dừng được cố định trước lượt chạy.
vòng lặp ngân sách cố định
train.pychạy · quyết định: yêu cầu một ứng viênmutator · một ứng viênloop/mutateMột giả thuyết có bằng chứng thay đổi một bề mặt chính sách được phép.
7 bề mặt · không nhận hyperparam
loop/mutatedữ liệu: thay đổi chính sách · mutation IDchính sách dựa trên tệpstate/policiesChỉ bảy bề mặt được phép thay đổi: prompt wrapper, chính sách công cụ, gợi ý phân rã, reflection, siêu dữ liệu danh mục skill, hợp đồng tác nhân (role, system_prompt, tools), và mô tả cùng gợi ý của công cụ. Thay đổi hyperparameter bị từ chối ở cả bước phân tích lẫn bước áp dụng. Áp dụng chính sách, đo lại và commit tùy chọn là các bước riêng, nên việc áp dụng tự nó không phải là kiểm định.
kho seed · rubric cố định
prepare.pychạy · quyết định: seed · rubric cố địnhtiến trình con kiểm định · timeout cố địnhmeasure.pyprepare.py là tham chiếu cố định cho kho seed và rubric; ứng viên không thay đổi nó. Thay đổi một module đo là thay đổi phép đo, không phải hệ thống đang được kiểm thử.
chính sách dựa trên tệp
state/policiesdữ liệu: chính sách được chọnOVERRIDE theo chính sách · STRICTmeasure.pymeasure.py đọc tệp chính sách đang được chọn và đưa nó vào môi trường kiểm định.
OVERRIDE theo chính sách · STRICT
measure.pychạy · quyết định: đường dẫn override theo chính sáchcore · bộ nạp chính sáchmeasure.py chuyển đường dẫn wrapper cùng các đường dẫn override và strict theo chính sách cho tiến trình con kiểm định, và bộ nạp chính sách tương ứng của runtime đọc từng cái. Wrapper (GEODE_WRAPPER_OVERRIDE → system_prompt) là một nhánh; thêm khóa môi trường không mở rộng bảy bề mặt có thể thay đổi. Chỉ riêng một tệp đã sửa không chứng minh ứng viên đã đến được target; chẩn đoán trong bằng chứng kiểm định mới xác nhận điều đó.
tiến trình con kiểm định · timeout cố định
measure.pychạy · quyết định: audit subprocessKiểm định PetriKiểm định chạy với timeout và ngân sách cố định, không bao giờ thay đổi giữa chừng một phép so sánh. Đầu ra bị thiếu là khoảng trống chẩn đoán, không phải điểm không.
Kiểm định Petridữ liệu: hội thoại kiểm địnhcore · bộ nạp chính sách
Auditor trò chuyện với GEODE qua kịch bản seed, và judge chấm bản ghi hội thoại.
Phán định → giữ · khôi phục
So với baseline cùng hợp đồng, hồi quy nghiêm trọng và quy tắc thăng hạng quyết định KEEP; một thay đổi bị từ chối được khôi phục về giá trị trước đã ghi.
Kiểm định Petridữ liệu: điểm theo chiềuhồi quy nghiêm trọng · điểm phạt
fitness.pyĐiểm số đi kèm các chiều bị thiếu và số mẫu. Một chiều chưa được đo không được đọc như một quan sát.
baseline · provenance
ledger.pydữ liệu: baseline · provenancehồi quy nghiêm trọng · điểm phạtfitness.pyPhép so sánh chỉ dùng baseline có cùng hợp đồng và epoch đã ghi. Một nhánh Git mới không cô lập trạng thái baseline.
hồi quy nghiêm trọng · điểm phạt
fitness.pydữ liệu: fitness · lý do hồi quy_should_promote · KEEPgate.pyHồi quy ở chiều nghiêm trọng và điểm phạt phụ được kiểm tra trước, sau đó mới đến phép kiểm margin hoặc chiều mục tiêu. Một giá trị vô hướng dương tự nó không bao giờ dẫn đến thăng hạng.
_should_promote · KEEP
gate.pydữ liệu: KEEP · baseline tiếp theobaseline · provenanceledger.pyỨng viên được giữ trở thành baseline tiếp theo. Một ứng viên được giữ cục bộ không phải là merge vào kho mã hay một bản phát hành.
_reject_and_revert
gate.pychạy · quyết định: REJECT · khôi phục giá trị trướcchính sách dựa trên tệpstate/policiesVới ứng viên do runner tạo, phần chính sách được ghi theo mutation ID của nó sẽ được khôi phục, và khôi phục thất bại sẽ được đánh dấu. Thay đổi thủ công không được khôi phục tự động, và một lần khôi phục không chắc chắn sẽ chặn ứng viên tiếp theo.
_should_promote · KEEP
gate.pyghi · quan sát: kết quả · hàng phán địnhkết quả · hàng mutationledger.pyPhép đo, phán định và nguồn gốc được ghi một lần thành các hàng kết quả; các hàng cũ không bao giờ bị ghi đè.
Đối chứng · đo lặp lại
Lượt chạy June 2026: một never arm không thay đổi và một baseline K=5 đo riêng nhiễu kiểm định, và một KEEP từ đợt kiểm định đơn lẻ được kiểm tra lại bằng replicate.
run-2606-broken-tool-usechạy · quyết định: ba armvòng lặp ngân sách cố định
train.pyLượt chạy June 3–4, 2026 tách dao động khỏi tác động của thay đổi bằng ba arm: never (không thay đổi), random (chấp nhận ngẫu nhiên) và gate (chấp nhận theo phán định). Target là GPT-5.5; auditor và judge là Claude Opus 4.8.
baseline gen-0 · trung bình 5 đợt kiểm định
run-2606-broken-tool-usedữ liệu: baseline trung bình K=5baseline · provenanceledger.pyBaseline gen-0 là trung bình của năm đợt kiểm định (Petri broken_tool_use, càng thấp càng tốt, trung bình 2.667).
never arm · đối chứng không thay đổi
run-2606-broken-tool-usechạy · quyết định: đo không thay đổitiến trình con kiểm định · timeout cố địnhmeasure.pyNever arm dao động đến trung bình 3.38 mà không có thay đổi chính sách nào (10 đợt kiểm định, càng thấp càng tốt): bằng chứng trực tiếp rằng nhiễu kiểm định lớn hơn tác động của thay đổi.
--replicate K · đo lại
train.pychạy · quyết định: --replicate Ktiến trình con kiểm định · timeout cố địnhmeasure.pyCùng ứng viên được đo thêm K lần trong cùng điều kiện để loại một đợt kiểm định đơn lẻ may mắn.
replicate · đo lại một KEEP đơn lẻ
run-2606-broken-tool-usechạy · quyết định: đo lại → hoàn lại_reject_and_revertgate.pyMột ứng viên được KEEP sau một đợt kiểm định gate đơn lẻ (1.6) đo lại được 3.0–3.8, tệ hơn baseline, nên champion 2.667 được khôi phục. Lượt chạy kết luận không có cải thiện rõ rệt.
Mọi kết nối có cùng độ đậm. Chọn một luồng để chỉ làm nổi bật đường đi của nó, kèm các bước được đánh số.
- Nét liền · hướng đi của yêu cầu, ứng viên và kết quả
- Nét đứt · chạy, quyết định, cấp quyền, cấu hình
- Nét gạch chấm dài · bản ghi và quan sát, tách khỏi phán định
- Nét đen đậm · luồng được chọn; số chỉ thứ tự
- Hộp · một ranh giới mã hoặc bản ghi, đường dẫn ở phần đầu
- Chip bên trong · một thành phần trong ranh giới đó
- Hộp nét đứt · bên ngoài ranh giới đó
- vòng lặp · lượt đo
- hợp đồng · phán định
- chính sách · bản ghi
- thay đổi · target được kiểm định · bản ghi lượt chạy
Trình điều khiển SIL của GEODE có tên autoresearch; cấu trúc prepare/train/program và ngân sách cố định của nó lấy cảm hứng từ autoresearch của Karpathy. Không có trọng số mô hình nào thay đổi, và bộ đo cùng ngân sách được giữ cố định trong khi so sánh.
- Những gì được thay đổi
- Bảy bề mặt: prompt wrapper, chính sách công cụ, gợi ý phân rã, reflection, siêu dữ liệu danh mục skill, hợp đồng tác nhân, và mô tả cùng gợi ý của công cụ. Bộ đánh giá, ngân sách, seed và rubric được giữ cố định trong khi so sánh.
- Phạm vi của bản ghi lượt chạy
- Các giá trị của run-2606 là trung bình Petri broken_tool_use của lượt chạy đó (càng thấp càng tốt). Chúng không phải bằng chứng về cải thiện tích lũy hay khả năng khái quát của SIL.