來源:YouTube | Best Partners TV | 27分鐘 | 2026-07-09
遞迴自我改進(RSI)的近期落地路徑不是模型直接改寫權重,而是優化包裹在模型外部的 Harness 系統。Harness 工程是當前最現實的切入點,比直接修改模型參數更具可行性。
Harness 就是包裹在基礎模型外面的整套系統,負責編排執行流程,決定模型怎麼思考規劃、怎麼調用工具行動、怎麼感知和管理上下文、怎麼存儲產物、怎麼評估結果。
核心組件:工作流設計、評估系統、權限控制、持久狀態管理、工具調用接口
- 工作流自動化:目標導向循環——計劃 → 執行 → 觀察/測試 → 反饋改進。關鍵:模型在運行時分析執行軌跡和失敗案例,迭代推進
- 文件系統作為持久記憶:避免把所有內容塞進上下文窗口。使用 bash 命令讀寫編輯文件系統,管理實驗日誌、代碼差異、錯誤棧、歷史軌跡
- 子 Agent 和後台任務:主 Agent 生成多個子 Agent 並行執行。關鍵設計:並行過程必須明確可觀測,所有輸出存為文件/日誌/狀態記錄
| 方法 | 核心思路 |
|---|---|
| ACE (Agentic Context Engineering) | 上下文視為不斷演化的操作手冊:Generator 生成軌跡 → Reflector 提煉洞見 → Curator 更新結構化上下文 |
| MCE (Meta Context Engineering) | 分離上下文管理機制與內容。技能 = 上下文函數。雙層優化:內層找最優上下文,外層找最優技能 |
| Meta-Harness | 優化對象是決定信息存儲、檢索、呈現的整套代碼。在 TerminalBench-2 上超越人工編寫的強基線 |
- STOP (Self-Taught Optimizer):遞迴方式——上一代優化器優化自己生成下一代。GPT-4 迭代穩定提升,GPT-3.5/Mixtral 性能反而下降 → 基礎模型必須有足夠能力才能改進機制本身
- Self-Harness:三階段循環——弱點挖掘(失敗案例聚類成失敗模式)→ Harness 提案(基於失敗模式提出有邊界修改)→ 提案驗證(回歸測試,無回退才接受)
| 方法 | 特點 |
|---|---|
| Promptbreeder | 變異操作優化提示詞,變異指令本身也進化 |
| AlphaEvolve | 編碼 Agent 進化搜索,生成差異補丁改進程序 |
| DGM (Darwin Gödel Machine) | 優化可編輯的 Harness 代碼倉庫,在 SWE-bench 上趕上/超過手工設計 |
- 弱且模糊的評估器:研究品味、新穎性難以量化
- 上下文和記憶生命週期:記憶不斷增長需管理好上下文
- 負面結果:大模型不擅長判斷何時放棄假設
- 多樣性崩塌:進化和強化學習傾向利用已知高回報模式
- 獎勵黑客:評估器和權限控制應放在進化循環之外
- 長期成功:當前優化多針對短期回報
- 人類的角色:人類應走向更高層級,而非被踢出循環
- "一旦 Harness 設計變成了可執行的搜索空間,強編碼 Agent 就能探索和人類工程師完全一樣的設計空間。"
- "光有遞迴結構是不夠的,基礎模型必須有足夠強的能力,才能改進機制本身。"
- "就像人類能終身維持記憶一樣,上下文工程未來應該成為智能的核心組成部分。"