Skip to content

Instantly share code, notes, and snippets.

@jenaiho
Created July 10, 2026 00:19
Show Gist options
  • Select an option

  • Save jenaiho/2a3bdca1b8db5ec3aa1eb9e96d8500aa to your computer and use it in GitHub Desktop.

Select an option

Save jenaiho/2a3bdca1b8db5ec3aa1eb9e96d8500aa to your computer and use it in GitHub Desktop.
AI 自我遞迴改進先要靠 Harness 工程 | Lilian Weng 最新長文

AI 自我遞迴改進先要靠 Harness 工程 | Lilian Weng 最新長文

來源:YouTube | Best Partners TV | 27分鐘 | 2026-07-09

核心觀點

遞迴自我改進(RSI)的近期落地路徑不是模型直接改寫權重,而是優化包裹在模型外部的 Harness 系統。Harness 工程是當前最現實的切入點,比直接修改模型參數更具可行性。

什麼是 Harness?

Harness 就是包裹在基礎模型外面的整套系統,負責編排執行流程,決定模型怎麼思考規劃、怎麼調用工具行動、怎麼感知和管理上下文、怎麼存儲產物、怎麼評估結果。

核心組件:工作流設計、評估系統、權限控制、持久狀態管理、工具調用接口

Harness 三大核心設計模式

  1. 工作流自動化:目標導向循環——計劃 → 執行 → 觀察/測試 → 反饋改進。關鍵:模型在運行時分析執行軌跡和失敗案例,迭代推進
  2. 文件系統作為持久記憶:避免把所有內容塞進上下文窗口。使用 bash 命令讀寫編輯文件系統,管理實驗日誌、代碼差異、錯誤棧、歷史軌跡
  3. 子 Agent 和後台任務:主 Agent 生成多個子 Agent 並行執行。關鍵設計:並行過程必須明確可觀測,所有輸出存為文件/日誌/狀態記錄

ACE / MCE / Meta-Harness

方法 核心思路
ACE (Agentic Context Engineering) 上下文視為不斷演化的操作手冊:Generator 生成軌跡 → Reflector 提煉洞見 → Curator 更新結構化上下文
MCE (Meta Context Engineering) 分離上下文管理機制與內容。技能 = 上下文函數。雙層優化:內層找最優上下文,外層找最優技能
Meta-Harness 優化對象是決定信息存儲、檢索、呈現的整套代碼。在 TerminalBench-2 上超越人工編寫的強基線

STOP / Self-Harness 自我改進路徑

  • STOP (Self-Taught Optimizer):遞迴方式——上一代優化器優化自己生成下一代。GPT-4 迭代穩定提升,GPT-3.5/Mixtral 性能反而下降 → 基礎模型必須有足夠能力才能改進機制本身
  • Self-Harness:三階段循環——弱點挖掘(失敗案例聚類成失敗模式)→ Harness 提案(基於失敗模式提出有邊界修改)→ 提案驗證(回歸測試,無回退才接受)

進化搜索應用

方法 特點
Promptbreeder 變異操作優化提示詞,變異指令本身也進化
AlphaEvolve 編碼 Agent 進化搜索,生成差異補丁改進程序
DGM (Darwin Gödel Machine) 優化可編輯的 Harness 代碼倉庫,在 SWE-bench 上趕上/超過手工設計

七大核心挑戰

  1. 弱且模糊的評估器:研究品味、新穎性難以量化
  2. 上下文和記憶生命週期:記憶不斷增長需管理好上下文
  3. 負面結果:大模型不擅長判斷何時放棄假設
  4. 多樣性崩塌:進化和強化學習傾向利用已知高回報模式
  5. 獎勵黑客:評估器和權限控制應放在進化循環之外
  6. 長期成功:當前優化多針對短期回報
  7. 人類的角色:人類應走向更高層級,而非被踢出循環

金句

  • "一旦 Harness 設計變成了可執行的搜索空間,強編碼 Agent 就能探索和人類工程師完全一樣的設計空間。"
  • "光有遞迴結構是不夠的,基礎模型必須有足夠強的能力,才能改進機制本身。"
  • "就像人類能終身維持記憶一樣,上下文工程未來應該成為智能的核心組成部分。"
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment