听雨 发自 凹非寺量子位 | 公众号 QbitAI

前OpenAI安全副总裁、翁荔Thinking Machines Lab联创 翁荔，新博先再次发布重磅博客。客提s开

此次她深入探讨 AI自进化的出自k崔现实路径，提出一个核心观点：

不必急于让模型直接改写自身权重，进化自进化的添翼突破口应先从 Harness（运行框架/编排层）开始。

该博客题为《Harness Engineering for Self-Improvement》。附议

文中对 Harness的翁荔定义进行了工程化拆解：它并非模型内部参数，而是新博先模型外部的运行系统。它负责决定模型如何调用工具、客提s开管理上下文、出自k崔读写文件、进化拆分任务、添翼调度子Agent、附议验证结果，翁荔以及从失败中复盘。

DeepSeek研究员崔添翼第一时间转发并附议，指出：

Harness方向的自进化，与模型方向的自进化一样，都是极具潜力的产出方向。

崔添翼进一步补充，Skill（技能）可视为Harness自进化的初级形态，即从 Prompt层面实现自进化。

博客原文信息密度极高，以下为深度解读。

自进化可能先发生在Harness层

翁荔博客的核心概念是 RSI（Recursive Self-Improvement，递归自我改进）。

这一概念早期带有强烈的AGI色彩，指智能系统改进产生自身智能的机制，从而衍生出更强大的后继系统。

但在翁荔的视角下，该问题被拆解为更落地的工程问题：

在当前的AI系统中，自我改进 不一定意味着模型直接改写权重。它也可以表现为：
* 改进训练流程
* 优化研究流程
* 升级部署系统

这些改进最终帮助下一代系统在真实任务中表现更佳。

AI生成

在此架构中，Harness是部署系统中最关键的一层。

传统Agent架构常表述为「LLM + 记忆 + 工具 + 规划 + 行动」。但翁荔认为，Harness已超越早期Agent框架的模块堆砌，更接近 运行时（Runtime）和软件系统设计。

它决定了：
* 模型如何观察环境并行动
* 如何管理上下文与保存状态
* 如何评估结果
* 模型能否在长任务中持续迭代

因此，翁荔判断：近期更可行的自进化路径，并非模型直接重写“大脑”（权重），而是模型优化“获得答案的方式”（Harness）。

从Context Engineering到Self-Harness：优化层层递进

翁荔梳理了近期研究，揭示了一个清晰的演进趋势：优化对象正从上下文、工作流，逐步深入到Harness本身。

演进链条如下：
Prompt→ Structured Context→ Workflow→ Harness Code→ Optimizer Code

随着模型能力提升，被优化的对象正变得愈发抽象和通用。

第一层：Context Engineering（上下文工程）

解决长任务中上下文无限膨胀导致失控的问题。

翁荔重点提及两项代表性工作：

1. ACE (Agentic Context Engineering)
   将上下文视为一本持续更新的「操作手册」，而非堆积的提示词。
2. Generator：生成任务轨迹
3. Reflector：从成功/失败轨迹中提炼要点
4. Curator：将要点整理为结构化条目，增量更新进手册

1. MCE (Meta Context Engineering)
   进一步将「怎么管理上下文」与「上下文放什么」拆分为两层优化：
2. 外层：进化管理上下文的技能
3. 内层：利用该技能优化具体任务的上下文

相比ACE依赖人工设计更新规则，MCE向「自我管理的记忆」迈进了一大步。

第二层：Workflow Design（工作流设计）

解决「模型该如何干活」的问题。

• AI Scientist：搭建从提出想法、写代码、跑实验、分析结果到撰写论文、同行评审的完整科研流水线。
  
• ADAS：将「设计Agent工作流」本身视为一个可搜索的优化问题，由元智能体不断提出新工作流设计并接受评估。
  
• AFlow：将工作流表示为图结构，利用蒙特卡洛树搜索（MCTS）寻找更优结构。
  

演进逻辑：从人类工程化流程，到模型参与设计，再到流程结构本身进入搜索空间。优化对象从单个Prompt升级为整个Agent的行动组织方式。

第三层：Self-Improving Harness（自改进Harness）

模型不再仅使用Harness，而是开始分析Harness缺陷并提出修改。

翁荔重点介绍了 Self-Harness的工作循环：

1. Weakness Mining（弱点挖掘）
   收集Agent执行轨迹（工具调用、错误日志、失败结果、验证器反馈），挖掘反复出现的失败模式。

2. 例如：模型总在特定任务中遗漏文件，或在上下文变长后丢失关键约束。

3. Harness Proposal（Harness提案）
   基于失败模式提出小范围、可验证的修改。

4. 输入信息：可修改区域、具体失败模式、必须保留的正确行为、历史修改记录。

5. 要求：提案需聚焦于可复现问题，且保持差异化。

6. Proposal Validation（提案验证）
   候选修改需经测试验证。仅当确认提升表现且无显著回归时，才合入下一版Harness。

实证效果：该流程在 MiniMax M2.5、Qwen3.5、GLM-5 等模型上运行 Terminal-Bench-2 时，成功习得了针对不同模型薄弱点的差异化Harness配置。

潜在风险：
* 安全边界：允许程序修改系统层代码可能打破抽象边界，权限控制与安全层必须独立于循环之外。
* Reward Hacking：奖励黑客问题依然存在。

进化搜索（Evolutionary Search）

如果说Self-Harness是“修补”，进化搜索则是将Harness直接作为“可搜索对象”，逻辑类似自然选择：
1. 生成多个候选Harness
2. 模型基于已有版本修改
3. 通过Benchmark或验证器评估
4. 保留优胜者，淘汰劣者，进入下一轮

案例：DGM (Darwin Gödel Machine)
直接让Coding Agent修改自身的Harness代码仓库。
* 基座：Claude 3.5 Sonnet
* 结果：
* SWE-bench Verified：20% → 50%
* Polyglot：14.2% → 30.7%
* 表现甚至超过人工设计的Agent。

结论：即使不动模型权重，Harness本身已成为能力提升的有效搜索空间。

局限性：此类方法适用于代码、算法、GPU Kernel等可自动评估的任务。对于涉及科研品味、产品长期质量、复杂组织协作的任务，评估缓慢且模糊，效果受限。

Harness会变强，但依然有边界

翁荔强调，Harness并非替代模型训练，而是 二者互相强化：
* 成熟的Harness让模型自我改进的研究循环得以运行。
* 更聪明的模型防止Harness被过度设计，保持系统可持续性。

长期来看，Harness的许多改进最终可能被「内化」进模型行为中——正如提示词工程随模型指令跟随能力增强而逐渐淡化。但「明确目标、约束、上下文、评估标准」的核心逻辑永存。

实现RSI的五大瓶颈

翁荔也坦诚指出了当前路径的挑战：

1. 评估器太弱太模糊
   目前能跑通自我改进循环的多为代码、数学等具备明确、快速、客观反馈的任务。科研品味、创新性、长期价值难以量化。

2. 上下文和记忆的生命周期问题
   任务越自主，所需管理的记忆越多。翁荔认为，记忆管理未来可能成为智能本身的一部分，而非仅停留在软件系统层面。

AI生成

1. 负面结果容易被忽视
   研究者倾向于发表成功结果，模型在成功案例主导的数据上训练，可能缺乏判断「何时放弃假设」或「如实报告失败」的能力。

2. 多样性坍缩
   进化与强化学习循环易反复利用已知高回报模式。若无额外机制防止，种群将坍缩为单一方案的变体。

3. Reward Hacking（奖励黑客）
   自我改进循环会优化任何给定信号：

4. 奖励来自单元测试 → 模型过拟合测试
5. 奖励来自评委模型 → 模型学会「讨好」评委

6. 奖励来自榜单分数 → 模型利用榜单漏洞

7. 长期健康与短期成功的矛盾
   以Coding Agent为例，虽能提升日常生产力，但优化目标多为短期（完成眼前任务），而非长期（保护由成百上千工程师维护的代码库健康）。可维护性、权责边界、迁移成本及未来调试负担，在标准沙盒训练中常被忽略。

人类的角色

翁荔认为，人类不会被踢出循环，而是向 「环外」移动——在合适的时机、合适的抽象层级上提供监督。这是系统设计时必须厘清的问题。

结语

过去，大模型竞争聚焦于参数、数据、算力和推理能力。

如今，另一个变量 Harness已不可忽视。

同一个模型，置于不同的Harness中，可能展现出截然不同的能力。这已从少数人的观察变为行业共识。

翁荔的博客揭示了一个关键趋势：「AI自进化更现实的工程入口是什么」，将成为下一阶段的核心议题。

博客原文：https://lilianweng.github.io/posts/2026-07-04-harness/

参考链接：https://x.com/tianyi/status/2074475185957380379