Anthropic 说 AI 正在制造 AI:为什么 Agent 管理会成为新瓶颈

当 Agent 加速 AI 研发,人类判断、审查和控制会变成稀缺层。

Buda Team
返回博客
Anthropic 说 AI 正在制造 AI:为什么 Agent 管理会成为新瓶颈

Anthropic 这周发布了一篇很直接的文章:When AI builds itself。这不是一个普通的新模型发布,也不是 Claude 的小功能更新。它讨论的是一个更底层的变化:AI 系统正在加速 AI 系统自己的研发。Anthropic 没有说完整的 recursive self-improvement 已经到来。它说得很克制:还没有到那一步,也不一定必然发生。但信号已经很清楚:AI 不只是帮人写代码,它开始参与制造下一代 AI。

AI development loop

Claude 正在进入研发系统

截至 2026 年 5 月,Anthropic 合并进生产代码库的代码里,超过 80% 可以归因于 Claude。在 2025 年 2 月 Claude Code 研究预览发布前,这个比例还只是低个位数。2026 年第二季度,典型工程师每天合并的代码量,是 2024 年的 8 倍。真正重要的不是具体倍数,而是工作流变了:人类给目标,Claude 越来越多地选择方法、写代码、跑测试、查问题、再迭代。

执行正在变便宜,判断正在变贵

Anthropic 这篇文章有价值,因为它没有把问题写成简单的“AI 取代人”。AI 越来越擅长做事:写代码、跑实验、优化已知目标、快速尝试很多路径。但真正困难的是:哪些目标值得做,哪些结果可信,什么时候应该停止一条路线。当 Agent 让执行变便宜,瓶颈就会转移到审查、方向和控制。Anthropic 也提到,Claude 生成更多代码后,人类 code review 已经成为新的瓶颈。

AI 公司是第一批样本

最先被 AI 深度改造的组织,可能就是 AI 公司自己。它们有最强的模型、最密集的工程需求,也最有动力自动化自己的研发闭环。同样的模式会向外扩散:软件公司用 Agent 维护代码库,安全团队用 Agent 找漏洞、修漏洞,医药团队用 Agent 设计实验,运营团队用 Agent 监控和处理任务。问题不只是 AI 会不会影响某个岗位,而是一家公司的核心工作流会不会被 Agent 化。

Human bottleneck

Recursive self-improvement 是治理问题

Recursive self-improvement 指的是一个 AI 系统可以完全自主地设计和开发自己的继任者。这不是今天的现实。但早期组件已经出现:Agent 可以写代码、跑实验、优化系统、比较结果,并且越来越能建议下一步。更快的闭环不一定是坏事,它可能加速科学、医疗和工程。但它一定会让治理变得更重要:Agent 能访问什么、修改什么、哪些动作必须审批、哪些证据必须记录、谁有权暂停或回滚系统。

Buda 如何连接这件事

Buda 面向的就是这样一个世界:Agent 做更多执行,人类管理更多执行。Buda 的 Space 给组织一个边界。Agent 在这个边界里使用文件、会话、终端、浏览器、channels、artifacts 和任务。人类可以看到发生了什么,调整目标,审查输出,批准敏感动作,并在需要时接管。Agent 越强,公司越不需要一堆孤立聊天框。公司需要的是身份、上下文、权限、审查、审计和交接。执行正在变得充足,判断正在变成稀缺层。

你可以在 buda.im 开始构建 human-led agent workflows,也可以阅读 Buda Agent Workspace 文档