开篇暴击:15 万 Token 变 2000,成本砍半还多?
Anthropic 刚抛出的 Agent 开发 “神文” 炸翻技术圈:一套基于代码执行的新范式,将典型任务的 Token 消耗从 15 万骤降至 2000,成本与时间直接节省 98.7%。
要知道,当前 AI Agent 最大的命门就是上下文窗口过载—— 连接数百工具时,光工具定义就占数十万 Token;处理数据时,中间结果反复加载更是雪上加霜。Anthropic 的解法,竟是把传统软件工程的智慧搬进了 AI 领域。
�� 致命 “Token 税”:Agent 开发的两座大山
在解析新方案前,先看清传统 Agent 的两大 “隐形税”:
1. 工具定义过载:未开工先烧钱
传统模式下,所有工具定义需一次性塞进上下文。比如连接 Google Drive 与 Salesforce 的 Agent,仅两个工具的定义就包含参数说明、返回格式等大量文本:
展开剩余83%// Salesforce工具定义示例
salesforce.updateRecord
Description:更新Salesforce记录
Parameters:
- objectType (必需,string):对象类型
- recordId (必需,string):记录ID
- data (必需,object):更新字段
连接数十个工具时,这些定义能轻松吃掉数十万 Token,模型还没干活,成本就已爆表。
2. 中间结果内耗:数据反复 “串门”
更致命的是数据流转低效。以 “下载会议纪要并同步至 Salesforce” 为例:
1. 调用 Google Drive 接口,5 万 Token 的纪要全量进入上下文
1. 调用 Salesforce 接口,5 万 Token 纪要需再次写入
仅两步骤就消耗 10 万 Token,大文件甚至直接撑爆上下文窗口。
�� 破局关键:让 AI 写代码,而非直接调用工具
Anthropic 的核心革新,是将 “模型直接调用工具” 改为 “模型编写代码调用工具”,这套建立在 MCP 协议上的新范式,从根源上解决了 Token 浪费问题。
新范式的 3 步落地法
1. 工具 API 化:将所有 MCP 工具封装成代码文件,形成文件树:
servers/
├── google-drive/
│ ├── getDocument.ts // 封装文档获取工具
│ └── index.ts
└── salesforce/
├── updateRecord.ts // 封装记录更新工具
└── index.ts
1. AI 按需探索:模型可像程序员一样浏览文件树,只读取当前任务需用的工具接口(如 getDocument.ts),避免全量加载。
1. 数据本地化流转:中间结果存储在代码变量中,无需进入上下文:
// 新范式执行代码
import * as gdrive from './servers/google-drive';
import * as salesforce from './servers/salesforce';
// 数据存在变量中,不进模型上下文
const transcript = (await gdrive.getDocument({id:'abc123'})).content;
await salesforce.updateRecord({
recordId:'00Q5f000001abcXYZ',
data:{Notes: transcript}
});
�� 性能碾压:不止省 Token,更重构能力边界
1. 核心数据对比
场景
传统方式 Token 消耗
代码执行方式 Token 消耗
节省率
跨工具数据同步
150,000
2,000
98.7%
多工具组合任务
80,000
1,800
97.8%
2. 4 大额外优势
· 渐进式探索:模型可按需搜索工具,无需预知所有接口
· 复杂逻辑落地:用代码实现循环、错误处理,替代繁琐的工具调用链(如轮询 Slack 消息)
· 隐私保护:敏感数据在执行环境内流转,模型仅见令牌化结果(如EMAIL_1)
· 技能沉淀:成功代码可保存为复用函数,形成 Agent 的 “技能库”
⚠️ 挑战与展望:安全与效率的权衡
新范式虽强大,仍需跨越一道坎 ——代码执行安全。运行 AI 生成的代码必须配备沙箱环境、资源限制与监控机制,防止恶意代码执行。
但这种权衡显然值得:Cloudflare 已独立验证类似 “代码模式” 的有效性,Anthropic 更是指出,这本质是将软件工程的成熟经验嫁接到 AI 领域 —— 上下文管理、状态持久化等问题,早有现成解法。
�� 行业影响:Agent 开发进入 “低成本时代”
对开发者而言,这意味着:
· 中小团队可负担大规模工具集成(Token 成本降至原来的 1.3%)
· 复杂任务落地更轻松(如处理 1 万行表格数据,仅需返回 5 行样本)
· 隐私合规成本降低(敏感数据无需经模型上下文)
Anthropic 用 “少即是多” 的理念证明:AI Agent 的进化,未必需要更复杂的框架,有时只需回归工程本质。
发布于:吉林省