开篇暴击:15 万 Token 变 2000,成本砍半还多?

菲薄娱乐平台
你的位置:菲薄娱乐平台 > 新闻动态 > 开篇暴击:15 万 Token 变 2000,成本砍半还多?
开篇暴击:15 万 Token 变 2000,成本砍半还多?
发布日期:2025-12-18 05:34    点击次数:151

开篇暴击:15 万 Token 变 2000,成本砍半还多?

Anthropic 刚抛出的 Agent 开发 “神文” 炸翻技术圈:一套基于代码执行的新范式,将典型任务的 Token 消耗从 15 万骤降至 2000,成本与时间直接节省 98.7%。

要知道,当前 AI Agent 最大的命门就是上下文窗口过载—— 连接数百工具时,光工具定义就占数十万 Token;处理数据时,中间结果反复加载更是雪上加霜。Anthropic 的解法,竟是把传统软件工程的智慧搬进了 AI 领域。

�� 致命 “Token 税”:Agent 开发的两座大山

在解析新方案前,先看清传统 Agent 的两大 “隐形税”:

1. 工具定义过载:未开工先烧钱

传统模式下,所有工具定义需一次性塞进上下文。比如连接 Google Drive 与 Salesforce 的 Agent,仅两个工具的定义就包含参数说明、返回格式等大量文本:

展开剩余83%

// Salesforce工具定义示例

salesforce.updateRecord

Description:更新Salesforce记录

Parameters:

- objectType (必需,string):对象类型

- recordId (必需,string):记录ID

- data (必需,object):更新字段

连接数十个工具时,这些定义能轻松吃掉数十万 Token,模型还没干活,成本就已爆表。

2. 中间结果内耗:数据反复 “串门”

更致命的是数据流转低效。以 “下载会议纪要并同步至 Salesforce” 为例:

1. 调用 Google Drive 接口,5 万 Token 的纪要全量进入上下文

1. 调用 Salesforce 接口,5 万 Token 纪要需再次写入

仅两步骤就消耗 10 万 Token,大文件甚至直接撑爆上下文窗口。

�� 破局关键:让 AI 写代码,而非直接调用工具

Anthropic 的核心革新,是将 “模型直接调用工具” 改为 “模型编写代码调用工具”,这套建立在 MCP 协议上的新范式,从根源上解决了 Token 浪费问题。

新范式的 3 步落地法

1. 工具 API 化:将所有 MCP 工具封装成代码文件,形成文件树:

servers/

├── google-drive/

│ ├── getDocument.ts // 封装文档获取工具

│ └── index.ts

└── salesforce/

├── updateRecord.ts // 封装记录更新工具

└── index.ts

1. AI 按需探索:模型可像程序员一样浏览文件树,只读取当前任务需用的工具接口(如 getDocument.ts),避免全量加载。

1. 数据本地化流转:中间结果存储在代码变量中,无需进入上下文:

// 新范式执行代码

import * as gdrive from './servers/google-drive';

import * as salesforce from './servers/salesforce';

// 数据存在变量中,不进模型上下文

const transcript = (await gdrive.getDocument({id:'abc123'})).content;

await salesforce.updateRecord({

recordId:'00Q5f000001abcXYZ',

data:{Notes: transcript}

});

�� 性能碾压:不止省 Token,更重构能力边界

1. 核心数据对比

场景

传统方式 Token 消耗

代码执行方式 Token 消耗

节省率

跨工具数据同步

150,000

2,000

98.7%

多工具组合任务

80,000

1,800

97.8%

2. 4 大额外优势

· 渐进式探索:模型可按需搜索工具,无需预知所有接口

· 复杂逻辑落地:用代码实现循环、错误处理,替代繁琐的工具调用链(如轮询 Slack 消息)

· 隐私保护:敏感数据在执行环境内流转,模型仅见令牌化结果(如EMAIL_1)

· 技能沉淀:成功代码可保存为复用函数,形成 Agent 的 “技能库”

⚠️ 挑战与展望:安全与效率的权衡

新范式虽强大,仍需跨越一道坎 ——代码执行安全。运行 AI 生成的代码必须配备沙箱环境、资源限制与监控机制,防止恶意代码执行。

但这种权衡显然值得:Cloudflare 已独立验证类似 “代码模式” 的有效性,Anthropic 更是指出,这本质是将软件工程的成熟经验嫁接到 AI 领域 —— 上下文管理、状态持久化等问题,早有现成解法。

�� 行业影响:Agent 开发进入 “低成本时代”

对开发者而言,这意味着:

· 中小团队可负担大规模工具集成(Token 成本降至原来的 1.3%)

· 复杂任务落地更轻松(如处理 1 万行表格数据,仅需返回 5 行样本)

· 隐私合规成本降低(敏感数据无需经模型上下文)

Anthropic 用 “少即是多” 的理念证明:AI Agent 的进化,未必需要更复杂的框架,有时只需回归工程本质。

发布于:吉林省

上一篇:一段基于“少即是多”的AI写作提示词
下一篇:鹿城区门窗品牌综合测评:从材质到工艺的详细对比

Powered by 菲薄娱乐平台 @2013-2022 RSS地图 HTML地图

Copyright Powered by365站群 © 2013-2024