Agent 技术栈正在分裂为两个阵营

当前 Agent 设计中代价最高的错误，就是对所有任务使用同一个模型。你调用一个前沿模型来决定是否调用某个 API，然后又用同一个模型去格式化 JSON 负载。这两项任务，一个需要物理学家，另一个只需要一个称职的文员。用物理学家的薪资去干文员的活儿，不仅是浪费，更是糟糕的工程实践。它把 Agent 的智能与其运营成本耦合在一起，最终让两者都变得更糟。

Meta 发布的 Muse Ember 让这种分裂变得具体化。这是一个专为 Agent 实际耗费大量计算周期的工作而构建的小模型：工具调用、路由和数据提取 [1]。其每百万输入 token 仅需 10 美分的价格，大幅削弱了 Claude Haiku 5.5 和 GPT-6 Luna 的竞争力 [3]。Meta 声称，在这些重复性任务上，它能提供更高的单位成本智能，同时也坦然承认它在真正的编程任务上有所欠缺 [1]。这种坦诚正是有趣之处。他们不是在推销一个无所不能的模型，而是在推销一个能以极低成本完成 Agent 枯燥工作的模型。

执行层正在成为商品

过去两年，默认的 Agent 架构一直是单体式的。一个模型——通常是前沿模型——同时处理规划、推理、工具选择以及结构化输出的机械性工作。当小模型无法可靠地生成有效的函数调用或遵循路由指令时，这种架构是合理的。但现在，那个可靠性阈值已经被跨越。Muse Ember 并非第一个能胜任工具调用的小模型，但它的定价以及 Meta 明确将其定位为 Agent 执行引擎，标志着这一层现在已是一个商品市场。

这对构建者的启示是，你的 Agent 架构现在有了一个明显的接缝。推理层——你需要真正的智能来分解任务、处理歧义或编写代码——继续由前沿模型负责。执行层——你需要根据已知模式快速、可靠地生成结构化输出——则转移到像 Ember 这样的模型上。这两层可以是来自不同供应商的不同模型，并针对不同的目标进行优化。

这对评估意味着什么

这种分裂以一种有益的方式让评估变得复杂。你不能再将你的 Agent 作为一个单一的黑箱进行基准测试就完事了。一个路由智能但工具调用格式草率的 Agent，与一个格式完美但路由愚蠢的 Agent，面临的是完全不同的问题。当推理模型和执行模型来自不同的供应商时，你需要能够隔离每一层的评估。这意味着，针对工具调用模式遵循度、提示词变化下的路由准确性以及提取保真度的测试，需要独立于你的规划评估来运行。

这也改变了你对回退策略的思考方式。如果你的执行模型足够便宜，你就能负担得起用不同的提示词多次运行它，并对输出进行投票——这种模式在前沿模型上因成本过高而难以实施。当冗余调用的成本仅为零点几美分时，通过冗余换取可靠性就成了一种合理的策略。

Instagram 的启示

还有第二个信号值得注意，尽管它来自一个不同的方向。Instagram 的 Effect Builder 现在可以根据 AI 提示词生成 AR 滤镜 [2]。这不是 Agent 基础设施，而是一个消费级功能。但它从另一面说明了相同的模式：AI 正在进入执行角色，其输出是结构化的产物，而不是对话。一个提示词生成的是一个滤镜，而不是一条聊天消息。模型在做工具调用，只是被包装在了一个用户友好的界面里。

对于 Agent 构建者来说，这提醒我们，结构化输出正在成为默认期望，而非一项专门的能力。当消费级应用将“从提示词到产物”视为一种常规功能时，你的 Agent 一次性生成有效 JSON 的能力就不再令人印象深刻，而是变成了基本要求。差异化竞争将向上游转移，集中在那决定生成什么 JSON 以及为何生成的推理能力上。

实操层面的启示很直接。审视你的 Agent 的 token 消耗，将其分为推理工作和执行工作。如果你的支出有一半以上花在了结构化输出生成、路由决策或模式遵循上，那么你就找到了一个适合引入 Muse Ember 这类模型的接缝。成本差异不是微不足道的，而是一个数量级的差距。并且，随着推理层和执行层以不同的速度演进，将智能与执行解耦所带来的工程收益将会持续叠加。