エージェントスタックが二つに分裂する

現在のエージェント設計における最も高くつく過ちは、すべてに同じモデルを使うことだ。APIを呼び出すか判断するために最高性能のモデルを選び、その同じモデルでJSONペイロードを整形する。片方のタスクには物理学者が必要で、もう片方には有能な事務員が必要だ。事務作業に物理学者の報酬を払うのは、無駄遣いというだけでなく、悪しきエンジニアリングだ。エージェントの知性と運用コストを密結合させ、両方を悪化させる。

MetaのMuse Emberリリースは、この分裂を具体的なものにする。これは、エージェントが実際にサイクルの大半を費やす作業、つまりツール呼び出し、ルーティング、データ抽出のために特別に構築された小規模モデルだ [1]。100万入力トークンあたり10セントという価格で、Claude Haiku 5.5やGPT-6 Lunaを大きく下回る [3]。Metaは、こうした反復タスクにおいて1ドルあたりの知性がより高いと主張する一方で、実際のプログラミングでは劣ることを率直に認めている [1]。この告白こそが興味深い点だ。彼らは何でもできるモデルを売っているのではなく、エージェントの退屈な部分を極めて安価に実行するモデルを売っているのだ。

実行レイヤーがコモディティになる

過去2年間、エージェントアーキテクチャのデフォルトは一枚岩だった。一つのモデル（通常は最高性能のもの）が、計画、推論、ツール選択、そして出力を構造化する機械的な作業すべてを処理していた。小規模モデルが有効な関数呼び出しを確実に生成したり、ルーティング指示に確実に従えなかった時代には、これは理にかなっていた。しかし、その信頼性の閾値は越えられた。Muse Emberはツール使用を有能に扱う最初の小規模モデルではないが、その価格設定と、エージェント実行エンジンとしてのMetaの明確な位置付けは、このレイヤーが今やコモディティ市場であることを示している。

ビルダーにとっての意味は、エージェントのアーキテクチャに明確な継ぎ目ができたということだ。推論レイヤー、つまりタスクを分解したり、曖昧さを処理したり、コードを書いたりする実際の知性が必要な部分は、最高性能のモデルに任せる。実行レイヤー、つまり既知のパターンから高速で信頼性が高く構造化された出力が必要な部分は、Emberのようなものに移行する。この二つのレイヤーは、異なるプロバイダーの、異なる目的に最適化された、異なるモデルであり得る。

評価にとっての意味

この分裂は、評価を有益な形で複雑にする。エージェントを単一のブラックボックスとしてベンチマークし、それで終わりとはいかなくなる。インテリジェントにルーティングするがツール呼び出しの整形がずさんなエージェントと、完璧に整形するが愚かなルーティングをするエージェントとでは、問題が異なる。推論モデルと実行モデルが異なるベンダーから提供される場合、各レイヤーを分離する評価が必要になる。つまり、計画の評価とは独立して実行される、ツール呼び出しスキーマの遵守、プロンプトのバリエーションに対するルーティングの正確さ、抽出の忠実度をテストすることを意味する。

これはフォールバックの考え方も変える。実行モデルが十分に安ければ、異なるプロンプトで複数回実行し、出力を投票で決定する余裕が生まれる。これは最高性能モデルでは法外に高くつくパターンだ。冗長化による信頼性向上は、冗長な呼び出しが1セント未満で済む場合、正当な戦略となる。

Instagramの教訓

別の方向からではあるが、注目すべきもう一つのシグナルがある。InstagramのEffect Builderは、AIプロンプトからARフィルターを生成するようになった [2]。これはエージェント基盤ではなく、コンシューマー向け機能だ。しかし、同じパターンを別の側面から示している。AIは、出力が会話ではなく構造化された成果物である実行役割へと移行しているのだ。プロンプトはチャットメッセージではなく、フィルターを生成する。モデルはツール使用を行っており、それがユーザーフレンドリーなインターフェースに包まれているだけだ。

エージェントビルダーにとって、これは構造化出力が専門的な機能ではなく、デフォルトの期待になりつつあることを思い出させてくれる。コンシューマーアプリがプロンプトから成果物を生成することを通常の機能として扱うようになれば、あなたのエージェントが一発で有効なJSONを生成する能力は、もはや印象的なものではなく、最低限の前提条件になる。差別化要因は、どのようなJSONを、なぜ生成するのかを決定する推論へと上流に移行する。

実践的な結論は明快だ。あなたのエージェントのトークン消費量を調べ、推論作業と実行作業に分離せよ。支出の半分以上が構造化出力の生成、ルーティング判断、スキーマ遵守にあるなら、そこにはMuse Emberのようなモデルが収まる継ぎ目がある。コスト差はわずかではなく、桁違いだ。そして、知性を実行から切り離すことによるエンジニアリング上の利点は、両方のレイヤーが異なる速度で進化するにつれて、さらに大きくなるだろう。