ハードウェアこそがポリシーである

エージェントの振る舞いを形作る決定事項は、すべてがコードの中にあるわけではない。ますます、それらはシリコン、サプライチェーン、そしてモデルを世界に接続する物理インターフェースに宿るようになっている。今週発表された3つのニュースは、この変化を無視できないものにしている。エージェントを開発する者にとって、その意味するところは明白だ。君たちのスタックはより深くなり、自分でコントロールできない部分が増殖している。

MicrosoftがカスタムAIチップの詳細を発表したとき、それをクラウドの経済性の問題として片付けるのは簡単だ。しかし、Maia 300はNvidiaのGPUに対する単なるコスト削減策ではない [3]。これは、ハードウェアレイヤーがポリシーレイヤーになりつつあるというシグナルなのだ。本番環境のAIワークロード向けに設計されたチップは、どのような推論が重要で、どのようなレイテンシプロファイルが許容可能で、どのモデルアーキテクチャが第一級のサポートを受けるのか、といった前提をエンコードしている。もし君が2027年にAzureで動作するエージェントを構築しているなら、その設計上の選択は、まだ存在していないシリコンによってすでに形作られているのだ。ハードウェアロードマップは、今やエージェントロードマップの一部である。

身体というエンドポイント

Max HodakによるPRIMAインプラントの最新情報は、この論理をさらに推し進めるものだ。Science Corporationはスターガルト病の患者に視力回復チップを埋め込み、Hodakはそれをブレイン・コンピューター・インターフェースへの一歩と明確に位置づけている [1]。これは健康専門誌にひっそりと掲載される医療機器の話ではない。表舞台に躍り出た、エージェントインターフェースの話なのだ。

BCIは人間の神経系をI/Oポートに変える。エージェント開発者にとって、これは「アクション」の意味を変える。現在、エージェントはAPIを呼び出したりデータベースを更新したりすることでアクションを起こす。明日には、エージェントのアクションは視覚野へのパターン化された刺激になり得る。安全性の対象範囲は、プロンプトインジェクションやツールの誤用から、直接的な神経への影響にまで拡大する。ガバナンスは、エージェントが何を言うか、どの関数を呼び出すかだけの問題ではなくなる。ソフトウェアが人間の感覚ストリームに書き込み可能になったとき、何が起こるかという問題になるのだ。

信頼はトランジスタと共に移動する

Disneyの話は、一見するとビジネス面での小さな脚注に見える。Character.AIの技術に対する2000万ドルのオファーは、同社が子供の自殺に関連した後に持ち上がった [2]。しかし、価格よりもパターンが重要だ。テクノロジーが有害なものとなったとき、知的財産は消え去ったりしない。それは買収され、再パッケージ化され、箱に信頼できるブランド名がついた何かに組み込まれるのだ。

エージェント開発者にとって、これは「来歴は物理的なものである」ということを思い出させる教訓だ。コードの監査はできる。モデルの出力を評価することもできる。しかし、顧客向けエージェントに現在組み込もうとしているコンポーネントが、どの学習パイプライン、どのファインチューニングの決定、どの企業系統から生まれたのかを簡単に追跡することはできない。Disneyが文書化された安全上の欠陥を持つチャットボット技術を吸収するとき、その欠陥は削除されない。それは、知っているかどうかに関わらず、そのスタックの上に構築する誰かによって継承されるのだ。

これが実際に意味すること

今日エージェントを構築するすべての人にとって、3つの具体的な変化が生じる。

第一に、ハードウェアへの意識はもはやオプションではない。エージェントのレイテンシ予算、モデルの互換性、デプロイメントのタイムラインが特定のチップアーキテクチャに依存するなら、その依存関係は、誰かが後で発行する調達チケットではなく、アーキテクチャ決定の中に含まれるべきである。

第二に、インターフェースの境界は安全境界となる。エージェントが埋め込み型デバイス、ウェアラブル、あるいは人体に直接影響を与えるハードウェアと相互作用し始めたとき、評価フレームワークは物理的危害ベクトルを考慮する必要がある。誤ったAPIコールを引き起こすハルシネーションは悪質だ。誤った神経刺激を引き起こすハルシネーションは、種類が根本的に異なる。

第三に、サプライチェーンの透明性はガバナンス要件となる。来歴が不明確なコンポーネントからエージェントを構成しているなら、評価不能な責任を継承していることになる。Character.AIの技術は消えたりしない。それは別の何かの中に現れるだろう。君たちの評価パイプラインは、買収者のブランド管理が教えてくれないことを捕捉できるだけの精度を持つ必要がある。

共通するのは、ソフトウェアだけを考えるのでは不十分になりつつあるということだ。君が構築するエージェントは、誰かのシリコンの上で動作し、誰かの身体に接続し、誰かの安全実績を継承する。それらはどれもコードではない。そして、そのすべてがポリシーなのだ。