安いAIモデルが再評価される理由：Model Routingの重要性

大規模AIモデルは高い。

これは単なる不満ではありません。AIエージェントを実際のワークフローに入れようとする企業にとって、すでに製品設計上の制約になっています。

6月9日、TechCrunch は Can tech companies learn to love cheaper AI models? という記事を公開しました。論点は明快です。企業は最高性能のモデルを求め続ける一方で、すべてのステップに最も高価なモデルを使うことは難しくなっています。

CNBC も6月5日に、model routing はAI支出を抑える手段になりつつある と報じました。簡単で大量に発生する作業は安いモデルへ。難しくリスクの高い作業は frontier model へ。

強いモデルの価値が下がったわけではありません。

強いモデルは、慎重にルーティングすべき希少な判断資源になりつつあります。

何が起きたのか：安いモデルが再び使える選択肢になった

この2年間、AI製品の見せ方は単純でした。最強のモデルを使っています、と言えばよかった。

デモではそれで十分でした。

本番ワークフローでは、そうはいきません。

実際のエージェント作業は1回のプロンプトではありません。ファイルを読み、情報を探し、手順を作り、コードを書き、結果を確認し、修正し、最終成果物を出します。すべてのステップで最も高価なモデルを使えば、コストはすぐに膨らみます。

TechCrunch は Harvey と Fireworks AI のテストを紹介しています。報道によると、Harvey は Claude Opus と Fireworks の GLM 5.1 を組み合わせ、品質を落とさずに推論コストを3分の1にしました。重要なのは、強いモデルをすべて置き換えたことではありません。Opus が不要な部分に、より安いモデルを使ったことです。

これは大きなシグナルです。

安いモデルが注目されているのは、品質を諦めるためではありません。品質が本当に必要な場所を見極め始めたからです。

なぜ重要か：AIコストはワークフローコストになる

AIがチャットボックスの外に出ると、コストの意味が変わります。

1回の質問なら、高価なモデルでも許容できるかもしれません。しかしエージェントのワークフローでは、分類、要約、検索、下書き、実行、検証、修正、報告が連続します。

その時、モデル選択は単なる技術選定ではなく、ワークフロー設計になります。

チームは判断しなければなりません。

• どのステップは安いモデルで十分か。
• どのステップは深い推論より速度が重要か。
• どのステップは顧客、コード、契約、資金、本番環境に関係するか。
• どのアクションは人間の確認なしに進めてはいけないか。
• どの判断をログに残し、あとで監査できるようにするか。

だから model routing は単なるエンジニアリング最適化ではありません。

製品能力です。

常に最強モデルを呼ぶ製品は、デモでは良く見えます。しかし規模化しにくい。常に最安モデルを呼ぶ製品は、コストは抑えられます。しかし肝心な判断で失敗します。

難しいのは、その中間のレイヤーです。

新しい問い：どのモデルを使うかを誰が決めるのか

成熟したAIシステムは、1つのモデルにすべてを任せません。

作業をルーティングします。

単純な抽出は安いモデルへ。大量の分類は速いモデルへ。複雑な計画は強いモデルへ。リスクのあるアクションは強いモデルで判断し、その後に人間の確認で止めます。

これは会社の運営に似ています。

すべての判断をCEOに渡すわけではありません。すべての作業をインターンに任せるわけでもありません。良い組織は、必要な判断レベルを必要な仕事に割り当てます。

AI製品にも同じ規律が必要です。

チームが次に見るべきこと

AIエージェント製品を評価するとき、「どのモデルを使っていますか」だけでは足りません。

もちろん重要です。

ただ、それだけでは不十分です。

次を聞くべきです。

1. タスク難度でルーティングするか。
   定型ステップが毎回 frontier model の予算を消費するべきではありません。

2. リスクでルーティングするか。
   顧客、財務、法務、本番、安全に関わるステップはより厳密に扱うべきです。

3. モデル選択を説明できるか。
   管理者は、なぜ安いモデル、速いモデル、プレミアムモデルが使われたのかを知る必要があります。

4. コストがワークフロー単位で見えるか。
   請求書が来てから初めて気づくべきではありません。

5. 人間の確認点があるか。
   次のアクションが実システムを変えるなら、model routing だけでは不十分です。

これらは benchmark より地味です。

でも、会社の中でAIを本当に使う時にはこちらの方が重要です。

Budaとの関係

Buda は、人間がエージェントを管理するためのワークスペースです。

複数のモデルを使うほど、この考え方は重要になります。有用な AI Agent Workspace には、モデル選択だけでなく、文脈、実行環境、権限、レビュー、ログ、そしていつタスクをエスカレーションするかの判断が必要です。

Buda では、Drive で知識を整理し、サンドボックスでエージェントを実行し、Channels や Skills でワークフローを接続し、重要な成果物の前に人間のレビューを置くことができます。

目的は、常に最安モデルを使うことではありません。

必要なステップに、必要なモデルと人間の判断を置くことです。

安いモデルは妥協ではありません。管理されたエージェントシステムの一部になった時に、強力な選択肢になります。

Buda dashboard でエージェントワークフローを試してください。