Cut your AI spend with AI Gateway's Auto Router
Cloudflare AI Gatewayに、リクエストの複雑さをエッジ上の分類器で評価して最適なモデルを選ぶAuto Routerが加わった。
期待品質とトークンコストを比較し、性能を保ちながらAI利用費の削減を狙う。
Auto Routerは個々のリクエストに対して必要な能力を判定し、指定された候補から適切なモデルへ振り分ける。高価なモデルを一律に使わず、軽量モデルで十分な処理を分離できる。
対象はAI Gatewayを使う開発者・法人で、モデル運用のコスト最適化とルーティングを一元化する。モデル提供者、料金、破壊的変更、移行期限の詳細は発表で明示されていない。