#TPU

Googleは、ツール利用型LLMエージェントの強化学習後学習を効率化するJAXネイティブライブラリTunixを紹介しました。非同期ロールアウトと生産者・消費者パイプラインでTPUの待機時間を減らす設計です。

Tunixは、ネットワークI/Oやツール実行待ちの間にも別のエージェント軌跡を処理し、TPUの稼働率を維持します。 可変長の軌跡を継続的に学習器へ流すため、同期バッチの待ち時間を抑えます。 vLLM-TPUとSGLang-Jaxの非同期推論に対応し、カスタムのオープンソース環境を組み込む抽象化と継続的なRL指標プロファイリングを提供します。 Gemini APIの新エンドポイントではなく、TPU上でエージェントRLを訓練する開発者向けの基盤更新です。 ローカルLLM実行向けではなく、分散学習とGoogle TPU環境を前提としています。

GoogleはRay 2.55でGoogle Cloud TPUを正式な第一級アクセラレータとして扱えるようになったと説明しました。GKEとKubeRayを使い、複数ホストTPUスライスをまとめて予約・実行できます。

Rayのタスク、アクター、Ray Train、Ray ServeをTPU上で公式サポートの構成として利用できます。 GKEのRay OperatorとTPU用WebhookがTPUスライスの構成をラベル付けし、Ray Coreのslice_placement_group()がスライス全体を原子的に予約します。 開発者は例えば4x4のトポロジーを宣言し、手作業の配置コードなしでマルチホストTPUジョブを実行できます。 対象はRay 2.55、GKE、Google Cloud TPUを使う開発者であり、Gemini APIやGoogle AI Studioの破壊的変更ではありません。 エージェント学習・推論などの分散PythonワークロードをTPUへ移す際の運用選択肢が広がります。

Googleは、397BパラメータのQwen 3.5 MoEをIronwood TPUで高速化するシステム最適化手法を公開しました。 JAX/Pallas、データ並列とエキスパート並列の組み合わせにより、prefill中心ワークロードで最大4.7倍の推論高速化を報告しています。

対象はGoogle自身のGemini APIやGoogle AI Studioで提供されるモデルではなく、Qwen 3.5-397B MoEをIronwood TPU7x上で提供・推論するための開発者向け技術解説です。 Data ParallelismとExpert Parallelismを組み合わせ、トークンルーティング向け通信融合やカスタム低レベルカーネルを実装したと説明されています。 Batched Ragged Page AttentionやGated DeltaNetブロックの最適化により、メモリ帯域とTensorCore MXUの利用率を高め、prefill中心の処理で最大4.7倍の高速化を達成したとしています。 モデルは397Bパラメータであり、ローカル実行、量子化、Ollama/LM Studio/llama.cpp/MLX、商用利用条件はこの記事では扱っていません。 APIの移行期限・破壊的変更・料金変更は記載されていません。大規模MoE推論基盤を設計するTPU/JAX開発者に関係する内容です。

Googleは、フルスタックAIとは何かをGoogle Cloudの開発者体験担当者が解説する記事を公開しました。 TPU、Gemini、Gemini Enterprise Platform、Google AI Studio、Antigravityなどを一体のAIスタックとして説明しています。

記事では、フルスタックAIを、コンピュート基盤、AIモデル、オーケストレーション、ユーザーインターフェースまでを一貫して統合する考え方として説明しています。 GoogleはTPU、Google DeepMindのGeminiファミリー、Gemini Enterprise Platform、GmailやMapsなどの利用面までを自社で持つことを強調しています。 開発者の入口として、プロトタイプ作成にはGoogle AI Studio、業務自動化にはGemini Enterprise Platform、複雑なアプリやエージェント構築にはAntigravityを挙げています。 新モデルやAPIの破壊的変更ではなく、GoogleのAI開発基盤をどう選ぶかを示す公式解説です。 実務上は、Gemini/API/Cloud/AI Studioを単体サービスではなく、開発から運用までの統合基盤として評価する際の整理になります。

Google Developers Blogで、TPU Developer Hubの正式公開が発表されました。 モデル開発者向けに、TPUの設計、最適化、デバッグ、分散学習、低レイテンシ推論までをまとめたコード中心の学習・実装リソースです。

TPU Developer Hubは、Google Cloud TPUを使うモデル開発者、最適化担当、MLインフラ担当向けの公式リソースです。 内容は、TPUハードウェア、XLAなどのソフトウェアスタック、XProfによるトレース/デバッグ、並列化、Pallasカーネル、ネットワーク/セキュリティまで広く扱います。 PyTorch on TPUの移行、低レイテンシ推論、KV cache offloadingなど、実装に近いトピックも含まれます。 GoogleはこのHubを、AI支援開発ツールにも取り込みやすい「agent-ingestion friendly」なリソースとして位置づけています。 特定モデル/APIの破壊的変更ではなく、TPU活用のドキュメント・レシピ集の公開です。利用条件はGoogle Cloud TPUの利用形態に依存します。