#Google AI Edge

GoogleはLiteRTのJavaScriptバインディングであるLiteRT.jsを発表しました。 Webブラウザ内で.tfliteモデルをローカル実行し、プライバシー、低遅延、サーバーコスト削減を狙うWeb AI推論基盤です。

LiteRT.jsは、JavaScript/TypeScriptのWebアプリからブラウザ内でML/AIモデルをクライアント側実行するための新しいLiteRTバインディングです。 既存の.tfliteモデルをモバイル/デスクトップのWebブラウザへ展開でき、TensorFlow.jsにおける.tflite対応の発展形として位置づけられています。 推論基盤はWebAssemblyとLiteRTスタックを使い、CPUではXNNPACK、GPUではML Drift/WebGPU、今後はWebNN経由のNPU利用も見込まれます。 初期リリースではLiteRT.jsのnpmパッケージとデモが提供され、テキスト生成、物体検出、音声処理などのオンデバイスWeb AI用途を想定しています。 ローカル実行により、サーバー推論コストの削減、低遅延、プライバシー向上を狙えるため、WebアプリでAI機能を配布する開発者に関係します。 PyTorchモデルはLiteRT TorchでLiteRTへ変換でき、AI Edge Quantizerによる量子化も利用可能です。 記事内ではAPI移行期限、破壊的変更、有料/無料条件、日本での提供可否は明記されていません。

GoogleはGemma 4向けの量子化対応トレーニング(QAT)モデルを紹介し、モバイルやノートPCでのローカル推論を効率化する方向を示しました。Gemma系をローカルLLMとして使う場合、モデルサイズと実行効率に直接関係する更新です。

QATは、量子化後の精度低下を抑えるために、学習段階から低ビット推論を想定するモデル最適化手法です。今回の更新はGemma 4をモバイル、ノートPC、オンデバイス環境で動かす開発者に関係します。ローカル実行可否は、対象モデルサイズ、端末メモリ、ランタイム、量子化形式に依存しますが、Google AI EdgeやLiteRT系のオンデバイス推論に向けた流れが明確です。APIの破壊的変更ではなく、ローカル/エッジでの推論効率を高めるモデル提供・最適化の情報です。商用利用や利用条件はGemmaの公式利用規約に従う必要があります。

GoogleはGemma 4 12BをノートPC上で動かし、ローカルのエージェント型ワークフローに使う開発者向け情報を公開しました。GemmaをAPIではなく手元の端末で動かしたい場合に重要です。

Gemma 4 12Bは、GoogleのオープンモデルGemma系の12B規模モデルです。記事はGoogle AI Edgeを使って、ローカルPC上でエージェント型ワークフローを構築する方向を示しています。ローカル実行は端末メモリ、アクセラレータ、量子化、推論ランタイムに依存し、クラウドAPIのように常に同じ環境で動くわけではありません。Google AI Studio/APIの更新というより、オンデバイス/ローカルLLM実行の開発者向け導線です。商用利用や再配布はGemma公式利用規約の確認が必要です。Ollama、LM Studio、llama.cpp、MLX、vLLMなど既存ローカルLLMツールとの比較検証にも関係します。