「モデルを公開しました」で終わる発表と、「明日から使えます」で終わる発表には大きな差がある。Gemma 4 12Bをノートパソコンに持ち込むこの案内は、後者を狙って書かれている。
3つの入り口
紹介されているのは大きく3つの使い方だ。Google AI Edge Galleryではデータ分析用のスクリプトをその場で生成・実行する体験がローカルで試せる。Eloquentでは音声を使った文章編集ができる。そしてLiteRT-LM CLIには新たに serve コマンドが加わり、Gemma 4 12Bをローカルで動くLLMサーバーとして立ち上げられるようになった。
OpenAI互換エンドポイントという実務上の急所
3つの中でも実務的なインパクトが大きいのは serve コマンドだろう。ローカルで立てたエンドポイントがOpenAI互換になっているため、すでにOpenAIのAPI形式を前提に組まれている社内ツールやスクリプト、エージェントフレームワークを、コードをほぼ書き換えずにローカルモデルへ差し替えられる。クラウドAPIのコストや情報漏えいリスクを気にする開発チームにとって、既存資産を活かしたまま切り替えの選択肢が増える意味は小さくない。
性能はハードウェア次第という現実
とはいえ、ローカル実行には限界もある。12Bというサイズはノートパソコンで動かせる範囲ではあるものの、体感速度はメモリ容量やGPU/NPUの有無に大きく左右される。クラウドの大規模モデルと同じ応答速度を期待すると肩透かしを食らう可能性が高い。オフラインで動く、情報が外に出ない、待ち時間が読みやすいといった利点と、非力な端末では実用速度が出ないという制約は表裏一体だ。必要スペックや実際の速度感については、Google Developers Blogの記事(https://developers.googleblog.com/bringing-gemma-4-12b-to-your-laptop-unlocking-local-agentic-workflows-with-google-ai-edge/)や関連するモデルカードを事前に確認しておくとよいだろう。