モデルの賢さを競う時代から、そのモデルを「どれだけ安く速く動かせるか」を競う時代へ。OpenAIとBroadcomが共同発表したLLM推論向けチップは、その転換を象徴する動きだ。
大規模言語モデルは、学習を終えたあとも利用者からの問い合わせのたびに計算を行う。この「推論」のコストと効率をどう改善するかは、AIサービスを運営する上で収益性に直結する課題であり、モデルの精度と同じくらい重要になってきている。今回の発表は、その課題にソフトウェア企業であるOpenAIがハードウェア側から踏み込んだものだ。
自前の推論チップを持とうとする動き自体は、OpenAIが初めてではない。GoogleはTPU、AmazonはTrainium/Inferentia、Microsoftも独自の推論向けシリコンをそれぞれ開発しており、大手クラウド・AI企業が既製のGPUに頼らず自社最適化されたチップを持とうとする流れはここ数年ではっきりしてきている。OpenAIとBroadcomの提携は、この流れにモデル開発企業自身が参入したという点で象徴的だ。
性能比較や量産時期といった具体的な数字はまだ流動的で、今後の発表で変わる可能性がある。推論基盤やクラウド運用のコスト構造に関心がある向きは、OpenAIの発表を継続的に追っておくとよさそうだ。ソフトウェア会社と半導体企業の連携は、AI競争の主戦場のひとつとして今後さらに重要度を増していくだろう。