「もっと使う」ではなく「もっと活かす」

2026年6月17日、GitHubはCopilotにおける文脈の選び方とモデルの振り分け方の改善について、同じトークン消費でもより多くの有効な作業を引き出すという考え方を説明した。大きなモデルを何でも呼び出すのではなく、必要な文脈だけを選別し、タスクに適したモデルへ振り分けることで効率を上げる方向性が示されている。

Webのキャッシュ戦略に似た発想

この話は、Webパフォーマンスの世界で「何でもかんでもサーバーに問い合わせるのではなく、必要なものだけ賢くキャッシュ・prefetchする」という発想と構造が近い。AIにおいても、情報を大量に投入すれば精度が上がるわけではなく、無関係な情報が多いほど応答が遅くなったり判断がぶれたりする。関係する文脈を絞り込む技術は、レイテンシと精度の両方に効いてくる。

コスト意識のあるチームほど恩恵が大きい

利用量に応じて課金されるAIサービスを使うチームにとって、この種の改善は応答品質だけでなく請求額にも直結する。同じ予算でより多くのタスクをこなせるようになるかどうかは、モデルの性能そのものよりも、こうした「配線」の巧拙で決まる場面が増えてきている。大規模にAI支援を導入している組織ほど、モデル比較よりも文脈設計とルーティングの設計に投資対効果があることを示す事例と言えるだろう。改善内容はGitHub Blogの記事(https://github.blog/ai-and-ml/github-copilot/getting-more-from-each-token-how-copilot-improves-context-handling-and-model-routing/)に詳しい。