Googleは17日(米国時間)、ユーザーの予算に応じて「考える量」を制御できるハイブリッド推論モデル「Gemini 2.5 Flash」を発表した。Google AI StudioおよびVertex AIのGemini APIを介して初期バージョンをプレビューとして公開している。
本モデルでは、プロンプトの複雑さに基づいて考える量(思考中に生成できるトークンの最大数)を調整できるため、単純な要求に対しては素早く回答できる。これにより、品質、コスト、レイテンシの適切なトレードオフを実現できる。
なお、考える量の設定はあくまでも「最大値」である。最大値を引き上げることでより多くの推論を行ない、品質を向上させられるが、必要のない場合はバジェットのすべてを使用するわけではない。
本モデルでは、与えられたプロンプトに対して、どのぐらいの思考時間が必要か認識するようにトレーニングされているため、タスクの複雑さに基づいて考える量を自動的に決定するという。
各種ベンチマーク
ただし、完全に思考をオフにしても、2.0 Flashよりも高性能であり、価格性能比が最も優れたモデルだとしている。
価格性能比の高さ
Be the first to comment
