CLM-8Bとは:文章を生成せずに意思決定するAI、Jevより9倍高速

自分のエージェントが、どのツールを呼び出すか決めるだけで数百ミリ秒もかかっていることに気づいたことはありませんか。これこそ、スタンフォード大学とNVIDIA Researchが生み出した新しいモデルCLM-8Bが解決しようとしている課題です。このモデルは一文字も文章を生成しません。ただ、恐ろしく速く正しい答えを当てるだけです。

課題:小さな意思決定にLLMは重すぎる

あらゆるAIエージェントの内部では、無数の細かい意思決定が行われています。どのツールを選ぶか、どのパッチを優先するか、リクエストをどこにルーティングするか、次にどんな行動を取るか。こうした小さな決定のたびにフルサイズのLLMでトークンを生成するのは、牛刀で鶏を割くようなもので、遅くてコストもかかります。ここはまさにJev(TypeSafe AIのSystem 1モデル)が得意としてきた領域です。今回、スタンフォードとNVIDIAはまったく異なるアプローチを持ち込みました。

CLMの仕組み

CLM(対照言語モデル、Contrastive Language Model)は答えを生成する代わりに、意思決定を検索(retrieval)問題に変換します。これはCLIPが画像とキャプションをペアリングする仕組みとまったく同じです。現在の状況と取り得るすべての行動を同じベクトル空間に埋め込み(embed)、最も近い行動を選びます。

デュアルエンコーダー構成は次の通りです。

• ベースとなる凍結(frozen)されたQwen3-8Bバックボーン。
• 約2000万パラメータのMLPプロジェクションヘッドを2つ、1つは状態(state)用、もう1つは行動(action)用で、これだけが学習対象です。
• **InfoNCE対照損失(contrastive loss)**を使い、3段階で学習します。約6000万組の質問応答ペア、約3000万件の「ハードネガティブ」(正解に見えて間違っている答え)、そして事後学習(post-train)用の約100万件のエージェント軌跡です。

行動は一度エンコードされればキャッシュされるため、1000個の選択肢を比較するコストは、1個を比較するのとほぼ同じです。

どれくらい速いのか

研究チームが公表した公式データ(T-Rexゲームベンチマーク)によると、CLM-8Bは16.5ミリ秒で意思決定を行い、Jevの149.8ミリ秒と比べて約9倍速いという結果です。

YouTubeチャンネルPrompt Engineeringが独自に再測定したところ、高負荷時の差はさらに際立っていました。1000個の行動候補がある場合、CLMはわずか44ミリ秒で済む一方、Jevは579ミリ秒もかかります。Jevは選択肢を一つずつ採点しなければならないのに対し、CLMはキャッシュ済みのベクトルを参照するだけだからです。

代償:選択肢同士を直接比較できない

CLMをパイプラインに組み込む前に最も注意すべき点がこれです。各行動は独立にエンコードされるため、CLMはLLMのようにすべての選択肢を読み込んでから推論して比較することは一切できません。

この弱点は選択肢の数が増えるほど顕著になります。同じPrompt Engineeringチャンネルが、DGX Spark上で1080個のツールを使って検証したところ、精度は**ツールが8個だけのときの86%**から、**1080個すべてが揃ったときには17%**まで落ち込みました。研究チーム自身のベンチマークでも同様の傾向が確認されています。

• BFCL v4(ツール呼び出しテスト):CLM-8Bは95.2%、Jevは99.2%。
• WikiRacing:CLMは26/30タスクを完了、Jevは30/30。
• しかし別の2つのテストではCLMが上回りました。DeepSWEコーディングで81.6%(Jevは71.1%)、Terminal-Benchで87.6%(Jevは83.1%)です。

つまり、CLMは常に勝つわけではなく、繊細に区別すべき選択肢が増えるほど弱くなる傾向があります。

CLMはどこで使うべきか

CLMのプロジェクトリーダーであるJacky Kwok氏は、その限界について率直に語っています。「数学を解く、長い回答を生成する、高レベルの計画を立てるといった、オープンエンドな推論が必要なタスクで、汎用の推論モデルの代わりにCLMを使うつもりはありません」

現時点でエージェントパイプラインにおけるCLMの最適な役割は、安価で高速な第一段階のフィルターとして、ツールや行動の候補リストを数個まで絞り込み、その後フルサイズのLLMに最終判断を委ねることです。選択肢が多すぎたり似すぎたりしている場合に、CLM単独で決めさせてはいけません。

スタンフォードとNVIDIAはCLM-8Bのコードをオープンソースとして公開済みで、マルチモーダルな後継モデルCLM-35Bは2026年10月初旬に登場予定です。1ステップごとに数十ものツールを呼び出すエージェントを構築しているなら、このアーキテクチャは今すぐ試す価値がありますが、その盲点をきちんと理解した上で使ってください。