なぜ文章を生成しないのか｜RLCD と校正された確率

Jev（ジェヴ）はなぜ文章を生成しないのか、生成しないのに何が「賢い」のか、と疑問に思う人は多いはずです。
結論から言うと、Jev は RLCD という学習方法で「答え」と「その答えが当たる確率」を返すように訓練されており、文章を書かないのは設計上の選択です。
業務の自動化では、この確率をコードのしきい値として使うことで、人が見ずに進める範囲を数値で決められます。

RLCDとは｜TypeSafe AI が選んだ3つ目の学習方法

RLCD は Reinforcement Learning for Calibrated Decisions（校正された判断のための強化学習）の略で、公式ドキュメントの AI primer で説明されています。
事前学習した言語モデルを仕上げる方法には RLHF と RLVR の2つが主流で、TypeSafe AI はそこに3つ目として RLCD を加えた、という位置づけです。

「機械ネイティブな知能」という考え方

AI primer の出発点は、大規模な自動化は AI 同士や AI とソフトウェアのやり取りが中心になる、という見立てです。
TypeSafe AI はこれを Machine Native Intelligence（機械ネイティブな知能）と呼び、構造、信頼性、観測可能性、テスト可能性、速度、一貫性、低コストといったソフトウェアらしい性質を AI に持たせることだと定義しています。
同社の予想では、大規模な AI 自動化は 99% が機械同士、1% が人とのやり取りになるとされています。
読んで気持ちのよい返答より、ソフトウェアの中で予測どおりに振る舞う出力を優先する、という設計目標の置き方です。

RLHF・RLVR・RLCD の違い

AI primer には、RLHF は InstructGPT と ChatGPT の訓練に使われ、TypeSafe AI の共同創業者 Diogo Almeida が共同発明者だと書かれています。
つまり RLCD は、RLHF を作った側が「自動化にはチャット向けの目的関数では足りない」と考えて用意した別の道だ、という説明になります。

「校正された確率」の読み方

RLCD が目指す出力の契約は、AI primer に3点で書かれています。
文章を生成しない、判断と確率を返す、確率が高いほど答えが正しい可能性が高い、の3つです。
ここでいう「校正（calibration）」は、確率という数字が現実の当たり外れの頻度と合っている状態を指します。

1. 0.2 は「約20%の頻度で起こる」という意味

よく校正されたモデルの多数の予測を集めると、確率 0.2 を付けた事象は約 20% の頻度で、0.8 を付けた事象は約 80% の頻度で、1.0 を付けた事象は 100% の頻度で起こるべきだとされています。
確率が「自信の演出」ではなく「頻度の見積もり」として読める、というのが校正の意味です。

2. 集団の統計であって、1件ごとの保証ではない

公式ドキュメントは、この頻度は予測の集団を記述するもので、個々の答えが正しいことの保証ではない、と繰り返し注意しています。
System One の概念ページでも、校正は予測のグループ単位で測られる、と同じ説明が置かれています。
0.9 が付いた1件が外れることは普通にあり、外れたからといって校正が壊れているとは言えません。

3. 確率が高いほど正しい可能性が高い、という契約

公式ブログの比較表では、LLM に信頼度を尋ねても過信気味で一貫しない傾向があるのに対し、System One モデルは毎回の出力に信頼度を添え、校正されている分だけ「信頼度が高いほど精度も高い」と説明されています。
タスクを 95% の確率でこなせるモデルでも、残り 5% がいつかを言えなければ自動化できない、という同ブログの指摘が、この契約の必要性をよく表しています。

RLHF が無人の自動化に合わない理由

もっともらしい幻覚が報酬を受ける

RLHF は「人が好む発言」を教える方法で、チャットにはよく合うものの、追従（相手に合わせる態度）や自信ありげな幻覚にも報酬を与えうるとされています。
AI primer は「人にとって説得力がある出力と、無人の自動化に足る信頼性は別の最適化目標だ」と警告しています。
返答が読みやすいことと、コードが安心して分岐に使えることは、別の性質だという整理です。

モード・ドロッピング

選好の最適化は mode dropping（モード・ドロッピング）も引き起こす、と説明されています。
モデルが指示追従のような特定のスタイルを好むよう学び、それ以外の出力の確率を下げてしまう現象で、確率分布が狭く偏るイメージです。
AI primer はこれを GAN（敵対的生成ネットワーク）のモード崩壊の穏やかな版になぞらえていて、分布が偏ったモデルの確率は頻度の見積もりとして使いにくくなります。
RLHF が会話モデルに向くこと自体は認めたうえで、生産的な自動化には制約された判断と校正された不確実性を中心に置く別の目的が要る、というのが TypeSafe AI の立場です。

開発者にとっての実務上の意味

開発者の側で変わるのは、AI の答えを文字列ではなく数値として扱う点です。
Noul（ヌール）なら 0-1 の noul、Choice と Score なら選択肢や段階ごとの probabilities と、その分布の尖り具合を要約した confidence（信頼度）が返ります。
「0.85 以上なら自動処理、0.6 未満なら人に回す」のようにしきい値をコードに書けば、自動化の範囲は数字ひとつで調整できます。
しきい値の決め方や confidence の読み方は、シリーズの『confidence（信頼度）と確率の読み方』の記事で扱っています。

活用例｜どんな業種・職種で使えるか

カスタマーサポート。「返金を求めているか」の確率が高い案件だけ自動で返金フローに進め、中間の案件は担当者のキューに入れる運用が組めます。
校正された確率なら、キューに落ちる件数を事前に見積もりやすくなります。

不動産・宿泊。物件や客室の説明文に「ミニ冷蔵庫がある」といった条件が書かれているかを、大量の物件に同じ基準で当てられます。
確率の低い物件だけ目視すれば、全件チェックの手間を減らせます。

SaaS 運営・開発者。LLM の出力が社内ルールに違反していないかを Jev で採点し、違反確率がしきい値を超えたときだけ止めるガードレール（安全装置）に使えます。
公式ブログでも、LLM の出力の検証やジェイルブレイク検知が用途として挙げられています。

つまずきポイント・注意点

• 「校正されている」を「正しい」と読まない。公式の説明は集団の頻度に関するもので、1件の正解は保証されません。
• 0.5 は「中くらい」ではない。Noul の 0.5 は「はい」と「いいえ」が同じくらいという意味で、程度を測りたいなら Score を使うよう案内されています。
• しきい値は自分のデータで決める。Models のページでは、日本語を含む CJK は英語ほど精度が出ないとされており、confidence を見ながら自分の業務で調整する前提です。
• 理由の説明は返らない。なぜその確率になったかを AI に語らせることはできないため、質問の切り方そのものを説明可能な形にする必要があります。

限界と向き不向き

まとめ｜RLCD は「もっともらしい返答」から「頻度どおりの確率」への入り口にする

Jev が文章を生成しないのは、RLHF が人の好みを最適化するのに対し、RLCD が判断と校正された確率を最適化する学習方法だからです。
校正とは、0.2 を付けた事象が約 20% の頻度で起こるという集団の性質で、1件ごとの正しさの保証ではありません。

核心は、AI の「自信ありげな言い方」ではなく「頻度として読める数字」をコードに渡せる点にあります。
数字なら、しきい値を1行書き換えるだけで自動化の範囲を動かせます。

次の一手は、手元の判断を1つ Noul で聞き、返ってきた確率を何件か実際の結果と突き合わせてみることです。
そこから自分の業務でのしきい値が見えてきたら、あなたの自動化は無人で回せる範囲を広げられます。