TypeSafe AIがSystem One ModelのJevを早期アクセス公開
TypeSafe AIは、自由文ではなく型付きの判断・確率・信頼度を返すSystem One ModelのJevを早期アクセス公開しました。
分類、ルーティング、スコアリング、分岐など、ソフトウェア内で繰り返す高速な意思決定を主用途に位置付けています。
Jevは非構造化の状態情報と事前定義した質問を受け取り、選択肢、スコア、真偽などの型付き確率判断を返します。自由な文章、コード、推論説明を生成するチャットモデルではありません。
TypeSafe AIは、新アーキテクチャ、並列サンプラー、Reinforcement Learning for Calibrated Decisions(RLCD)を組み合わせたモデル群をSystem One Modelsと呼んでいます。
質問の出力空間と構造は事前に定義されるため、同社はスキーマ・型の逸脱を起こさないと説明しています。ただし、型が正しいことと判断内容が常に正しいことは別です。
同社は入力を100万トークン当たり$0.042、出力を無料とし、System One型の問い合わせで70〜500ms、既存LLM比で40〜200倍高速・40〜400倍低コストと主張しています。これらの性能値は同社発表と同社のワークフロー評価に基づきます。
現在は早期アクセスであり、一般提供時期、オープンウェイト、ローカル実行、Ollama・LM Studio・llama.cpp・MLX対応、商用利用条件は公式発表で確認できません。
実務では、低信頼度時の人手確認や高性能LLMへのエスカレーションをアプリケーション側に持たせ、正解率と確率校正を自社データで評価する必要があります。