System One
System One
System One モデルはソフトウェアのために高速で構造化された意思決定を行います。Jev は TypeSafe のフラッグシップモデルであり、最初の System One モデルです。
System One モデルは、ソフトウェアがそのまま使える高速で構造化された意思決定を行うために構築された AI モデルの一群です。System One モデルは状態を評価し、型付きの答えと確率を返します。
Jev は TypeSafe のフラッグシップモデルであり、最初の System One モデルです。
LLM と同じく、System One モデルは自然言語の入力を理解します。違いは、生成されたテキストではなく、型付きの意思決定と確率を返すことです。
LLM との違い
System One モデルはキャリブレーションされた意思決定のために訓練されています。その確率は不確実性を反映するよう、実際の結果に対して最適化されています。キャリブレーションは予測の集まりに対して測定されるもので、個々の答えが正しいことを保証するものではありません。
System One モデルは返信を書いたり、コードを生成したり、推論の説明を生成したりしません。考えられる答えはプリミティブを通じて自分で定義します:
| プリミティブ | 質問 | 答えの空間の例 | 出力の例 |
|---|---|---|---|
| Choice | このチケットはどのチームが扱うべきですか? | billing、technical、account |
choice: "billing" |
| Score | この顧客はどれほど不満ですか? | 0 = 穏やか、1 = 不満、2 = 非常に不満 | score: 1.4 |
| Noul | このメッセージは返金を求めていますか? | 真または偽 | noul: 0.95 |
これらは説明のための設定と値です。プリミティブの各ページで、利用できる設定項目と完全な応答フィールドを説明しています。
System One モデルがどう動き、どう訓練されるかを知るには、AI 入門をお読みください。
より大きなワークフローの中での高速な判断
返金リクエストに対して、アプリケーションは次のことができます:
- 顧客のメッセージ、関連する取引、返金ポリシーを含む状態を構築します。
- 互いに独立した質問をまとめて尋ねます。返金が要求されたか、証拠が二重請求を示しているか、ポリシーが返金を支持しているか。
- コード内で答えを決定的なチェックと組み合わせ、ケースをアクションまたはレビューにルーティングします。
プリミティブが実際に動くのを見たら、それらを組み合わせてより大きなシステムにできます。System One モデルは自由なテキストではなく、型付きで制約された出力を返すため、コードはその答えを検査し、予測可能なワークフローに組み合わせられます。ワークフロー全体はTypeSafe での構築方法を参照してください。
System One モデルの答えには信頼度も含まれるので、いつ行動し、いつ人間や推論モデルにエスカレーションするかを決められます。
System One モデルを呼び出す
System One モデルは、クライアント SDKのいずれか、または HTTP API の POST /v1/systemone で呼び出せます。model フィールドがどのモデルがリクエストを処理するかを選びます。このドキュメントの例では jev-latest を使っており、これは SDK のデフォルトでもあります。利用できるモデル、価格、別名はモデルを参照してください。
まず状態で入力を準備する方法を読み、次にプリミティブ(質問)でどの種類の質問ができるかを確認してください。