文件導航

System One

System One 模型為軟體做出快速的結構化決策。Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。

System One 模型是一類 AI 模型,專為做出軟體可以直接使用的快速結構化決策而構建。System One 模型針對一個狀態求值,返回型別化的答案和機率分佈。

Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。

和 LLM 一樣,System One 模型能理解自然語言輸入。區別在於它返回的是型別化決策和機率分佈,而不是生成的文本。

它和 LLM 有何不同

System One 模型是衝著校準過的決策來訓練的:它們的機率針對真實結果做最佳化,以反映不確定性。校準是在成組的預測上衡量的;它不保證單次答案一定正確。

System One 模型不寫回復、不產出程式碼,也不解釋自己的推理過程。可能的答案由你通過原語定義:

原語 問題 示例答案空間 示例輸出
Choice 這張工單該由哪個團隊處理? billing、technical 或 account choice: "billing"
Score 這位客戶有多不滿? 0 = 平靜,1 = 不滿,2 = 非常不滿 score: 1.4
Noul 這條訊息是在要求退款嗎? 真或假 noul: 0.95

這些只是示意用的配置和取值。原語各頁會介紹可用的配置項和完整的響應欄位。

想了解 System One 模型如何工作、如何訓練,讀 AI 入門。

更大工作流裡的快速判斷

面對一個退款請求,你的應用可以:

  1. 構建一個狀態,裡面包含客戶訊息、相關交易和退款政策。
  2. 把相互獨立的問題一起提出:是否請求了退款、證據是否指向重複扣款、政策是否支援退款。
  3. 在程式碼裡把答案和確定性的檢查結合起來,再把案例路由到執行或複核。

看過原語如何運作之後,你就可以把它們組合成更大的系統。System One 模型返回的是型別化、受限的輸出,而不是自由文本,所以你的程式碼可以檢查這些答案,並把它們組合成可預測的工作流。完整流程見如何用 TypeSafe 構建。

System One 模型的答案還帶有置信度,你能據此決定什麼時候直接行動、什麼時候升級給人工或推理模型。

呼叫 System One 模型

可以通過我們的客戶端 SDK呼叫 System One 模型,也可以用 HTTP API 裡的 POST /v1/systemone。model 欄位決定由哪個模型處理請求。這些文件裡的示例都用 jev-latest,它也是 SDK 的預設值。可用的模型、價格和別名見模型。

先讀狀態瞭解如何準備輸入,再讀原語(問題)瞭解你能提哪些型別的問題。