System One
System One 模型為軟體做出快速的結構化決策。Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。
System One 模型是一類 AI 模型,專為做出軟體可以直接使用的快速結構化決策而構建。System One 模型針對一個狀態求值,返回型別化的答案和機率分佈。
Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。
和 LLM 一樣,System One 模型能理解自然語言輸入。區別在於它返回的是型別化決策和機率分佈,而不是生成的文本。
它和 LLM 有何不同
System One 模型是衝著校準過的決策來訓練的:它們的機率針對真實結果做最佳化,以反映不確定性。校準是在成組的預測上衡量的;它不保證單次答案一定正確。
System One 模型不寫回復、不產出程式碼,也不解釋自己的推理過程。可能的答案由你通過原語定義:
| 原語 | 問題 | 示例答案空間 | 示例輸出 |
|---|---|---|---|
| Choice | 這張工單該由哪個團隊處理? | billing、technical 或 account |
choice: "billing" |
| Score | 這位客戶有多不滿? | 0 = 平靜,1 = 不滿,2 = 非常不滿 | score: 1.4 |
| Noul | 這條訊息是在要求退款嗎? | 真或假 | noul: 0.95 |
這些只是示意用的配置和取值。原語各頁會介紹可用的配置項和完整的響應欄位。
想了解 System One 模型如何工作、如何訓練,讀 AI 入門。
更大工作流裡的快速判斷
面對一個退款請求,你的應用可以:
- 構建一個狀態,裡面包含客戶訊息、相關交易和退款政策。
- 把相互獨立的問題一起提出:是否請求了退款、證據是否指向重複扣款、政策是否支援退款。
- 在程式碼裡把答案和確定性的檢查結合起來,再把案例路由到執行或複核。
看過原語如何運作之後,你就可以把它們組合成更大的系統。System One 模型返回的是型別化、受限的輸出,而不是自由文本,所以你的程式碼可以檢查這些答案,並把它們組合成可預測的工作流。完整流程見如何用 TypeSafe 構建。
System One 模型的答案還帶有置信度,你能據此決定什麼時候直接行動、什麼時候升級給人工或推理模型。
呼叫 System One 模型
可以通過我們的客戶端 SDK呼叫 System One 模型,也可以用 HTTP API 裡的 POST /v1/systemone。model 欄位決定由哪個模型處理請求。這些文件裡的示例都用 jev-latest,它也是 SDK 的預設值。可用的模型、價格和別名見模型。