文件導航

簡介

Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。傳送狀態和型別化問題,拿回程式碼可直接使用的結構化答案。

大語言模型(LLM)的設計目的是生成供人類閱讀的文本。當你需要模型做出一個供程式碼消費的判斷時,就產生了錯位:你在強迫一個文本生成系統輸出結構化決策,然後再把結果解析回程式碼可以依賴的形式。

Jev 是 TypeSafe 的旗艦模型,也是首個 System One 模型。System One 模型專為做出軟體可直接使用的快速結構化決策而構建。Jev 針對狀態評估型別化問題,並直接返回結構化結果。沒有文本生成,也無需解析。你得到的是型別化的值和機率分佈,程式碼可以據此進行分支、排序和路由。Choice 和 Score 還會返回置信度,你的程式碼可以用它來決定是否行動以及如何行動。

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart LR
    input["state + questions"]

    subgraph model["TypeSafe AI model"]
        evaluate["evaluate each question<br/>against the state<br/>in parallel"]
    end

    input -- "one request" --> model
    model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"]
    answers --> code["<b>your code</b><br/>branch, sort, and route"]

TypeSafe 原語

TypeSafe 提供三種 AI 原語。與軟體原語類似,我們的 AI 原語模組化、可組合、結構化、可靠且快速。每種原語詢問不同型別的問題,並返回不同型別的答案。

問題型別 目標 返回
Choice 從列表中選擇一個選項 choice, probabilities, confidence
Score 按量規為狀態打分 score, probabilities, confidence
Noul 這句話是真的嗎? noul (0–1)

三種問題型別可以在一次 API 呼叫中混用。每個問題都在一次請求中針對同一個狀態並行且相互獨立地評估。增加問題幾乎不會改變響應時間。每個問題都是獨立評估的,因此增加更多問題不會造成上下文腐化(context-rot)。

原子問題,在程式碼中組合

當每個問題只詢問一件具體、邊界清晰的事情時,System One 模型工作得最好。把每個問題看作一次直覺判斷:即一個學識淵博的人在給定恰當上下文時,幾秒鐘內就能做出的那種判斷。

如果你想問的問題需要長時間推理,或同時衡量多個獨立因素,就把它分解。將每個因素作為單獨的問題來問,然後在程式碼中用邏輯組合結果。這樣既能保證每次單獨評估的可靠性,也讓你完全掌控各維度的權重。

例如,不要問“給這個創業路演打分”,而是分別詢問市場規模、技術可行性和差異化。用你自己的公式組合這些分數。當優先順序變化時,只需修改程式碼中的一個係數,而無需重寫提示詞。

後續步驟

  • 快速開始 —— 立即上手所需的一切。
  • AI 入門 —— 為什麼 TypeSafe 訓練模型做出校準過的決策,而不是生成文本。
  • 原語(問題型別) —— 如何定義問題、如何在 Choice、Score 和 Noul 之間選擇,以及如何一次提出多個問題。
  • 置信度 —— TypeSafe 如何報告確定性,以及如何在架構上使用它。
  • 架構模式 —— 用 TypeSafe 構建系統的常見模式。