Cookbook 合集
端到端實戰範例,展示 TypeSafe 如何解決真實問題 —— 從幾個問題到完整流水線。
每個 cookbook 都是一個完整的示例:一份真實資料集、一組就它做出判斷的 TypeSafe 問題,以及把這些判斷變成一個可用系統的程式碼。當你想看原語和模式如何在一個具體問題上結合起來時,可以讀一讀;也可以直接抄一份,作為你自己專案的起點。
本節假定你已經瞭解 TypeSafe 原語,也理解置信度是如何工作的。如果沒有,請先讀那兩頁。
自洽性
重複做同一個決策,把多次執行之間的一致程度當作訊號。
| Cookbook | 做什麼 | 難度 |
|---|---|---|
| 自洽性:noul | 把不確定的機率路由給人工複核,同時讓底層的 noul 值保持可見。 | 入門 |
| 自洽性:choice | 給稽核決策增加一個“不確定”結果,並比較標籤一致程度與自動處置的比例。 | 入門 |
批處理
把許多問題打包進一次請求。
| Cookbook | 做什麼 | 難度 |
|---|---|---|
| 並行問題 | 就 GDPR 的維基百科條目跑一遍 13 個問題的合規簡報,展示把所有問題批處理進一次 TypeSafe 呼叫後,成本降低 12.2 倍、速度提升 10.0 倍,而答案毫無變化。 | 入門 |
操作指南
常見任務的範例:搜尋、格式化、工具選擇、防護欄。
| Cookbook | 做什麼 | 難度 |
|---|---|---|
| 重排序 | 為 40 條 CLERC 法律查詢各構建 30 個段落的 BM25 候選列表,再用每個“查詢-候選”對一個 TypeSafe 問題,把 top-1 準確率從 5% 提升到 18%,top-10 準確率從 38% 提升到 62%。 | 入門 |
| 逐行搜尋 | 為 GitHub 的服務條款構建語義搜尋。在一次請求中,用一個 Choice 問題給 218 個行 id 相對一句大白話查詢打分,再用一個 Noul 問題檢查文件裡到底有沒有答案。 | 入門 |
| 結構還原 | 用兩次請求從丟失了格式的純文本重建 Markdown:一次把硬換行的行重新拼起來,一次對每個塊(標題、列表、程式碼、提示框)分類。 | 入門 |
| 函式呼叫 | 把自然語言的交易請求變成對普通型別化函式的呼叫,做法是把函式名和閉集參數對映成帶置信度的 TypeSafe 問題。 | 中級 |
| 技能建議 | 從 Nous Research 的 Hermes 目錄裡的 182 個技能中,為某一輪 agent 互動挑出至多一個,用兩次 TypeSafe 請求對頭部候選做排序和複查。 | 中級 |
| 知識圖譜實體對齊 | 用一個 Score 問題加三個配套 Noul,判斷兩份啤酒目錄中的 450 個候選對裡哪些描述的是同一款產品,並呈現是哪些欄位不一致。 | 入門 |
| 為 RAG 段落分類 | 用一次 TypeSafe 請求給每個檢索到的段落打分,再在程式碼裡決定哪些段落交給作答模型。 | 中級 |
| 複核引用 | 對照源文件檢查,抓出錯誤或憑空捏造的引用。一個 Choice 問題判斷引文的上下文是否支援該論斷。 | 入門 |
| LLM 防護欄 | 用一次 TypeSafe 請求篩查進出一個 LLM 應用的每條訊息,對危害機率和嚴重程度取閾值,以放行、複核、攔截或路由。 | 中級 |
抽取
從雜亂的文本中抽取型別化的值。
| Cookbook | 做什麼 | 難度 |
|---|---|---|
| SDE 級聯 | 用一條兩階段的結構化資料抽取級聯(mini → 驗證 → 推理)以很小的成本拿到大推理模型的大部分質量。 | 中級 |
| 日期抽取 | 讓 TypeSafe 讀出文件中提到的日期各部分,再在程式碼裡解析並校驗,並用置信度做複核,從而抽出絕對日期和相對日期。 | 入門 |
| 預解析的值抽取 | 用正則找出候選的郵箱、電話號碼和金額,再讓 TypeSafe 選出所需的那一段,以便程式碼規範化出一個原樣保留的值。 | 入門 |
分類
把輸入分配到任意深度的類別中。