Ollaya

ollaya-dev

一個 Rust 單檔案程式，負責拉取、託管並執行開源的決策模型。原生 /api/* 管模型，另有照著 TypeSafe wire schema 實現的 /v1/* 端點。

平臺: linux · macos · windows
GPU: 不需要
協議相容: systemone-v1
許可: Apache-2.0
可執行的模型: 16

安裝

linux

curl -fsSL https://ollaya.dev/install.sh | sh

macos

curl -fsSL https://ollaya.dev/install.sh | sh

windows

irm https://ollaya.dev/install.ps1 | iex

127.0.0.1:11435

文件

在自己機器上跑開源決策模型，介面與 TypeSafe 相容

CLI、服務端、模型執行器都在同一個二進位制裡，不用配 Python 環境
/v1/* 照 TypeSafe 的 wire schema 實現，現有 SDK 程式碼改一個 base URL 就能切過來
能在 CPU 上跑 —— 小模型沒有顯示卡也能在零點幾秒內出答案
自帶 MCP 服務，智慧體可以在每次路由或分流前先做一次決策

相容性是上游自己聲稱的，錨定在 typesafe-sdk 0.7.1 的 wire schema 上，不是 TypeSafe 的官方背書
專案很新：倉庫 2026-09-23 才建立，v0.9.0 釋出於 2026-10-02，命令與 API 都還可能變
準不準取決於你拉的那個模型 —— 執行時本身不決定決策質量
與 Jev 的那個頭條對比數字出自上游自己的材料，不是同環境同任務的受控對照

資料核驗於 2026-10-05