Laya
多语言、非自回归的 System 1 决策引擎:对任意状态做类型化的 choice、score 和 noul
决策,只需一次前向传播。
choice 问题从若干选项里挑一个,score 问题把状态放到一条量表上,noul 问题给出答案为是
的概率。Laya 跑在你自己的硬件上,能读 100 多种语言,由 Router 为每个请求挑选 checkpoint。
从这里开始
安装 Laya 并做出第一个决策,读 README 里的 安装 和 快速开始。它们留在 README 里,这样只需维护 一份。
找一篇指南
| 想做 | 读 |
|---|---|
| 从 JSON schema 或 pydantic 模型拿回类型化的值 | Schema 驱动的决策 |
| 不改动 Laya 就记录、脱敏、缓存或门控每一个决策 | 预测钩子 |
| 不授予执行权限,逐步引入 Laya | 分阶段引入 |
| 在 LangChain 或 LangGraph 应用里做路由、筛选或分诊 | LangChain 与 LangGraph |
| 在终端里运行 Laya,或连接它内置的 MCP stdio 服务器 | 命令行与 MCP 服务器 |
在容器里跑 SDK 或 laya-serve HTTP API,用 CPU 或 NVIDIA GPU |
Docker 快速开始 |
| 为 ARM64 主机或 DGX Spark 构建 | ARM64 与 DGX Spark 容器 |
| 为你自己的决策专门训练一个 checkpoint | 浏览器智能体微调示例 和微调 notebook |
| 判断基准结果和部署限制 | 基准与已知限制 |
| 查某个类、函数或参数 | Python API 参考 |
| 给标注数据集打分、和基线比较,或用它卡住构建 | 评估 harness |
路由、HTTP API 和置信度门控目前都在 README 里。