Mehrsprachige, nicht-autoregressive System-1-Entscheidungsmaschine: typisierte choice-, score- und noul
Entscheidungen über jedem Zustand, in einem einzigen Vorwärtspass.
Eine choice-Frage wählt eine von mehreren Optionen, eine score-Frage ordnet den Zustand auf einer
Skala ein, und eine noul-Frage gibt die Wahrscheinlichkeit an, dass die Antwort ja lautet. Laya läuft auf deiner
eigenen Hardware, liest über 100 Sprachen, und sein Router wählt den Checkpoint für jede Anfrage.
Hier anfangen
Installiere Laya und triff eine erste Entscheidung mit der Installation und dem Schnellstart aus dem README. Sie bleiben im README, damit es nur eine aktuell gehaltene Kopie gibt.
Einen Leitfaden finden
| Um zu | Lies |
|---|---|
| typisierte Werte aus einem JSON-Schema oder einem pydantic-Modell zu bekommen | Schema-gesteuerte Entscheidungen |
| jede Entscheidung zu protokollieren, zu redigieren, zu cachen oder zu gaten, ohne Laya zu forken | Vorhersage-Hooks |
| Laya schrittweise einzuführen, ohne Ausführungsrechte zu erteilen | Schrittweise Einführung |
| in einer LangChain- oder LangGraph-App zu routen, zu filtern oder zu triagieren | LangChain & LangGraph |
| Laya aus einem Terminal zu starten oder seinen eingebauten MCP-stdio-Server anzubinden | Kommandozeile und MCP-Server |
das SDK oder die HTTP-API laya-serve in einem Container auszuführen, auf CPU oder einer NVIDIA-GPU |
Docker-Schnellstart |
| für ARM64-Hosts oder DGX Spark zu bauen | ARM64- und DGX-Spark-Container |
| einen Checkpoint für deine eigenen Entscheidungen zu spezialisieren | Beispiel für Browser-Agent-Fine-Tuning und das Fine-Tuning-Notebook |
| Benchmark-Ergebnisse und Deployment-Grenzen zu beurteilen | Benchmarks und bekannte Grenzen |
| eine Klasse, Funktion oder einen Parameter nachzuschlagen | Python-API-Referenz |
| einen beschrifteten Datensatz zu bewerten, mit einer Baseline zu vergleichen oder einen Build daran zu gaten | Evaluierungs-Harness |
Routing, die HTTP-API und das Konfidenz-Gating stehen vorerst im README.