Ollaya

ollaya-dev

Ein einzelnes Rust-Binary, das offene Entscheidungsmodelle lädt, bereitstellt und ausführt. Eine native /api/*-Schnittstelle für die Modellverwaltung und ein /v1/*-Endpunkt nach dem Wire-Schema von TypeSafe.

Plattformen: linux · macos · windows
GPU: Nicht erforderlich
API-Kompatibilität: systemone-v1
Lizenz: Apache-2.0
Modelle, die es ausführen kann: 16

Installation

linux

curl -fsSL https://ollaya.dev/install.sh | sh

macos

curl -fsSL https://ollaya.dev/install.sh | sh

windows

irm https://ollaya.dev/install.ps1 | iex

127.0.0.1:11435

Dokumentation

Offene Entscheidungsmodelle lokal betreiben, hinter einer TypeSafe-kompatiblen API

CLI, Server und Modell-Runner stecken in einem Binary — eine Python-Umgebung ist nicht nötig
/v1/* folgt dem Wire-Schema von TypeSafe; vorhandener SDK-Code wechselt durch Anpassen der Base-URL
Läuft auf der CPU: kleine Modelle antworten ohne GPU in Sekundenbruchteilen
Bringt einen MCP-Server mit, sodass ein Agent vor jedem Routing- oder Triage-Schritt entscheiden kann

Die Kompatibilität ist eine Angabe des Projekts, festgeschrieben auf das Wire-Schema von typesafe-sdk 0.7.1 — keine Zusage von TypeSafe
Junges Projekt: das Repository entstand am 2026-09-23, v0.9.0 erschien am 2026-10-02; Befehle und API können sich noch ändern
Die Genauigkeit hängt vom geladenen Modell ab — die Laufzeitumgebung selbst entscheidet nichts
Der plakative Vergleich mit Jev stammt aus Material des Projekts, kein kontrollierter Vergleich unter gleichen Bedingungen

Daten geprüft am 2026-10-05