Ollaya

ollaya-dev

Un único binario en Rust que descarga, sirve y ejecuta modelos de decisión abiertos en local. Una API nativa /api/* para gestionar modelos y un endpoint /v1/* implementado según el wire schema de TypeSafe.

Plataformas
linux · macos · windows
GPU
No necesaria
Compatibilidad de API
systemone-v1
Licencia
Apache-2.0
Modelos que puede ejecutar
16

Instalación

linux

curl -fsSL https://ollaya.dev/install.sh | sh

macos

curl -fsSL https://ollaya.dev/install.sh | sh

windows

irm https://ollaya.dev/install.ps1 | iex

127.0.0.1:11435

Documentación

Modelos de decisión abiertos en tu propia máquina, tras una API compatible con TypeSafe

  • La CLI, el servidor y los ejecutores de modelos caben en un solo binario: no hay que montar un entorno de Python
  • /v1/* sigue el wire schema de TypeSafe, así que el código existente del SDK cambia con solo ajustar la base URL
  • Funciona en CPU: los modelos pequeños responden en una fracción de segundo sin GPU
  • Incluye un servidor MCP, para que un agente decida antes de cada paso de enrutado o triaje
  • La compatibilidad la afirma el propio proyecto, fijada al wire schema de typesafe-sdk 0.7.1; no es un aval de TypeSafe
  • Proyecto joven: el repositorio se creó el 2026-09-23 y la v0.9.0 salió el 2026-10-02, así que los comandos y la API todavía pueden cambiar
  • La precisión depende del modelo que descargues; el runtime por sí solo no decide nada
  • La comparación destacada con Jev proviene del material del propio proyecto, no de una comparación controlada en las mismas condiciones

Datos verificados el 2026-10-05