Ollaya

ollaya-dev

Um único binário em Rust que descarrega, serve e executa modelos de decisão abertos localmente. Uma API nativa /api/* para gerir modelos e um endpoint /v1/* implementado segundo o wire schema da TypeSafe.

Plataformas: linux · macos · windows
GPU: Não necessária
Compatibilidade de API: systemone-v1
Licença: Apache-2.0
Modelos que consegue executar: 16

Instalação

linux

curl -fsSL https://ollaya.dev/install.sh | sh

macos

curl -fsSL https://ollaya.dev/install.sh | sh

windows

irm https://ollaya.dev/install.ps1 | iex

127.0.0.1:11435

Documentação

Modelos de decisão abertos a correr na sua máquina, atrás de uma API compatível com a TypeSafe

CLI, servidor e executores de modelo cabem num só binário — não é preciso montar um ambiente Python
/v1/* segue o wire schema da TypeSafe, pelo que o código existente do SDK muda apenas ajustando a base URL
Corre em CPU: os modelos mais pequenos respondem numa fração de segundo sem GPU
Traz um servidor MCP, para um agente decidir antes de cada passo de encaminhamento ou triagem

A compatibilidade é afirmada pelo próprio projeto, fixada no wire schema do typesafe-sdk 0.7.1 — não é um aval da TypeSafe
Projeto recente: o repositório foi criado a 2026-09-23 e a v0.9.0 saiu a 2026-10-02, pelo que comandos e API ainda podem mudar
A precisão depende do modelo que descarregar — o runtime em si não decide nada
A comparação em destaque com o Jev vem do material do próprio projeto, não de uma comparação controlada nas mesmas condições

Dados verificados em 2026-10-05