Executar os modelos localmente

Os modelos de decisão abertos podem correr na sua própria máquina: sem cobrança por chamada, sem dados a sair da sua rede e com respostas em milissegundos. Aqui estão as ferramentas que o tornam possível.

• Ollaya

  ollaya-dev

  Um único binário em Rust que descarrega, serve e executa modelos de decisão abertos localmente. Uma API nativa /api/* para gerir modelos e um endpoint /v1/* implementado segundo o wire schema da TypeSafe.

  • Início rápido
  • Referência da CLI
  • Referência da API
  • Compatibilidade com TypeSafe

  Dados verificados em 2026-10-05