Modelos

O Jev é o modelo principal da TypeSafe e o primeiro modelo System One. Todos os modelos desta página são servidos pelo mesmo endpoint, POST /v1/systemone. O campo model do pedido escolhe qual trata da chamada; vê a Referência da API para a estrutura completa do pedido.

Modelos atuais

• Preço: Cobrado por token de entrada. Os tokens de saída são gratuitos. Um Btok é mil milhões de tokens e um Mtok é um milhão de tokens.
• Limites de taxa: Medidos em tokens por segundo e pedidos por segundo. Um pedido que exceda qualquer dos limites devolve 429 Too Many Requests. Os nossos SDKs de cliente tentam novamente com retrocesso por predefinição e respeitam o cabeçalho retry-after quando a resposta o inclui. Se chamares a API HTTP diretamente, vê Como lidar com os limites de taxa.
• Comprimento de contexto: O Jev lê o state uma só vez e avalia cada pergunta em relação a ele em paralelo. O orçamento de 64k cobre o state mais todas as perguntas combinadas; o orçamento de 32k aplica-se ao state mais a única pergunta mais longa. Vê Fan-out especulativo para agrupar muitas perguntas num pedido e Irregularidade do Jev 1.13 para saber como a precisão muda à medida que o estado cresce.
• Entrada: O Jev avalia texto em linguagem natural. Pré-processa as entradas que não sejam texto (imagens, áudio, vídeo, binários) para texto ou campos estruturados antes de as enviares como state. Vê Estado para as formas suportadas.

Alias

Um alias é um nome de modelo que se resolve num ID de modelo com versão. Envia-o no campo model como qualquer outro nome.

Um alias muda quando sai uma nova versão, por isso as respostas por trás dele podem mudar sem qualquer alteração da tua parte. O campo model da resposta indica o ID com versão que respondeu, para que possas registar qual o modelo que produziu cada resultado. Se ajustaste limiares de confiança para uma versão específica, fixa o ID dessa versão em vez do alias e passa para a nova versão ao teu próprio ritmo.

Personalizar o Jev

O Jev não é ajustado nem adaptado com LoRA com dados de clientes. É treinado com RLCD para devolver decisões calibradas, e os mesmos pesos servem todas as contas. Moldas as suas respostas ao teu domínio através do pedido, e não através de pesos por conta:

• Coloca o teu conteúdo proprietário, registos e material de referência no campo state. Vê Estado.
• Codifica as regras do teu domínio e os casos-limite nos instructions e criteria de cada pergunta. Vê Como construir com a TypeSafe e Avançado: estrutura.
• Decompõe julgamentos amplos em perguntas atómicas e combina os resultados no código. Vê Pontuação composta e o cookbook AutoResearch para treinar um modelo clássico a jusante com as probabilidades do Jev.

Suporte de idiomas

O Jev aceita texto em linguagem natural. O inglês é o principal idioma de treino e onde a precisão é atualmente melhor. Outros idiomas, incluindo sistemas de escrita CJK, são tratados, mas não igualmente bem; testa com o teu próprio conteúdo antes de confiar no Jev para uma carga de trabalho noutro idioma e presta muita atenção à Confiança ao encaminhar.

Tratamento de dados

O Jev não é treinado com pedidos ou respostas de clientes. Vê Legal para o Acordo de Tratamento de Dados, a Política de Privacidade e detalhes sobre a retenção zero de dados (ZDR) para clientes empresariais.

Listar modelos

GET /v1/models devolve os nomes que a tua conta pode enviar no campo model, com uma descrição e data de lançamento para cada um. Atualmente lista os alias. Os IDs com versão, como jev-1.13.0, são aceites pelo campo model, apareçam ou não na lista.

curl https://api.typesafe.ai/v1/models \
  -H "Authorization: Bearer $TYPESAFE_API_KEY"

from typesafe_sdk import TypeSafeClient

with TypeSafeClient() as client:
    for model in client.models.list().models:
        print(model.name, model.release_date, model.description)

import { TypeSafeClient } from "@typesafe-ai/sdk";

const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
  console.log(model.name, model.release_date, model.description);
}

Vê as referências dos SDK de Python e de JavaScript para as assinaturas completas dos métodos.