Introdução

O Jev é o modelo principal da TypeSafe e o primeiro System One. Envia estado e perguntas tipadas; recebe respostas estruturadas para o teu código.

Os modelos de linguagem de grande escala (LLM) são concebidos para produzir texto para as pessoas lerem. Quando precisas que um modelo faça um julgamento que o teu código vai consumir, cria-se um desencontro: estás a forçar um sistema de geração de texto a produzir decisões estruturadas e depois a analisar os resultados para os transformar em algo em que o teu código possa confiar.

O Jev é o modelo principal da TypeSafe e o primeiro modelo System One. Os modelos System One são concebidos para tomar decisões rápidas e estruturadas que o software pode usar diretamente. O Jev avalia perguntas tipadas em relação a um estado e devolve resultados estruturados de forma direta. Sem geração de texto, sem análise. Recebes valores tipados e distribuições de probabilidade com que o teu código pode ramificar, ordenar e encaminhar. O Choice e o Score também devolvem confiança, que o teu código pode usar para decidir se e como agir com base numa resposta.

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart LR
    input["state + questions"]

    subgraph model["TypeSafe AI model"]
        evaluate["evaluate each question<br/>against the state<br/>in parallel"]
    end

    input -- "one request" --> model
    model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"]
    answers --> code["<b>your code</b><br/>branch, sort, and route"]

Primitivas da TypeSafe

A TypeSafe expõe três primitivas de IA. À semelhança das primitivas de software, as nossas primitivas de IA são modulares, componíveis, estruturadas, fiáveis e rápidas. Cada uma faz um tipo diferente de pergunta e devolve um tipo diferente de resposta.

Os três tipos de pergunta podem ser misturados num único pedido à API. Cada pergunta é avaliada em paralelo e de forma isolada em relação ao mesmo estado de uma só vez. Acrescentar perguntas quase não altera o tempo de resposta. Cada pergunta é avaliada de forma independente, por isso acrescentar mais perguntas não provoca deterioração do contexto.

Perguntas atómicas, compostas no código

Os modelos System One funcionam melhor quando cada pergunta incide sobre uma coisa específica e bem delimitada. Vê cada pergunta como uma determinação de instinto: o tipo de julgamento que uma pessoa muito conhecedora faria em poucos segundos com o contexto certo.

Se a pergunta que queres fazer exigir raciocínio prolongado ou pesar vários fatores independentes, decompõe-na. Faz cada fator como uma pergunta separada e combina os resultados com lógica no teu código. Isto mantém cada avaliação individual fiável e dá-te controlo total sobre a ponderação das dimensões.

Por exemplo, em vez de «avalia este pitch de startup», pergunta em separado pelo tamanho do mercado, a viabilidade técnica e a diferenciação. Combina as pontuações com a tua própria fórmula. Quando as prioridades mudarem, altera um coeficiente no teu código em vez de reescrever um prompt.

Próximos passos

• Início rápido — Tudo o que precisas para começar de imediato.
• Introdução à IA — Porque é que a TypeSafe treina modelos para decisões calibradas em vez de texto gerado.
• Primitivas (perguntas) — Como definir perguntas, escolher entre Choice, Score e Noul e fazer várias de uma vez.
• Confiança — Como a TypeSafe comunica a certeza e como a usar em termos de arquitetura.
• Padrões — Padrões comuns para construir sistemas com a TypeSafe.