Введение

Jev — флагманская модель TypeSafe и первая модель System One. Отправляйте состояние и типизированные вопросы; получайте структурированные ответы, которые ваш код может использовать напрямую.

Большие языковые модели (LLM) предназначены для создания текста, который читает человек. Когда вам нужно, чтобы модель вынесла суждение, которое будет использовать ваш код, возникает несоответствие: вы принуждаете систему генерации текста выдавать структурированные решения, а затем разбираете результаты обратно во что-то, на что ваш код может опереться.

Jev — флагманская модель TypeSafe и первая модель System One. Модели System One созданы для быстрых структурированных решений, которые программное обеспечение может использовать напрямую. Jev оценивает типизированные вопросы относительно состояния и возвращает структурированные результаты напрямую. Никакой генерации текста, никакого разбора. Вы получаете типизированные значения и распределения вероятностей, по которым ваш код может ветвиться, сортировать и маршрутизировать. Choice и Score также возвращают уверенность, которую ваш код может использовать, чтобы решить, действовать ли по ответу и как именно.

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart LR
    input["state + questions"]

    subgraph model["TypeSafe AI model"]
        evaluate["evaluate each question<br/>against the state<br/>in parallel"]
    end

    input -- "one request" --> model
    model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"]
    answers --> code["<b>your code</b><br/>branch, sort, and route"]

Примитивы TypeSafe

TypeSafe предоставляет три ИИ-примитива. Как и программные примитивы, наши ИИ-примитивы модульны, компонуемы, структурированы, надёжны и быстры. Каждый задаёт свой тип вопроса и возвращает свой тип ответа.

Все три типа вопросов можно смешивать в одном вызове API. Каждый вопрос оценивается параллельно и изолированно относительно одного и того же состояния за один проход. Добавление вопросов почти не меняет время ответа. Каждый вопрос оценивается независимо, поэтому добавление новых вопросов не создаёт context-rot.

Атомарные вопросы, композиция в коде

Модели System One работают лучше всего, когда каждый вопрос задаёт одну конкретную, хорошо очерченную вещь. Думайте о каждом вопросе как о мгновенном суждении: такое суждение очень знающий человек мог бы вынести за несколько секунд при наличии нужного контекста.

Если вопрос, который вы хотите задать, требует длительных рассуждений или взвешивает несколько независимых факторов, разложите его. Спросите о каждом факторе отдельным вопросом, а затем объедините результаты логикой в своём коде. Так каждая отдельная оценка остаётся надёжной, а вы получаете полный контроль над тем, как взвешиваются измерения.

Например, вместо «оцените этот стартап-питч» спросите отдельно о размере рынка, технической осуществимости и дифференциации. Объедините оценки собственной формулой. Когда приоритеты меняются, измените коэффициент в коде, а не переписывайте промпт.

Следующие шаги

• Быстрый старт — всё, что нужно, чтобы начать немедленно.
• Введение в ИИ — почему TypeSafe обучает модели для калиброванных решений, а не для сгенерированного текста.
• Примитивы (вопросы) — как определять вопросы, выбирать между Choice, Score и Noul и задавать несколько сразу.
• Уверенность — как TypeSafe сообщает об уверенности и как использовать её архитектурно.
• Паттерны — распространённые приёмы построения систем с TypeSafe.