문서

소개

Jev는 TypeSafe의 플래그십 모델이자 최초의 System One 모델입니다. 상태와 타입이 지정된 질문을 보내면 코드에서 곧바로 사용할 수 있는 구조화된 답변을 받습니다.

대규모 언어 모델(LLM)은 사람이 읽을 텍스트를 생성하도록 설계되었습니다. 코드가 소비할 판단을 모델이 내리게 하려면 여기서 어긋남이 생깁니다. 텍스트 생성 시스템을 억지로 끌어다 구조화된 결정을 출력하게 만든 다음, 그 결과를 다시 코드가 의존할 수 있는 형태로 파싱하게 됩니다.

Jev는 TypeSafe의 플래그십 모델이자 최초의 System One 모델입니다. System One 모델은 소프트웨어가 곧바로 사용할 수 있는 빠르고 구조화된 결정을 내리도록 만들어졌습니다. Jev는 상태에 대해 타입이 지정된 질문을 평가하고 구조화된 결과를 곧바로 반환합니다. 텍스트 생성도, 파싱도 없습니다. 코드가 분기하고, 정렬하고, 라우팅할 수 있는 타입이 지정된 값과 확률 분포를 얻습니다. Choice와 Score는 신뢰도도 함께 반환하므로, 코드는 그 답에 대해 행동할지, 그리고 어떻게 행동할지를 결정하는 데 이를 사용할 수 있습니다.

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%%
flowchart LR
    input["state + questions"]

    subgraph model["TypeSafe AI model"]
        evaluate["evaluate each question<br/>against the state<br/>in parallel"]
    end

    input -- "one request" --> model
    model -- "one response" --> answers["typed answers<br/>+ probabilities<br/>+ confidence<br/>(Choice and Score)"]
    answers --> code["<b>your code</b><br/>branch, sort, and route"]

TypeSafe 프리미티브

TypeSafe는 세 가지 AI 프리미티브를 제공합니다. 소프트웨어 프리미티브와 마찬가지로, 저희 AI 프리미티브는 모듈식이고 조합 가능하며 구조화되어 있고 신뢰할 수 있으며 빠릅니다. 각각은 서로 다른 유형의 질문을 던지고 서로 다른 유형의 답을 반환합니다.

질문 유형 목표 반환값
Choice 목록에서 옵션 하나 고르기 choice, probabilities, confidence
Score 루브릭으로 상태 채점하기 score, probabilities, confidence
Noul 이 진술은 참인가? noul (0–1)

세 질문 유형은 모두 하나의 API 호출에 섞어 쓸 수 있습니다. 모든 질문은 동일한 상태에 대해 한 번에, 병렬로, 서로 격리된 채 평가됩니다. 질문을 추가해도 응답 시간은 거의 달라지지 않습니다. 각 질문은 독립적으로 평가되므로, 질문을 더 넣는다고 컨텍스트가 부패하지(context rot) 않습니다.

원자적 질문, 코드에서 조합

System One 모델은 각 질문이 하나의 구체적이고 범위가 잘 잡힌 것을 물을 때 가장 잘 작동합니다. 각 질문을 직감적 판정으로 생각해 볼 수 있습니다. 충분한 컨텍스트가 주어지면 지식이 많은 사람이 몇 초 안에 내릴 수 있는 종류의 판단입니다.

묻고자 하는 질문이 긴 추론을 요구하거나 여러 독립적 요인을 함께 저울질해야 한다면, 그것을 분해하십시오. 각 요인을 별도의 질문으로 묻고, 그 결과를 코드의 로직으로 결합합니다. 이렇게 하면 개별 평가가 안정적으로 유지되고, 각 차원을 어떻게 가중할지에 대한 완전한 제어권을 갖게 됩니다.

예를 들어 “이 스타트업 피치를 평가하라” 대신, 시장 규모, 기술적 실현 가능성, 차별성을 따로 묻습니다. 점수는 여러분만의 공식으로 결합합니다. 우선순위가 바뀌면, 프롬프트를 다시 쓰는 대신 코드의 계수 하나를 바꿉니다.

다음 단계

  • 빠른 시작 — 곧바로 시작하는 데 필요한 모든 것.
  • AI 프라이머 — TypeSafe가 생성된 텍스트 대신 캘리브레이션된 결정을 위해 모델을 훈련하는 이유.
  • 프리미티브(질문) — 질문을 정의하고, Choice, Score, Noul 중에서 고르고, 여러 개를 한꺼번에 묻는 방법.
  • 신뢰도 — TypeSafe가 확실성을 보고하는 방식과, 그것을 아키텍처에서 사용하는 방법.
  • 패턴 — TypeSafe로 시스템을 구축하는 흔한 패턴.