System One
System One 모델은 소프트웨어를 위해 빠르고 구조화된 결정을 내립니다. Jev는 TypeSafe의 플래그십 모델이자 최초의 System One 모델입니다.
System One 모델은 소프트웨어가 곧바로 사용할 수 있는 빠르고 구조화된 결정을 내리도록 만들어진 AI 모델 부류입니다. System One 모델은 상태를 평가하고 타입이 지정된 답과 확률을 반환합니다.
Jev는 TypeSafe의 플래그십 모델이자 최초의 System One 모델입니다.
LLM과 마찬가지로, System One 모델은 자연어 입력을 이해합니다. 생성된 텍스트가 아니라 타입이 지정된 결정과 확률을 반환합니다.
LLM과 다른 점
System One 모델은 캘리브레이션된 결정을 위해 훈련됩니다. 즉, 확률이 결과에 맞추어 최적화되어 불확실성을 반영합니다. 캘리브레이션(보정)은 여러 예측의 집단 단위로 측정되며, 개별 답이 정답임을 보장하지는 않습니다.
System One 모델은 답장을 쓰거나, 코드를 생성하거나, 추론 과정을 설명하지 않습니다. 가능한 답은 프리미티브를 통해 정의합니다.
| 프리미티브 | 질문 | 예시 답 공간 | 예시 출력 |
|---|---|---|---|
| Choice | 이 티켓을 어느 팀이 처리해야 하는가? | billing, technical, account |
choice: "billing" |
| Score | 이 고객은 얼마나 불만스러운가? | 0 = 차분함, 1 = 불만, 2 = 매우 불만 | score: 1.4 |
| Noul | 이 메시지는 환불을 요청하는가? | 참 또는 거짓 | noul: 0.95 |
이것들은 예시일 뿐인 구성과 값입니다. 프리미티브 페이지에서 사용 가능한 구성 옵션과 전체 응답 필드를 설명합니다.
System One 모델이 어떻게 작동하고 어떻게 훈련되는지 알아보려면 AI 프라이머를 참조하십시오.
더 큰 워크플로 안에서의 빠른 판단
환불 요청에 대해, 애플리케이션은 다음을 할 수 있습니다.
- 고객의 메시지, 관련 거래, 환불 정책을 담은 상태를 구성합니다.
- 독립적인 질문을 함께 던집니다. 환불이 요청되었는지, 증거가 중복 청구를 가리키는지, 정책이 환불을 뒷받침하는지 여부입니다.
- 코드의 결정적 검사와 답을 결합한 다음, 그 사례를 처리나 검토로 라우팅합니다.
프리미티브가 실제로 작동하는 모습을 한 번 보고 나면, 그것들을 더 큰 시스템으로 결합할 수 있습니다. System One 모델은 자유 형식 텍스트가 아니라 타입이 지정되고 제약된 출력을 반환하므로, 코드는 그 답을 검사하고 결합해 예측 가능한 워크플로로 만들 수 있습니다. 전체 워크플로는 TypeSafe로 구축하는 방법을 참조하십시오.
System One 모델의 답에는 신뢰도도 포함되므로, 언제 행동하고 언제 사람이나 추론 모델로 에스컬레이션할지 결정할 수 있습니다.
System One 모델 호출하기
System One 모델은 클라이언트 SDK 중 하나로, 또는 HTTP API의 POST /v1/systemone으로 호출합니다. model 필드가 요청을 처리할 모델을 선택합니다. 이 문서의 예제는 jev-latest를 사용하며, 이는 SDK 기본값이기도 합니다. 사용 가능한 모델과 가격, 별칭은 모델을 참조하십시오.