모델

Jev는 TypeSafe의 플래그십 모델이자 최초의 System One 모델입니다. 이 페이지의 모든 모델은 동일한 엔드포인트 POST /v1/systemone으로 제공됩니다. 요청의 model 필드가 어느 모델이 호출을 처리할지 선택합니다. 전체 요청 형태는 API 레퍼런스를 참조하십시오.

현재 모델

• 가격: 입력 토큰당 과금됩니다. 출력 토큰은 무료입니다. Btok은 10억 토큰, Mtok은 100만 토큰입니다.
• 속도 제한: 초당 토큰 수와 초당 요청 수로 측정합니다. 어느 한도를 초과한 요청은 429 Too Many Requests를 반환합니다. 저희 클라이언트 SDK는 기본적으로 백오프를 사용해 재시도하며, 응답에 retry-after 헤더가 있으면 이를 따릅니다. HTTP API를 직접 호출하는 경우 속도 제한 처리를 참조하십시오.
• 컨텍스트 길이: Jev는 state를 한 번 읽어들이고 모든 질문을 이에 대해 병렬로 평가합니다. 64k 예산은 state와 모든 질문을 합친 것을 포함하며, 32k 예산은 state와 가장 긴 질문 하나에 적용됩니다. 여러 질문을 하나의 요청에 담는 방법은 투기적 팬아웃을, 상태가 커질수록 정확도가 어떻게 변하는지는 Jev 1.13의 들쭉날쭉함을 참조하십시오.
• 입력: Jev는 자연어 텍스트를 평가합니다. 텍스트가 아닌 입력(이미지, 오디오, 비디오, 바이너리)은 state로 보내기 전에 텍스트나 구조화된 필드로 전처리하십시오. 지원되는 형태는 상태를 참조하십시오.

별칭

별칭은 버전이 지정된 모델 ID로 해석되는 모델 이름입니다. 다른 이름과 마찬가지로 model 필드에 보내면 됩니다.

별칭은 새 릴리스가 나오면 이동하므로, 여러분 쪽의 변경 없이도 그 뒤의 답변이 바뀔 수 있습니다. 응답의 model 필드는 응답한 버전 지정 ID를 보고하므로, 어떤 결과를 어느 모델이 생성했는지 로그로 남길 수 있습니다. 특정 버전에 맞춰 신뢰도 임계값을 조정했다면, 별칭 대신 그 버전 ID를 고정하고 원하는 일정에 맞춰 새 버전으로 이동하십시오.

Jev 커스터마이징

Jev는 고객 데이터로 파인튜닝되거나 LoRA로 적응되지 않습니다. 캘리브레이션된 결정을 반환하도록 RLCD로 학습되었으며, 동일한 가중치가 모든 계정에 제공됩니다. 계정별 가중치가 아니라 요청을 통해 도메인에 맞게 답변을 형성합니다.

• 독점 콘텐츠, 기록, 참조 자료는 state 필드에 넣으십시오. 상태를 참조하십시오.
• 도메인 규칙과 경계 사례는 각 질문의 instructions와 criteria에 인코딩하십시오. TypeSafe로 구축하는 방법과 고급: 구조를 참조하십시오.
• 넓은 판단을 원자적 질문으로 분해하고 그 출력을 코드에서 결합하십시오. 복합 스코어링과 Jev의 확률로 다운스트림 고전 모델을 학습시키는 AutoResearch 쿡북을 참조하십시오.

언어 지원

Jev는 자연어 텍스트를 받아들입니다. 영어가 주 학습 언어이며 현재 정확도가 가장 높습니다. CJK 문자를 포함한 다른 언어도 처리되지만 똑같이 잘 처리되지는 않습니다. 비영어 워크로드에 Jev를 의존하기 전에 자체 콘텐츠로 테스트하고, 라우팅할 때 신뢰도에 각별히 주의하십시오.

데이터 처리

Jev는 고객 요청이나 응답으로 학습되지 않습니다. 데이터 처리 계약, 개인정보 처리방침, 엔터프라이즈 고객을 위한 제로 데이터 보존(ZDR)에 대한 자세한 내용은 법률을 참조하십시오.

모델 목록 조회

GET /v1/models는 계정이 model 필드에 보낼 수 있는 이름을 각각의 설명과 릴리스 날짜와 함께 반환합니다. 현재는 별칭을 나열합니다. jev-1.13.0과 같은 버전 지정 ID는 목록에 나타나지 않더라도 model 필드에서 허용됩니다.

curl https://api.typesafe.ai/v1/models \
  -H "Authorization: Bearer $TYPESAFE_API_KEY"

from typesafe_sdk import TypeSafeClient

with TypeSafeClient() as client:
    for model in client.models.list().models:
        print(model.name, model.release_date, model.description)

import { TypeSafeClient } from "@typesafe-ai/sdk";

const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
  console.log(model.name, model.release_date, model.description);
}

전체 메서드 시그니처는 Python 및 JavaScript SDK 레퍼런스를 참조하십시오.