モデル
モデル
Jev は TypeSafe のフラッグシップモデルで、最初の System One モデルです。本ページのどのモデルも同じエンドポイント POST /v1/systemone で提供されます。リクエストの model フィールドが、どのモデルが呼び出しを処理するかを選びます。リクエストの完全な形は API リファレンスを参照してください。
現在のモデル
| Jev 1.13 | jev-1.13.0 |
|---|---|
| 価格(Btok あたり / Mtok あたり) | $42 / $0.042 |
| レート制限 | 毎秒 100K tokens / 毎秒 40 リクエスト |
| コンテキスト長 | 1 リクエストあたり 64k tokens;state と最も長い質問を合わせて 32k tokens |
| 入力 | テキストのみ。文字列、JSON オブジェクト、またはテキスト値の配列。画像・音声・動画の入力はありません。 |
- 価格: 入力 token ごとに課金されます。出力 token は無料です。Btok は 10 億 token、Mtok は 100 万 token です。
- レート制限: 毎秒 token 数と毎秒リクエスト数で測られます。どちらかの制限を超えたリクエストは
429 Too Many Requestsを返します。当社のクライアント SDK は既定でバックオフして再試行し、レスポンスにretry-afterヘッダーがあればそれを尊重します。HTTP API を直接呼び出す場合はレート制限の扱いを参照してください。 - コンテキスト長: Jev は
stateを一度読み込み、それに対してすべての質問を並列に評価します。64k の予算はstateとすべての質問の合計をカバーし、32k の予算はstateと単一の最も長い質問に適用されます。多くの質問を 1 つのリクエストに詰め込む方法は投機的ファンアウト、state が大きくなるにつれて精度がどう変わるかは Jev 1.13 のギザギザを参照してください。 - 入力: Jev は自然言語のテキストを評価します。非テキスト入力(画像・音声・動画・バイナリ)は、
stateとして送る前にテキストか構造化フィールドに前処理してください。対応する形は状態を参照してください。
別名
別名は、バージョン付きのモデル ID に解決されるモデル名です。ほかの名前と同じように model フィールドに入れて送ります。
| 別名 | 参照先 | 意味 |
|---|---|---|
jev-latest |
jev-1.13.0 |
最新の安定した正式リリース。当社のクライアント SDK の既定値であり、このドキュメントの例が使う名前です。 |
jev-preview |
jev-1.13.0 |
最新のリリース。正式版であるかどうかは問いません。プレビュービルドが利用できるときは jev-latest より先に進みます。 |
別名は新しいリリースが出るたびに動くので、あなたの側で何も変えなくても、その背後にある答えが変わりえます。レスポンスの model フィールドが、答えたバージョン付き ID を報告するので、どのモデルが各結果を出したかを記録できます。特定のバージョンに対して信頼度のしきい値を調整してあるなら、別名ではなくそのバージョンの ID を固定し、自分のペースで新しいものへ移ってください。
Jev のカスタマイズ
Jev は顧客データでファインチューニングや LoRA 適応を行っていません。RLCD で学習され、キャリブレーションされた意思決定を返します。すべてのアカウントが同じ重みで提供されます。答えを自分のドメインに合わせるのは、アカウントごとの重みではなく、リクエストを通じて行います:
- 自社の独自コンテンツ、記録、参考資料は
stateフィールドに入れます。状態を参照してください。 - ドメインのルールと境界ケースは、各質問の
instructionsとcriteriaにエンコードします。TypeSafe での構築方法と上級:構造を参照してください。 - 広い判断は原子的な質問に分解し、出力をコードで組み合わせます。Jev の確率分布で下流の古典モデルを学習する方法は、複合スコアリングと AutoResearch cookbookを参照してください。
言語サポート
Jev は自然言語のテキストを受け付けます。英語が主要な学習言語で、現在もっとも精度が高い言語です。CJK 文字を含む他の言語も扱えますが、同じようには得意ではありません。非英語のワークロードで Jev に頼る前に、自分のコンテンツでテストし、ルーティングの際は信頼度に十分注意してください。
データの取り扱い
Jev は顧客のリクエストやレスポンスでは学習されません。データ処理契約、プライバシーポリシー、法人のお客様向けのゼロデータ保持(ZDR)の詳細は法務を参照してください。
モデルの一覧取得
GET /v1/models は、自分のアカウントが model フィールドで送れる名前を、それぞれの説明とリリース日付きで返します。現在は別名を一覧します。jev-1.13.0 のようなバージョン付き ID は、一覧に載っているかどうかに関わらず model フィールドで受け付けられます。
curl https://api.typesafe.ai/v1/models \
-H "Authorization: Bearer $TYPESAFE_API_KEY"from typesafe_sdk import TypeSafeClient
with TypeSafeClient() as client:
for model in client.models.list().models:
print(model.name, model.release_date, model.description)import { TypeSafeClient } from "@typesafe-ai/sdk";
const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
console.log(model.name, model.release_date, model.description);
}models
モデルまたは別名ごとに 1 つのエントリ。
プロパティ
name
model フィールドが受け付けるモデル ID または別名。
description
そのモデルの用途。
release_date
そのモデルまたは別名がリリースされた時期。
完全なメソッドシグネチャは Python と JavaScript の SDK リファレンスを参照してください。