Modelle

Jev ist das Flaggschiffmodell von TypeSafe und das erste System One-Modell. Jedes Modell auf dieser Seite wird vom selben Endpunkt bedient, POST /v1/systemone. Das model-Feld der Anfrage wählt aus, welches den Aufruf übernimmt; siehe die API-Referenz für die vollständige Form der Anfrage.

Aktuelle Modelle

• Preis: Wird pro Eingabe-Token berechnet. Ausgabe-Token sind kostenlos. Ein Btok sind eine Milliarde Token und ein Mtok eine Million Token.
• Ratenlimits: Gemessen in Token pro Sekunde und Anfragen pro Sekunde. Eine Anfrage über einem der beiden Limits gibt 429 Too Many Requests zurück. Unsere Client-SDKs versuchen standardmäßig mit Backoff erneut und beachten den retry-after-Header, wenn die Antwort einen trägt. Wenn du die HTTP-API direkt aufrufst, siehe Umgang mit Ratenlimits.
• Kontextlänge: Jev nimmt den state einmal auf und wertet jede Frage parallel dagegen aus. Das 64k-Budget deckt den state plus alle Fragen zusammen ab; das 32k-Budget gilt für den state plus die eine längste Frage. Siehe Spekulativer Fan-out für das Packen vieler Fragen in eine Anfrage und Jaggedness von Jev 1.13 dafür, wie sich die Genauigkeit ändert, wenn der Zustand wächst.
• Eingabe: Jev wertet natürlichsprachlichen Text aus. Verarbeite Nicht-Text-Eingaben (Bilder, Audio, Video, Binärdaten) vor dem Senden als state in Text oder strukturierte Felder. Siehe Zustand für unterstützte Formen.

Aliasse

Ein Alias ist ein Modellname, der sich in eine versionierte Modell-ID auflöst. Sende ihn im model-Feld wie jeden anderen Namen.

Ein Alias verschiebt sich, wenn eine neue Version ausgeliefert wird, sodass sich die Antworten dahinter ändern können, ohne dass du etwas änderst. Das model-Feld der Antwort meldet die versionierte ID, die geantwortet hat, damit du protokollieren kannst, welches Modell jedes Ergebnis erzeugt hat. Wenn du Konfidenz-Schwellenwerte auf eine bestimmte Version abgestimmt hast, pinne die ID dieser Version statt des Alias und wechsle nach deinem eigenen Zeitplan auf die neue.

Jev anpassen

Jev wird nicht mit Kundendaten fine-getunt oder per LoRA angepasst. Es wird mit RLCD trainiert, um kalibrierte Entscheidungen zurückzugeben, und dieselben Gewichte bedienen jedes Konto. Du formst seine Antworten auf deine Domäne über die Anfrage statt über Gewichte pro Konto:

• Lege deinen proprietären Inhalt, deine Datensätze und dein Referenzmaterial in das state-Feld. Siehe Zustand.
• Kodiere deine Domänenregeln und Grenzfälle in den instructions und criteria jeder Frage. Siehe Mit TypeSafe bauen und Fortgeschritten: Struktur.
• Zerlege breite Urteile in atomare Fragen und kombiniere die Ausgaben im Code. Siehe Zusammengesetzte Bewertung und das AutoResearch-Cookbook für das Trainieren eines nachgelagerten klassischen Modells auf Jevs Wahrscheinlichkeiten.

Sprachunterstützung

Jev akzeptiert natürlichsprachlichen Text. Englisch ist die primäre Trainingssprache und der Bereich, in dem die Genauigkeit derzeit am besten ist. Andere Sprachen, einschließlich CJK-Schriftsysteme, werden verarbeitet, aber nicht gleich gut; teste mit deinem eigenen Inhalt, bevor du dich für eine nicht-englische Arbeitslast auf Jev verlässt, und achte beim Routing genau auf die Konfidenz.

Datenverarbeitung

Jev wird nicht auf Kundenanfragen oder -antworten trainiert. Siehe Rechtliches für den Auftragsverarbeitungsvertrag, die Datenschutzrichtlinie und Details zur Zero Data Retention (ZDR) für Enterprise-Kunden.

Modelle auflisten

GET /v1/models gibt die Namen zurück, die dein Konto im model-Feld senden kann, jeweils mit einer Beschreibung und einem Veröffentlichungsdatum. Derzeit listet er die Aliasse auf. Versionierte IDs wie jev-1.13.0 werden vom model-Feld akzeptiert, ob sie nun in der Liste erscheinen oder nicht.

curl https://api.typesafe.ai/v1/models \
  -H "Authorization: Bearer $TYPESAFE_API_KEY"

from typesafe_sdk import TypeSafeClient

with TypeSafeClient() as client:
    for model in client.models.list().models:
        print(model.name, model.release_date, model.description)

import { TypeSafeClient } from "@typesafe-ai/sdk";

const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
  console.log(model.name, model.release_date, model.description);
}

Siehe die SDK-Referenzen Python und JavaScript für die vollständigen Methodensignaturen.