System One
System One-Modelle treffen schnelle, strukturierte Entscheidungen für Software. Jev ist TypeSafes Flaggschiffmodell und das erste System One-Modell.
System One-Modelle sind eine Klasse von KI-Modellen, die gebaut wurden, um schnelle, strukturierte Entscheidungen zu treffen, die Software direkt nutzen kann. Ein System One-Modell wertet einen Zustand aus und gibt typisierte Antworten und Wahrscheinlichkeiten zurück.
Jev ist TypeSafes Flaggschiffmodell und das erste System One-Modell.
Wie ein LLM versteht ein System One-Modell natürlichsprachliche Eingaben. Es gibt typisierte Entscheidungen und Wahrscheinlichkeiten statt generierten Text zurück.
Wie es sich von einem LLM unterscheidet
System One-Modelle sind auf kalibrierte Entscheidungen trainiert: Ihre Wahrscheinlichkeiten werden gegen Ergebnisse optimiert, um Unsicherheit widerzuspiegeln. Kalibrierung wird über Gruppen von Vorhersagen gemessen; sie garantiert nicht, dass eine einzelne Antwort richtig ist.
System One-Modelle schreiben keine Antworten, erzeugen keinen Code und generieren keine Erklärungen ihres Schlussfolgerns. Du definierst die möglichen Antworten über Primitive:
| Primitiv | Frage | Beispielantwortraum | Beispielausgabe |
|---|---|---|---|
| Choice | Welches Team sollte dieses Ticket bearbeiten? | billing, technical oder account |
choice: "billing" |
| Score | Wie frustriert ist dieser Kunde? | 0 = ruhig, 1 = frustriert, 2 = sehr frustriert | score: 1.4 |
| Noul | Verlangt diese Nachricht eine Erstattung? | Wahr oder falsch | noul: 0.95 |
Dies sind veranschaulichende Konfigurationen und Werte. Die Seiten zu den Primitiven beschreiben die verfügbaren Konfigurationsmöglichkeiten und vollständigen Antwortfelder.
Lies die KI-Grundlagen, um zu erfahren, wie System One-Modelle funktionieren und trainiert werden.
Schnelle Urteile innerhalb eines größeren Workflows
Für eine Erstattungsanfrage kann deine Anwendung:
- Einen Zustand aufbauen, der die Nachricht des Kunden, die relevanten Transaktionen und die Erstattungsrichtlinie enthält.
- Unabhängige Fragen zusammen stellen: ob eine Erstattung verlangt wurde, ob die Belege auf eine doppelte Abbuchung hindeuten und ob die Richtlinie eine Erstattung stützt.
- Die Antworten mit deterministischen Prüfungen im Code kombinieren und den Fall dann zur Aktion oder Prüfung weiterleiten.
Sobald du die Primitive in Aktion gesehen hast, kannst du sie zu einem größeren System kombinieren. Weil System One-Modelle typisierte, beschränkte Ausgaben statt freiem Text zurückgeben, kann dein Code seine Antworten prüfen und in vorhersehbare Workflows kombinieren. Siehe Wie du mit TypeSafe baust für den vollständigen Workflow.
Antworten von System One-Modellen enthalten außerdem Konfidenz, sodass du entscheiden kannst, wann du handelst und wann du an einen Menschen oder ein Reasoning-Modell eskalierst.
Ein System One-Modell aufrufen
Rufe ein System One-Modell über eines unserer Client-SDKs oder POST /v1/systemone in der HTTP-API auf. Das Feld model wählt, welches Modell die Anfrage bearbeitet. Die Beispiele in dieser Dokumentation verwenden jev-latest, das auch der SDK-Standard ist. Siehe Modelle für die verfügbaren Modelle, ihre Preise und ihre Aliasse.
Beginne mit Zustand, um die Eingabe vorzubereiten, und mit Primitive (Fragen), um die Arten von Fragen zu erkunden, die du stellen kannst.