Модели

Jev — флагманская модель TypeSafe и первая модель System One. Все модели на этой странице обслуживаются одним эндпоинтом POST /v1/systemone. Поле model запроса выбирает, какая из них обрабатывает вызов; полную форму запроса см. в справочнике по API.

Текущие модели

• Цена: Начисляется за входной токен. Выходные токены бесплатны. Btok — это миллиард токенов, а Mtok — миллион токенов.
• Ограничения скорости: Измеряются в токенах в секунду и запросах в секунду. Запрос, превышающий любой из лимитов, возвращает 429 Too Many Requests. Наши клиентские SDK по умолчанию повторяют запрос с задержкой и учитывают заголовок retry-after, когда он есть в ответе. Если вы вызываете HTTP API напрямую, см. Обработка ограничений скорости.
• Длина контекста: Jev принимает state один раз и параллельно оценивает по нему каждый вопрос. Бюджет 64k покрывает state плюс все вопросы вместе; бюджет 32k применяется к state плюс самый длинный отдельный вопрос. О том, как упаковать много вопросов в один запрос, см. Спекулятивный fan-out, а о том, как меняется точность по мере роста состояния, — Jev 1.13 jaggedness.
• Входные данные: Jev оценивает текст на естественном языке. Преобразуйте нетекстовые входные данные (изображения, аудио, видео, бинарные файлы) в текст или структурированные поля, прежде чем отправлять их как state. Поддерживаемые формы см. в разделе Состояние.

Псевдонимы

Псевдоним — это имя модели, которое разрешается в версионированный ID модели. Отправьте его в поле model, как любое другое имя.

Псевдоним меняется, когда выходит новая версия, поэтому ответы за ним могут измениться без изменений на вашей стороне. Поле model в ответе сообщает версионированный ID, который ответил, так что вы можете логировать, какая модель дала каждый результат. Если вы настроили пороги уверенности под конкретную версию, закрепите ID этой версии вместо псевдонима и переходите на новую по своему графику.

Настройка Jev

Jev не дообучается и не адаптируется через LoRA на клиентских данных. Он обучен с помощью RLCD, чтобы выдавать калиброванные решения, и одни и те же веса обслуживают все аккаунты. Вы настраиваете его ответы под свою предметную область через запрос, а не через отдельные веса для каждого аккаунта:

• Поместите проприетарный контент, записи и справочные материалы в поле state. См. Состояние.
• Закодируйте правила своей предметной области и пограничные случаи в instructions и criteria каждого вопроса. См. Как строить с помощью TypeSafe и Продвинутое: структура.
• Разбирайте широкие суждения на атомарные вопросы и объединяйте результаты в коде. См. Композитное оценивание и cookbook AutoResearch об обучении нижележащей классической модели на вероятностях Jev.

Поддержка языков

Jev принимает текст на естественном языке. Английский — основной язык обучения и тот, на котором точность сейчас наилучшая. Другие языки, включая письменности CJK, поддерживаются, но не так хорошо; проверьте на собственном контенте, прежде чем полагаться на Jev для неанглоязычных задач, и внимательно следите за уверенностью при маршрутизации.

Обработка данных

Jev не обучается на запросах или ответах клиентов. См. Правовую информацию, чтобы ознакомиться с Соглашением об обработке данных, Политикой конфиденциальности и подробностями о нулевом хранении данных (ZDR) для корпоративных клиентов.

Список моделей

GET /v1/models возвращает имена, которые ваш аккаунт может отправлять в поле model, с описанием и датой выпуска для каждого. Сейчас он перечисляет псевдонимы. Версионированные ID, такие как jev-1.13.0, принимаются полем model независимо от того, есть они в списке или нет.

curl https://api.typesafe.ai/v1/models \
  -H "Authorization: Bearer $TYPESAFE_API_KEY"

from typesafe_sdk import TypeSafeClient

with TypeSafeClient() as client:
    for model in client.models.list().models:
        print(model.name, model.release_date, model.description)

import { TypeSafeClient } from "@typesafe-ai/sdk";

const client = new TypeSafeClient();
const models = await client.models.list();
for (const model of models) {
  console.log(model.name, model.release_date, model.description);
}

Полные сигнатуры методов см. в справочниках SDK для Python и JavaScript.