Примеры сценариев использования
Изучите сценарии использования TypeSafe по отраслям и превратите перспективные идеи в рабочие процессы на софте.
Используйте эту карту, чтобы найти идеи, где TypeSafe мог бы пригодиться в вашей отрасли. Откройте ближайшую отрасль, просмотрите примеры решений и адаптируйте их к документам и действиям в вашем рабочем процессе.
Примеры категорий сценариев использования
Софт для ИИ-автоматизации
Чередуйте ИИ с надёжным софтом так, чтобы это можно было запускать миллион раз в фоне без человека-совпилота. Контроль потока принадлежит коду (а не markdown-файлам), а TypeSafe берёт на себя семантические решения и понимание языка.
Приложения в реальном времени
Передовой интеллект на скорости реального времени (150 мс) означает, что ИИ может принимать решения быстрее человеческого восприятия. Достаточно быстрый и умный, чтобы запрограммировать его на игры или встроить в UI.
ИИ Map Reduce над большими данными
В 100 раз дешевле означает, что вы можете обрабатывать гигантские наборы данных. Ищите релевантную информацию по огромным корпусам, классифицируйте гигантские трейсы агентов и извлекайте признаки для предсказаний.
Универсальная верификация
Проверяйте входной промпт, извлечения, трейсы рассуждений, вызовы инструментов или входы любого другого ИИ. Обнаруживайте джейлбрейки, ошибки цитирования, галлюцинации, ошибки и другие режимы отказа, которые допускают другие ИИ или LLM, за долю стоимости реального вызова LLM.
Инженерия harness
Используйте запросы Jev, чтобы сделать ваш harness умнее — маршрутизация моделей, семантическое извлечение контекста, обнаружение ошибок LLM и guardrail-ы, классификация трейсов рассуждений со скоростью света и за малую долю стоимости.
Примеры сценариев автоматизации
Поиск и извлечение
- Заменяйте или дополняйте эмбеддинги в RAG-конвейерах семантическим поиском, оценкой и ранжированием.
- Оценивайте релевантность «запрос–кандидат».
- Переранжируйте результаты попарными сравнениями.
- Кросс-кодируйте запросы и кандидатов для большей точности.
- Отбирайте полезный контекст для последующих ИИ-процессов.
Научные открытия
- Отсеивайте статьи по критериям включения и исключения для систематических обзоров.
- Размечайте фрагменты в транскриптах интервью, ответах на открытые вопросы и полевых заметках, используя заранее заданные темы или категории.
- Проверяйте, подтверждают ли процитированные фрагменты утверждения в рукописях и сгенерированных резюме.
- Отмечайте отсутствующие методологические детали, такие как контрольные группы, описания наборов данных и экспериментальные настройки.
- Выявляйте сущности и связи между статьями, чтобы строить графы знаний для исследований, связывая находки с подтверждающими фрагментами.
Маршрутизация моделей
- Используйте Jev, чтобы построить собственный роутер, выбирающий, какая LLM получает каждый промпт.
- Задавайте правила маршрутизации и пороги под ваш конкретный процесс.
- Классифицируйте намерение и домен.
- Оценивайте сложность и риск.
- Эскалируйте запросы, которым нужна более дорогая модель.
Guardrail-ы для LLM
- Ставьте семантические проверки на каждый вход, выход и вызов инструмента LLM за малую долю стоимости вызова LLM.
- Обнаруживайте джейлбрейки и инъекции промптов.
- Выявляйте нарушения политик и утечку конфиденциальных данных.
- Обнаруживайте ошибки вызовов инструментов и проблемы качества ответов в реальном времени.
- Логируйте структурированные результаты проверок и вероятности, чтобы сбои ИИ-систем и harness было легче отследить.
Семантический линтинг кода
- Используйте запросы Jev, чтобы добавить автоматический семантический линтинг кода и текста.
- Определяйте проверки для конвенций кода и правил письма вашей команды.
- Запускайте эти проверки в CI и отмечайте нарушения для проверки.
Извлечение признаков для предиктивного моделирования
- Используйте Jev, чтобы извлекать вероятностные признаки из данных на естественном языке.
- Объединяйте эти признаки со структурированными данными, чтобы обучать модели для задач с эталонными исходами.
- Используйте процессы autoresearch, чтобы предлагать определения признаков и оценивать их предсказательную ценность на отложенной эталонной выборке.
Рекрутинг
- Оценивайте резюме, заявки и обратную связь с интервью по явным критериям, связанным с работой.
- Выявляйте релевантный опыт.
- Оценивайте доказательства требуемых компетенций.
- Сопоставляйте кандидатов с ролями.
- Направляйте кандидатов к нанимающим менеджерам или рекрутерам.
- Эскалируйте неопределённые случаи на проверку человеком.
Генерация лидов
- Сопоставляйте профили компаний, биографии руководителей и входящие сообщения с профилем идеального клиента.
- Оценивайте соответствие отрасли и зрелость компании.
- Выявляйте релевантность покупателя, болевые точки и намерение купить.
- Расставляйте приоритеты и направляйте лиды.
Поддержка клиентов
- Классифицируйте входящие заявки по проблеме, области продукта и намерению клиента.
- Обрабатывайте транскрипты звонков, чтобы извлекать проблемы клиентов, обещания и последующие действия.
- Обнаруживайте срочность, раздражение, риск оттока и запросы на возврат.
- Направляйте случаи в нужную команду, очередь или автоматизированный процесс.
- Проверяйте ответы поддержки на соответствие политикам и запросу клиента.
Страховые случаи
- Классифицируйте заявления о первом уведомлении об убытке, заметки оценщиков и подтверждающие документы.
- Выявляйте сложность случая, недостающую информацию и потенциальные признаки мошенничества.
- Расставляйте приоритеты случаев для сквозной обработки или проверки специалистом.
- Эскалируйте неопределённые или рискованные случаи к оценщику-человеку.
Финансовые преступления
- Оценивайте описания транзакций, документы KYC и историю алертов на подозрительные признаки.
- Сопоставляйте сущности по несогласованным именам, профилям и записям.
- Расставляйте приоритеты алертов по риску, релевантности и качеству доказательств.
- Направляйте неоднозначные случаи следователям на проверку.
Юридические вопросы и соответствие
- Классифицируйте договоры, политики, регуляторные документы и маркетинговые заявления.
- Выявляйте отсутствующие пункты, запрещённые заявления и нарушения политик.
- Проверяйте документы на соответствие явным юридическим требованиям или требованиям соответствия.
- Эскалируйте рискованные или неопределённые находки юристам или командам соответствия.
Маркетплейсы электронной коммерции
- Классифицируйте и нормализуйте товарные позиции по несогласованным каталогам продавцов.
- Извлекайте атрибуты товаров из заголовков и описаний.
- Выявляйте запрещённые позиции, признаки подделок, злоупотребления отзывами и нарушения политик.
- Ранжируйте товары и направляйте неопределённые позиции на проверку человеком.
Модерация и доверие и безопасность
- Применяйте специфичные для компании, тонкие критерии, чтобы решать, какие посты соответствуют вашим стандартам модерации.
- Модерируйте пользовательский контент и автоматизированные беседы в сообществах, поддержке клиентов и процессах SDR.
- Выявляйте токсичность, домогательства, спам, мошенничество, небезопасные советы, утечку персональных данных, запросы на отказ от обработки и нарушающие политики заявления.
- Комбинируйте серьёзность и уверенность, чтобы разрешать, предупреждать, проверять или блокировать контент.
Реклама
- Оценивайте креативы, текст кампаний, лендинги и контекст размещения.
- Классифицируйте безопасность бренда и пригодность для аудитории.
- Проверяйте регуляторное соответствие и запрещённые заявления.
- Оценивайте качество креативов и согласованность объявления с лендингом.
Игры
- Оценивайте жалобы игроков, внутриигровой чат, отзывы и переписку с поддержкой.
- Модерируйте чат и выявляйте злоупотребления, токсичность или подозрительное поведение.
- Размечайте контент и оценивайте раздражение или вовлечённость.
- Выявляйте сигналы оттока и направляйте запросы в поддержку игроков.
Оценка рисков
- Превращайте отчёты об инцидентах, заметки по претензиям, описания транзакций и оценки поставщиков в вероятностные индикаторы риска.
- Используйте эти индикаторы в процессах страхования и андеррайтинга.
- Классифицируйте типы риска и выявляйте подозрительные признаки.
- Оценивайте серьёзность и расставляйте приоритеты проверки.
- Извлекайте признаки для более широких моделей риска.
Прогнозирование спроса
- Обогащайте модели прогнозирования семантическими сигналами из запросов клиентов, заметок о продажах, отзывов о продукте, заявок в поддержку и рыночных отчётов.
- Извлекайте намерение купить, срочность и интерес к продукту.
- Выявляйте опасения по поставкам, конкурентное давление и новые темы спроса.
- Подавайте эти признаки в модель прогнозирования вместе с историческими временными рядами.
Графы и графы знаний
- Размечайте и проверяйте графы знаний типизированными семантическими решениями.
- Классифицируйте связи и типы сущностей.
- Выявляйте противоречия между записями или утверждениями.
- Поддерживайте вероятностный обход и иерархическую классификацию.
Примеры категорий задач
| Форма решения | Обращайтесь к нему, когда | Примеры |
|---|---|---|
| Классификация | Должна победить одна известная категория | Намерение, тема, отдел, тип риска, тип сущности |
| Обнаружение | Нужна вероятность наличия одного свойства | Спам, мошенничество, срочность, джейлбрейки, конфиденциальные данные |
| Оценка | Ответ принадлежит упорядоченной рубрике | Серьёзность, релевантность, качество, раздражение, пригодность |
| Маршрутизация | Категория выбирает следующий путь в коде | Использование инструментов, эскалация, маршрутизация моделей, очереди поддержки |
| Поиск | Нужно найти элементы, соответствующие запросу на естественном языке | Семантический поиск, обнаружение документов, генерация кандидатов |
| Извлечение | Процессу нужен самый релевантный контекст или записи | Контекст RAG, извлечение доказательств, поиск знаний |
| Ранжирование | Элементы нужно упорядочить по семантической релевантности или качеству | Результаты поиска, рекомендации, приоритизация кандидатов |
| Верификация | Артефакт нужно проверить на конкретные режимы отказа | Подтверждение цитат, нарушения политик, ошибки вызовов инструментов, качество ответов |
| Извлечение ML-признаков | Последующей классической ML-модели нужны семантические сигналы | Намерение купить, интерес к продукту, конкурентное давление, сигналы оттока |
| Извлечение структурированных данных | Из неструктурированного ввода нужно восстановить известные поля | Атрибуты кандидатов, поля заказа, метки документов |