쿡북
몇 개의 질문에서 완전한 파이프라인까지, 실제 문제에서 TypeSafe를 보여주는 엔드투엔드 레시피입니다.
각 쿡북은 하나의 완성된 예제입니다. 실제 데이터셋, 그 데이터셋에 대해 무언가를 결정하는 TypeSafe 질문, 그리고 그 결정을 작동하는 시스템으로 바꾸는 코드로 이루어집니다. 프리미티브와 패턴이 구체적인 문제에서 어떻게 함께 맞물리는지 보고 싶을 때 하나를 읽거나, 여러분의 출발점으로 복사하십시오.
이 섹션은 여러분이 TypeSafe 프리미티브를 알고 신뢰도가 어떻게 작동하는지 이해한다고 가정합니다. 그렇지 않다면 그것들을 먼저 읽으십시오.
자기 일관성
결정을 반복하고, 실행 간의 일치를 신호로 사용합니다.
| 쿡북 | 하는 일 | 수준 |
|---|---|---|
| 자기 일관성: nouls | 불확실한 확률을 사람 검토로 라우팅하면서 기저의 noul 값을 계속 보이게 유지합니다. | 초급 |
| 자기 일관성: choices | 모더레이션 결정에 불확실한 결과를 추가하고, 라벨 일치도와 자동 조치 비율을 비교합니다. | 초급 |
배칭
많은 질문을 하나의 요청에 담습니다.
| 쿡북 | 하는 일 | 수준 |
|---|---|---|
| 병렬 질문 | GDPR 위키백과 문서에 대해 13개 질문의 규제 브리핑을 실행하여, 모든 질문을 하나의 TypeSafe 호출에 배칭하면 답변은 그대로이면서 12.2배 저렴하고 10.0배 빠르다는 것을 보여줍니다. | 초급 |
하우투
검색, 포매팅, 도구 선택, 가드레일 같은 일반적인 작업을 위한 레시피입니다.
| 쿡북 | 하는 일 | 수준 |
|---|---|---|
| 재순위화 | 40개의 CLERC 법률 쿼리에 대해 30개 구절 BM25 후보 목록을 만들고, 쿼리-후보 쌍마다 TypeSafe 질문 하나를 사용하여 top-1 정확도를 5%에서 18%로, top-10 정확도를 38%에서 62%로 올립니다. | 초급 |
| 줄 단위 검색 | GitHub 서비스 약관을 위한 시맨틱 검색을 구축합니다. 한 요청에서 218개 줄 id를 평이한 언어 질의에 대해 Choice 질문으로 점수 매기고, Noul 질문으로 문서에 답이 포함되어 있는지 확인합니다. | 초급 |
| 구조 복구 | 포매팅을 잃은 평문에서 두 번의 요청으로 Markdown을 재구성합니다. 하나는 하드 랩된 줄을 다시 붙이고, 하나는 모든 블록(제목, 목록, 코드, 콜아웃)을 분류합니다. | 초급 |
| 함수 호출 | 함수 이름과 닫힌 집합 인수를 신뢰도 인식 TypeSafe 질문에 매핑하여, 자연어 거래 요청을 평범한 타입 지정 함수 호출로 바꿉니다. | 중급 |
| 스킬 제안 | Nous Research의 Hermes 카탈로그에 있는 182개 중에서 에이전트 턴에 쓸 스킬을 최대 하나 고르며, 두 번의 TypeSafe 요청으로 상위 후보의 순위를 매기고 재확인합니다. | 중급 |
| 지식 그래프 엔터티 정렬 | 두 맥주 카탈로그에서 나온 450개 후보 쌍 중 어느 것이 같은 제품을 설명하는지, Score 질문 하나와 어느 필드가 어긋나는지 드러내는 세 개의 짝 Noul로 결정합니다. | 초급 |
| RAG 구절 분류 | 검색된 각 구절을 TypeSafe 요청 하나로 점수 매기고, 어느 것이 답변 모델에 도달할지 코드에서 결정합니다. | 중급 |
| 인용 이중 확인 | 출처 문서와 대조하여 잘못되거나 환각된 인용을 잡아냅니다. Choice 질문 하나가 인용문의 컨텍스트가 주장을 뒷받침하는지 결정합니다. | 초급 |
| LLM용 가드레일 | LLM 앱으로 들어오고 나가는 모든 메시지를 TypeSafe 요청 하나로 검사하여, 위험 확률과 심각도에 임계값을 적용해 통과, 검토, 차단, 또는 라우팅합니다. | 중급 |
추출
지저분한 텍스트에서 타입 지정 값을 뽑아냅니다.
| 쿡북 | 하는 일 | 수준 |
|---|---|---|
| SDE 캐스케이드 | 2단계 구조화 데이터 추출 캐스케이드(mini → verify → reasoning)를 사용하여, 큰 추론 모델의 품질 대부분을 훨씬 적은 비용으로 얻습니다. | 중급 |
| 날짜 추출 | 문서에 명시된 부분을 TypeSafe에 물어 절대 날짜와 상대 날짜를 추출한 뒤, 코드에서 해석하고 신뢰도 기반 검토로 검증합니다. | 초급 |
| 사전 파싱 값 추출 | 정규식으로 후보 이메일, 전화번호, 금액을 찾은 다음, TypeSafe가 요청된 스팬을 선택하게 하여 코드가 축자 값을 정규화할 수 있게 합니다. | 초급 |
분류
입력을 임의 깊이의 범주에 할당합니다.
| 쿡북 | 하는 일 | 수준 |
|---|---|---|
| 계층적 분류 | TypeSafe Choice 확률에 대한 병렬 빔 서치를 사용하여, 깊은 특허, 소매 제품, 생의학, 소스 코드 계층을 통해 문서를 분류합니다. | 중급 |
| AutoResearch 기능 발견 | TypeSafe 질문을 제안하고, 자유 텍스트를 수치 특징으로 바꾸고, 모델 오류를 사용해 지도 학습 CatBoost 회귀자를 개선하는 AutoResearch 루프를 실행합니다. | 고급 |
| 신뢰도를 사용한 분류 | SEC 연차 보고서를 각각 Choice 하나로 75개 산업 그룹으로 분류한 뒤, 답변 자체의 신뢰도를 읽어 그 그룹을 보고할지 그 위의 더 넓은 부문을 보고할지 결정합니다. | 초급 |