Jev
Jev는 TypeSafe AI가 출시한 「System One」 판단 모델입니다. 텍스트를 생성하지 않고, 알려진 옵션에 대해 구조화된 판단(옵션, 점수 또는 확률)을 반환해 코드가 바로 분기할 수 있게 합니다.
Jev 소개
Jev는 TypeSafe AI가 출시한 플래그십 모델로, 공식적으로 「System One 모델」 카테고리의 첫 제품이라고 밝히고 있습니다. token을 하나씩 생성하는 대신, 특정 상태(state)에 대해 제기된 타입 질문을 평가해 선택된 옵션, 점수 또는 확률 같은 구조화된 판단을 반환하고, 코드가 바로 분기할 수 있게 합니다. 다시 말해, 「알려진 옵션 중에서 고르기」를 단 한 가지 일만 합니다. 높은 동시성, 낮은 지연 시간, 닫힌 정답 공간을 요구하는 판정 시나리오에 적합하며, 티켓 라우팅, 검색 결과 채점, 도구 호출 게이팅 같은 작업이 그렇습니다. 어떤 텍스트도 생성하지 않기 때문에 요약을 쓰거나 열린 질문을 답할 수 없고, 이런 작업은 기존 LLM과 함께 수행해야 합니다. 모델은 호스팅 API 형태로만 제공되며, 오픈 가중치도 셀프 호스팅도 VPC 배포 옵션도 없습니다. Python과 JavaScript SDK를 제공하고 TypeSafe의 /v1/systemone 요청 형식과 OpenAI 호환 엔드포인트도 지원합니다.
적합한 사용자
적합한 활용 장면
수신된 티켓을 자동으로 큐에 라우팅하고 긴급도를 평가해 이탈 위험을 표시한다(공식 ruleset 예시:support-ticket-triage)
검색된 각 문단을 채점해 후속 과정으로 넘길지 결정한다
모든 도구 호출에 게이트 판정을 적용한다
높은 동시성과 낮은 지연 시간(공식 표기 70–500ms 엔드투엔드)이 필요한 대량 판정 시나리오
선택 전 비교
공식 비교 페이지는 정확도에서 LLM이 우세라고 밝힌다—벤더의 자체 표: Jev 67.8%, GPT-5.6 Sol 74.1%, Opus 5 73.1%
공식 비교 페이지는 지연 시간을 0.4초 대 10–38초로 제시한다(벤더 보고, 판단 1회 기준)
공식 비교 페이지는 판단당 비용을 $0.0004 대 $0.03–$0.18로 제시한다(벤더 보고)
기능
구조화된 판단 출력
상태에 대해 타입 질문을 던져 선택된 옵션, 점수 또는 확률을 돌려주므로 코드가 바로 분기할 수 있다.
저지연 판정
공식은 엔드투엔드 지연 시간을 70–500ms로 제시하며, 모든 도구 호출이나 각 데이터에 대한 실시간 판정에 적합하다.
배치 요청
한 요청당 최대 20개 항목을 처리하고, 실패는 항목별로 따로 보고되어 전체 묶음에 영향을 주지 않는다.
Python / JavaScript SDK
Python과 JavaScript SDK를 제공하며, 요청 형식은 TypeSafe의 /v1/systemone과 같고 OpenAI 호환 엔드포인트도 있다.
64k 컨텍스트
컨텍스트 윈도는 64k token, 요청당 상한도 64k token이다(상태 + 가장 긴 질문을 합쳐 32k).
장점
- 공식은 판단 1회당 약 $0.0004로 기존 LLM보다 약 75배 저렴하고 25배 빠르다고 밝힌다(벤더 보고 기준). 공식 가격 페이지 실측에서는 단일 Choice 호출이 $0.0000144에 불과하며, 일반적인 상태가 수천 token이 아니라 수백 token에 그치기 때문이다
- 출력은 무료이며 비용은 입력 token(상태 + 질문)에만 따라 늘고, 여러 질문을 하나의 호출로 묶어 상태를 공유할 수 있다
- 가입 즉시 API key가 발급되며, 대기 목록도 카드 등록도 필요 없다
- 구매한 credit은 영구적으로 유효하고 실패한 요청은 과금되지 않는다
- 어떤 요금제에도 분당 제한이 없으며, 사용량은 credit 단위로 집계된다
단점
- 공식 비교 페이지는 원시 판정의 정확도가 주류 LLM보다 낮다고 밝힌다(벤더 표: Jev 67.8%, GPT-5.6 Sol 74.1%, Opus 5 73.1%)
- 완전 폐쇄 소스: 호스팅 API만 제공하며 오픈 가중치도 셀프 호스팅도 VPC 옵션도 없다
- 레이트 리밋(초당 10만 token, 초당 80 요청)은 공식이 조정 중이라고 밝히며 통지 없이 바뀔 수 있다
- 출시 시점에는 텍스트 입력만 지원하고 이미지나 오디오는 지원하지 않는다