Jev 모델 정리 — 속도보다 과금 구조가 진짜 변화다

2026년 9월 15일 TypeSafe AI 가 스텔스에서 나오면서 공개한 Jev 는 글을 쓰지 않는다. 코드도 짜지 않고, 설명도 하지 않는다. 상태를 넣으면 타입이 보장된 결정과 확률이 돌아올 뿐이다. 사흘 만에 Vercel AI Gateway 역사상 가장 빠르게 채택된 모델이 됐고, 업계는 "200배 빠르다"는 숫자에 반응했다. 그런데 속도는 이 모델에서 두 번째로 중요한 사실이다. 진짜 변화는 출력 토큰이 무료라는 과금 구조에 있다. 이 글은 Jev 가 무엇이고, 어디에 쓰면 되고, 어디서부터 믿으면 안 되는지 정리한다.

문자열을 포기하자 나머지가 전부 달라졌다

Jev 를 만든 사람은 Diogo Almeida 다. OpenAI 에서 ChatGPT 개발에 참여했고 RLHF 를 공동 고안한 연구자로, 2년 전 나와 Erik Gafni·Sasha Sheng 과 TypeSafe AI 를 세웠다. 9월 15일 DCVC 가 리드한 시드 4,000만 달러와 함께 회사를 공개했다.

회사가 내세운 개념은 "System One Model" 이다. 카너먼의 시스템 1, 그러니까 숙고하지 않고 반사적으로 내리는 판단을 기계에 맡기자는 발상이다. 이 입력이 스팸인가. 이 요청을 어느 모델로 보낼 것인가. 이 툴 호출이 위험한가. 소프트웨어가 하루에 수백만 번 되묻는 질문들이다.

지금까지 이런 판단은 LLM 에게 시켰다. 그런데 LLM 은 답을 문자열로 만든다. 토큰을 하나씩 순차적으로 뱉고, 그 문자열이 JSON 으로 파싱되기를 기도한 다음, 파싱된 값이 내가 정의한 열거형 안에 있기를 다시 기도한다. 분류 하나 하자고 생성 모델을 부르는 셈이다.

Jev 는 그 생성을 버렸다. 비정형 상태를 넣으면 타입이 보장된 값이 나온다. 학습은 RLCD(Reinforcement Learning for Calibrated Decisions)로 했고, 순차 디코딩 대신 병렬 샘플러를 쓴다. 덕분에 같은 컨텍스트에 대한 여러 질문을 한 번에 답한다. LLM 은 호출 한 번에 결정 하나지만, Jev 는 한 번에 열 개를 묻는다. 레이턴시는 70~500ms 다.

여기서 중요한 건 속도 자체가 아니라, 답에 보정된 확률이 붙어 나온다는 점이다. 0.94 와 0.51 을 구분할 수 있으면 게이트 설계가 달라진다. 확신할 때는 통과시키고, 애매할 때만 비싼 모델이나 사람에게 넘기면 된다. LLM 에게 "확신도를 0에서 1 사이로 답해줘"라고 시켜본 사람은 그 숫자가 얼마나 무의미한지 안다.

출력 토큰이 무료라는 말이 설계를 바꾼다

가격표는 이렇다. 입력 100만 토큰당 0.042달러, 출력 토큰은 무료. 회사 표현으로는 "과금하기엔 너무 싸다". 홈페이지는 193.6배 빠르고 444.6배 싸다고 적어뒀다.

이 숫자가 왜 중요한지는 비용이 아니라 설계 결정에서 드러난다. 지금까지 "모든 요청마다 LLM 으로 검사한다"는 아키텍처는 대부분 기각됐다. 느려서가 아니라 단가가 감당이 안 돼서다. 그래서 우리는 정규식을 쓰고, 임계값을 손으로 고르고, 샘플링해서 1%만 검사했다. 타협이었다.

단가가 400배 내려가면 그 타협이 사라진다. 상시 호출이 가능해진다. 모델 이름이 제번스 역설(Jevons Paradox)에서 왔다는 게 농담이 아니다. 효율이 오르면 총소비가 줄지 않고 늘어난다는 그 역설 말이다. TypeSafe 는 자기들이 팔려는 게 싼 모델이 아니라 호출 횟수 자체가 다른 소프트웨어라고 말하고 있다.

LangChain 이 공개한 패턴 두 개가 이 구조를 그대로 보여준다. 하나는 모델 라우팅이다. 들어온 요청의 난이도를 Jev 가 판정해서 단순 조회는 싼 모델로, 복잡한 추론만 비싼 모델로 보낸다. 다른 하나는 안전 게이팅인데, 에이전트가 툴을 호출하기 전에 그 호출이 위험한지 판정해서 막는다. 실행하고 나서 후회하는 대신 실행 전에 세운다. 둘 다 에이전트 컨텍스트가 이미 메모리에 있으니 추가 비용이 사실상 없다.

실물 사례도 나왔다. Vercel 은 안전성 분류기에서 OpenAI Luna 5.6 을 Jev 로 교체했고, 5배에서 18배까지 빨라지면서 정확도도 올랐다고 밝혔다.

"환각이 없다"는 말은 정확하지 않다

여기가 이 글에서 가장 조심해야 할 대목이다. TypeSafe 는 Jev 가 환각할 수 없다고 말한다. 맞는 말이지만, 사람들이 듣는 뜻과는 다르다.

보장되는 건 스키마 적합성이다. 출력이 내가 정의한 타입과 형식을 반드시 지킨다는 뜻이다. 의미적 정확성은 보장 대상이 아니다. 타입이 완벽하게 들어맞는 오분류는 얼마든지 가능하다. 오히려 파싱 에러라는 시끄러운 실패가 사라지고 조용한 오답만 남기 때문에, 잘못된 판단이 더 늦게 발견될 수 있다.

벤치마크도 그대로 받으면 안 된다. 193.6배라는 숫자는 공개 리더보드가 아니라 자사 워크플로 평가 4개에서 나왔고, 그 워크플로는 TypeSafe 의 모델 역량 팀이 직접 만들었다. 회사도 이 선택 편향을 문서에 적어뒀다. 더 걸리는 건 정답 레이블이다. 공식 평가의 기준 답은 사람이 만든 정답이 아니라 GPT-6 Astra 와 Claude Fable 5.1 의 고사고 응답 평균이다. 그 모델 계열에 유리하게 기울 수밖에 없는 설계다.

독립 검증은 아직 빈약하다. Every 의 테스트는 합성 지문 12개짜리 좁은 결함 탐지였고 약 25배가 나왔다. 200배와는 거리가 멀다. 과제를 바꾸면 순위도 뒤집힌다. 인보이스 처리 과제에서 Jev 는 61.8% 일치에 그쳐 비교 모델 Terra 의 74.7% 에 밀렸다. 베이스 모델도, 파라미터 수도, 학습 데이터도 공개되지 않았다. 가격과 레이턴시에는 SLA 가 없고, 회사 스스로 현재 가격이 보조되지 않았다는 걸 증명할 수 없다고 인정한다.

그래서 어디에 쓰고 어디에 쓰지 않을 것인가

비판을 다 적어놓고도 내 판단은 처음과 같다. 위 항목들은 대부분 "아직 검증이 덜 됐다"는 말이지 "구조가 틀렸다"는 말이 아니기 때문이다. 가격이 두 자릿수 배수로 내려가면 지금껏 포기했던 아키텍처가 열린다는 명제는, 벤치마크가 193.6배든 25배든 그대로 성립한다. 25배도 충분히 크다.

쓰지 말아야 할 곳은 비교적 또렷하다. 자유 텍스트 생성, 앞 답이 뒤 질문의 전제가 되는 다단 추론, 금융·법률·의료처럼 사람 감독 없이 결정이 확정되는 영역, 그리고 추론 과정을 감사 기록으로 남겨야 하는 경우다. 마지막 항목은 특히 오해하기 쉽다. 확률값은 근거가 아니다.

지금 시도해볼 자리는 이미 LLM 에게 분류를 시키고 있는 코드다. 라우팅, 스팸·안전 필터, 티켓 분류, 툴 호출 게이팅. 거기를 바꾸면 비용과 지연이 즉시 줄고, 틀려도 복구 가능하다. 반대로 Jev 를 도입한다고 없던 판단을 새로 만들 필요는 없다. 이건 LLM 의 대체재가 아니라, LLM 에게 시키면 안 됐던 일을 되찾아오는 모델이다.

참고 자료

• Introducing System One Models & Jev — TypeSafe AI 공식 발표 (2026-09-15)
• A new kind of AI model from a ChatGPT inventor is thrilling developers — TechCrunch (2026-09-18)
• Building a harness with Jev — LangChain
• Understanding Jev's "High Speed, Low Cost" — 공개 사양과 채택 경계에 대한 비판적 분석
• TypeSafe emerges from stealth with a new way of doing AI — DCVC