ChatGPT 공동개발자가 "글을 못 쓰는" 모델을 냈다 — 판단만 남기니 최대 400분의 1 값

X 첫 글 7일 전

ChatGPT를 함께 만든 디오고 알메이다가 2년간 숨어서 만들었다는 모델 Jev를 그제 공개했다. 내세운 숫자는 20~200배 빠르고 40~400배 싸다, 그리고 출력 토큰은 무료다. 무료인 이유가 핵심이다. 이 모델은 글을 쓰지 않는다. 기존 LLM은 "스팸인가 아닌가"를 판단할 때도 답을 글자 단위로 한 자씩 생성한다. Jev는 그 생성 루프를 아예 없애고 내부 표현에서 확률을 바로 뽑는다. API를 1만 번 찔러 내부 구조를 추정한 분석에 따르면 프롬프트를 읽자마자 추론이 끝나고, 선택지가 2개든 200개든 처리 시간이 거의 같다. 값이 400분의 1이 되는 건 모델이 작아서가 아니라 낭비를 걷어냈기 때문이다. 이틀 만에 사람들이 붙인 것들: PR 리뷰 1건에 0.00007달러(Opus 5로 하면 약 14.5달러), 목소리로 브라우저 조작 — 판단 1건에 300밀리초·0.0002달러, 스크린샷도 DOM도 안 보고 화면 요소만 읽어 맥 조작, LLM 없는 챗봇, 3D 환경에서 에이전트 500개를 평균 지연 500밀리초로 병렬 구동. 한 시간도 안 걸려 테슬라 완전자율주행을 다시 만들었다는 사람은 그걸 오픈소스로 풀었다. Cloudflare AI Gateway가 이틀 만에 올렸고 Laravel AI SDK에도 들어갔다. 그리고 어제, Jev 공개 20시간 뒤에 오픈소스 복제판 OpenJev가 GitHub에 올라왔다. 새 모델을 훈련한 게 아니라 기존 오픈웨이트 LLM의 추론 엔진을 손봐 같은 API를 그대로 따라 만든 것이다. 기법 자체가 특별히 감출 게 없다는 뜻이다. Claude Code와 Codex에 반년 안에 이런 기능이 기본으로 들어올 거라는 예측이 나오는 이유다.