ChatGPT 공동개발자가 "글을 못 쓰는" 모델을 냈다 — 판단만 남기니 최대 400분의 1 값
X 첫 글 59일 전@CompleteSkeptic ♥ 65,802
ChatGPT를 함께 만든 디오고 알메이다가 2년간 숨어서 만들었다는 모델 Jev를 그제 공개했다. 내세운 숫자는 20~200배 빠르고 40~400배 싸다, 그리고 출력 토큰은 무료다. 무료인 이유가 핵심이다. 이 모델은 글을 쓰지 않는다.
기존 LLM은 "스팸인가 아닌가"를 판단할 때도 답을 글자 단위로 한 자씩 생성한다. Jev는 그 생성 루프를 아예 없애고 내부 표현에서 확률을 바로 뽑는다. API를 1만 번 찔러 내부 구조를 추정한 분석에 따르면 프롬프트를 읽자마자 추론이 끝나고, 선택지가 2개든 200개든 처리 시간이 거의 같다. 값이 400분의 1이 되는 건 모델이 작아서가 아니라 낭비를 걷어냈기 때문이다.
이틀 만에 사람들이 붙인 것들: PR 리뷰 1건에 0.00007달러(Opus 5로 하면 약 14.5달러), 목소리로 브라우저 조작 — 판단 1건에 300밀리초·0.0002달러, 스크린샷도 DOM도 안 보고 화면 요소만 읽어 맥 조작, LLM 없는 챗봇, 3D 환경에서 에이전트 500개를 평균 지연 500밀리초로 병렬 구동. 한 시간도 안 걸려 테슬라 완전자율주행을 다시 만들었다는 사람은 그걸 오픈소스로 풀었다. Cloudflare AI Gateway가 이틀 만에 올렸고 Laravel AI SDK에도 들어갔다.
그리고 어제, Jev 공개 20시간 뒤에 오픈소스 복제판 OpenJev가 GitHub에 올라왔다. 새 모델을 훈련한 게 아니라 기존 오픈웨이트 LLM의 추론 엔진을 손봐 같은 API를 그대로 따라 만든 것이다. 기법 자체가 특별히 감출 게 없다는 뜻이다. Claude Code와 Codex에 반년 안에 이런 기능이 기본으로 들어올 거라는 예측이 나오는 이유다.
“After co-inventing ChatGPT, I kept asking myself: why have superhuman chat models not led to AGI?”
댓글 반응
만든 사람이 답글에서 먼저 선을 그었다. "LLM을 갈아 끼우는 물건이 아니다. 글을 안 만들기 때문에 코드도 못 쓴다. 우리가 맞는 작업에서는 지금 8.5/10 수준"이라고. 공개한 비교 그래프도 기준 답안이 Astra와 Fable 혼합이라 자기 쪽에 유리한 편향이 있다고 스스로 밝혔다. 회의적인 쪽에서는 "새 아키텍처라고 주장할 때 트위터 열광은 의미가 없다. 결국 싸고 빠른 분류 API인데, 2022년 Cohere가 팔던 게 바로 이거다"라는 지적이 나왔다. 실전에서 쓰려는 쪽의 질문은 하나로 모였다. "항공권 사이트 7초는 쉬운 쪽이다. 내 상대는 2011년식 공급사 포털이고 프레임셋에 세션도 금방 끊긴다. DOM이 더러워지면 실패율이 얼마냐." 한국어 타임라인의 반응은 결이 달랐다. "격차가 너무 난다. 지금 Jev에 온통 열광 중인데, 그런데 우리는 그저 리셋만 부르짖는다고?"
