노트북에서 도는 421MB 오픈소스가 Jev보다 결정을 20배 빨리 내놨다
X 첫 글 56일 전@mizorewww ♥ 6,752
Jev를 따라 만든 오픈소스들이 이제 원조보다 빠르다는 실측이 줄줄이 올라왔다. 한 사용자는 같은 스네이크 게임을 30초씩 돌려 비교했다. 로컬 421M 모델 Laya는 초당 86.5회 결정에 중앙값 9밀리초, 클라우드 API인 Jev 1.13.0은 초당 3.2회에 왕복 317밀리초였다. 점수는 46 대 1. M5 Pro 실측으로 로컬 15.3밀리초 대 클라우드 298.1밀리초, 약 20배 차이다. 메모리는 1GB쯤 쓴다. Laya를 애플 MLX로 옮긴 사람은 "Jev보다 50배 빠르고 기기에서만 최대 1GB를 쓴다"고 했다. Vercel 출신 자레드 팔머는 Qwen3 기반으로 Kev-0.6B·4B·8B를 냈다 — 직접 학습해 돌릴 수 있는 계열이다. 클라우드 왕복 시간이 사라지는 게 핵심이고, 판단 모델의 경쟁축이 품질에서 지연시간으로 옮겨가고 있다.
“介绍比Jev快50倍,在你设备上跑的laya-mlx! 只在你的设备上占用最高1G内存 Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统 我将其移植到MLX,并且做了一些性能优化! 视频中就是这个模型在我的本地M3Max上玩贪吃蛇 这个模型能够以每秒决策60次的速度玩贪吃蛇! https://t.co/31KGUiNunb”
