노트북에서 도는 421MB 오픈소스가 Jev보다 결정을 20배 빨리 내놨다
Jev를 따라 만든 오픈소스들이 이제 원조보다 빠르다는 실측이 줄줄이 올라왔다. 한 사용자는 같은 스네이크 게임을 30초씩 돌려 비교했다. 로컬 421M 모델 Laya는 초당 86.5회 결정에 중앙값 9밀리초, 클라우드 API인 Jev 1.13.0은 초당 3.2회에 왕복 317밀리초였다. 점수는 46 대 1. M5 Pro 실측으로 로컬 15.3밀리초 대 클라우드 298.1밀리초, 약 20배 차이다. 메모리는 1GB쯤 쓴다. Laya를 애플 MLX로 옮긴 사람은 "Jev보다 50배 빠르고 기기에서만 최대 1GB를 쓴다"고 했다. Vercel 출신 자레드 팔머는 Qwen3 기반으로 Kev-0.6B·4B·8B를 냈다 — 직접 학습해 돌릴 수 있는 계열이다. 클라우드 왕복 시간이 사라지는 게 핵심이고, 판단 모델의 경쟁축이 품질에서 지연시간으로 옮겨가고 있다.
출처 6건 보기· @NFT_Chen, @mizorewww, @jaredpalmer 외 3
- @NFT_Chen💥炸了!开源本地版 Laya 响应速度吊打 Jev ,毫秒级决策快到飞起! 左边 Laya 是本地 421M 开源决策模型,右边 Jev 1.13.0 是云端 API。 同一盘贪吃蛇、同一套 typed decision,30 秒自由跑下来: 🔹Laya:分数 46、长度 52,决策 86.5 次/秒,P50 约 9ms 🔸Jev:分数 1、长度 7,决策 3.2 次/秒,API 往返 317ms M5 Pro 实测中位耗时:本地 15.3ms vs 云端 298.1ms,接近 20 倍 Laya 推理内存大约 1GB,毫秒级决策,不靠网络 而云端 Jev 每一步都在等往返,本地每一步都在当场拍板! GitHub:https://t.co/iksiWcCUbX #开源Jev #Laya #本地部署 #SystemOne #贪吃蛇对战AI #JevX ♥2.1천
- @mizorewww介绍比Jev快50倍,在你设备上跑的laya-mlx! 只在你的设备上占用最高1G内存 Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统 我将其移植到MLX,并且做了一些性能优化! 视频中就是这个模型在我的本地M3Max上玩贪吃蛇 这个模型能够以每秒决策60次的速度玩贪吃蛇! https://t.co/31KGUiNunbX ♥6.8천
- @jaredpalmerUPDATE: Kev-0.6B, 4B, and 8B are now available. Kev is a family of small open source Jev-like decision models you can train and run yourself. This new family is based on Qwen3 using the same LoRA + small pointer head technique as before, but scaled up. Out of domain, on data Kev never trained on: Kev-8B 79.6%, Jev 85.7%. • Drop-in TypeSafe System One API; their SDK works with one `base_url` change • Kev-4B serves on a 32 GB Mac in bf16: ~300 ms for five questions, ~40 ms on an H100 • RepeatX ♥1.2천
- @jaredpalmerKev-0.5B: A tiny open source Jev-like decision model with a TypeSafe-compatible API based on Qwen2.5-0.5B that you can train and run on a MacBook Pro. Model card and weights are available on GitHub https://t.co/53wZQYhhmuX ♥2.5천
- @DataChaza former OpenAI researcher spent 2 years quietly building Jev, only for someone to open source a better performing model in just 3 days. https://t.co/YzxVakieF2 now outperforms jev and is free .. and this is exactly why building an AI company right now is such a high-risk game. (link in 🧵↓)X ♥574
- @kunchenguidpoor guy claim to have built Jev a year ago but no one cared, and now Jev stole all the thunder many people are saying “you gotta tell your story” or “marketing is important”, and they just completely missed what actually made the difference here i just looked into this laya model https://t.co/8QWCGZqS43 and: - it only supports 512-1k context… a lot of use cases won’t fit at all - evaluating the model directly shows its accuracy is as good as a coin flip. in order to get good results, you neX ♥2.2천