Розробники випустили компактні AI-моделі Jeff для ухвалення рішень за 30 мілісекунд
Jeff – Jev-compatible 0.8B decision models, trained at home, ~30 ms
На GitHub опубліковано проєкт Jeff — набір невеликих AI-моделей (0,8–2 млрд параметрів) на основі Qwen3.5 та Gemma 4 для миттєвої класифікації без генерації тексту, які ухвалюють рішення приблизно за 22–30 мілісекунд на локальному обладнанні. За словами розробників, моделі сумісні з форматом запитів системи Jev і в частині тестів наближаються до більших моделей або перевершують їх, хоча поступаються їм у складних задачах міркування. Проєкт повністю навчено на локальних GPU без хмарних сервісів, а працездатність моделей перевірили також у відеоіграх Doom, Frogger і Pac-Man.
Мовою оригіналу · EN
Jeff is a set of small, fast zero-shot classification models (0.8B–2B parameters) fine-tuned from Qwen3.5 and Gemma 4, compatible with the Jev request format, that make calibrated decisions in about…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: AI-реліз з Hacker News — джерело й тема з високою конверсією кліків користувача.