Розробники випустили стиснуту модель Saluki 27B, що перевершує Qwen3.8-27B у виклику інструментів
Meet the Underdog Saluki 27B: A 2-bit Qwen3.8-27B That Beats the Original at Tool Calling
Компанія Underdog (Conway Research) представила Saluki 27B — 2-бітну квантовану версію моделі Qwen3.8-27B, яка займає лише 7,89 ГБ замість 54 ГБ у повній версії. За даними розробників, модель зберігає 96% середньої продуктивності за дев'ятьма тестами і навіть перевершує оригінал у виклику інструментів та паралельних викликах. Водночас найбільше падіння показників спостерігається в математичних тестах і складних багатокрокових міркуваннях. Модель випущена під ліцензією Apache 2.0 і працює у стандартному llama.cpp.
Мовою оригіналу · EN
Underdog Saluki 27B is a 2-bit GGUF of Qwen3.8-27B that beats the original at tool calling in under 8 GB.
Читати оригінал на MarkTechPost →
Чому в стрічці: Технічна AI-новина про ефективну компресію моделі — відповідає інтересу до досліджень та інструментів AI.