Strata дозволяє запускати 125-мільярдну модель Qwen3.8 на звичайній відеокарті
Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
Розробники випустили безкоштовний застосунок з відкритим кодом Strata, який дозволяє запускати 125-мільярдну модель Qwen3.8-Flash-Next на звичайному ігровому ПК з відеокартою від 12 ГБ пам'яті. За даними проєкту, швидкість генерації відповідей сягає від 44 до 94 токенів за секунду залежно від конфігурації обладнання. Інструмент розподіляє обчислення між відеокартою, оперативною пам'яттю та процесором, що дозволяє обійтися без серверного «заліза».
Мовою оригіналу · EN
Strata runs the 125B Qwen3.8-Flash-Next AI model on a normal gaming PC with a 12GB+ GPU, free and open source.
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Конкретний open-source AI-інструмент з Hacker News — формат, який користувач часто відкриває в оригіналі.