Автор блогу описав локальний AI-сервер на базі Mac mini M4 Pro з 48 ГБ пам'яті
My local model setup on an M4 Pro Mac Mini
Автор технічного блогу розповів, як налаштував локальний сервер для мовних моделей на Mac mini M4 Pro з 48 ГБ пам'яті, використовуючи моделі Qwen3.6-35B-A3B та Gemma-4-E4B через інференс-сервер oMLX. За його словами, локальний запуск дає передбачувані витрати, приватність даних, офлайн-роботу та незалежність від змін політики хмарних провайдерів, а мережа Tailscale об'єднує всі його пристрої.
Мовою оригіналу · EN
The author describes running local LLMs (Qwen3.6-35B-A3B and Gemma-4-E4B) on an M4 Pro Mac mini with 48GB of RAM using the oMLX inference server, accessed across devices via Tailscale. He argues…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Конкретний технічний кейс локального запуску LLM — збігається зі стійким інтересом читача до практичних AI-розробок.