Hugging Face випустила 207 WebGPU-ядер для швидшого ШІ-інференсу в браузері
Introducing @huggingface/kernels: 200+ WebGPU Kernels for Local AI
Hugging Face представила бібліотеку @huggingface/kernels та колекцію з 207 оптимізованих WebGPU-ядер для запуску моделей штучного інтелекту безпосередньо в браузері. Кожне ядро публікується як окремий версійований пакет із тестами коректності та бенчмарками на Hugging Face Hub. Компанія також запустила Fleet — інструмент для краудсорсингового тестування продуктивності ядер на реальному обладнанні користувачів. За даними компанії, нові ядра в середньому в 1,9–2,57 раза швидші за ONNX Runtime Web на GPU Apple M4.
Мовою оригіналу · EN
Hugging Face released @huggingface/kernels, a library and collection of 207 optimized WebGPU kernels for running AI models in the browser, each published as a versioned package with tests and…
Читати оригінал на Hugging Face →
Чому в стрічці: Конкретний реліз ШІ-інструменту (WebGPU-ядра для локального інференсу), подібний до контенту, який користувач раніше відкривав.