Nvidia випустила відкритий маршрутизатор PAIR для розподілу локальних AI-запитів
NVIDIA Releases Personal AI Router (PAIR): An Open Source Virtual Inference Router that Distributes Local AI Requests Across RTX, DGX Spark, and Mac Nodes
Компанія Nvidia представила Personal AI Router (PAIR) — безкоштовний інструмент з відкритим кодом, який розподіляє запити локальних ШІ-агентів між пристроями в домашній мережі, зокрема RTX, DGX Spark і Mac. За даними розробників, PAIR не створює новий інференс-двигун, а проксіює наявні інтерфейси Ollama та LM Studio, тож існуючі агентські застосунки не потребують змін. У демонстрації Nvidia розподілення навантаження між трьома пристроями скоротило час виконання завдання з 18 до майже 9 хвилин.
Мовою оригіналу · EN
NVIDIA released Personal AI Router (PAIR), an open-source virtual inference router that distributes local AI agent requests across RTX, DGX Spark, and Mac nodes on a home network. It proxies existing…
Читати оригінал на MarkTechPost →
Чому в стрічці: Новий інструмент Nvidia для локального ШІ напряму відповідає високому інтересу користувача до AI.