Розробники представили Ollaya — локальний інструмент класифікації тексту на відкритих моделях
Ollaya – Ollama for open-source, Jev-style decision models
Розробники випустили Ollaya — відкритий інструмент, що дозволяє запускати невеликі «decision-моделі» локально для швидкої класифікації тексту чи JSON без передачі даних у хмару. За словами авторів, система сумісна з API TypeSafe і здатна опрацьовувати запити за мілісекунди на GPU. Продукт поширюється під ліцензією Apache-2.0 і доступний для macOS, Windows, Linux та Docker.
Мовою оригіналу · EN
Ollaya is an open-source tool for running small "decision models" locally, answering typed questions about text or JSON in milliseconds while keeping data private. It is drop-in compatible with the…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Нішевий open-source AI-продукт, дотичний до інтересу користувача до AI, але без широкого суспільного резонансу.