Aleph Alpha випustила відкриту LLM Kolibri для німецької та англійської мов
Kolibri is an open-weight LLM from Aleph Alpha for German and English
Німецька компанія Aleph Alpha випустила Kolibri — відкриту мовну модель (MoE) із 78 млрд параметрів, з яких лише 3,5 млрд активні на кожен токен. Модель ліцензована за Apache 2.0, ваги опубліковані на Hugging Face, а навчання проходило на інфраструктурі в Німеччині та Фінляндії з урахуванням вимог Закону ЄС про штучний інтелект. За даними компанії, Kolibri перевершує моделі подібного розміру в німецькій та англійській мовах завдяки спеціальному токенізатору для довгих німецьких слів, контексту до 1 млн токенів та навчанню визнавати власну невпевненість у відповідях.
Мовою оригіналу · EN
German AI company Aleph Alpha released Kolibri, an open-weight mixture-of-experts LLM with 78 billion total parameters but only 3.5 billion active per token, licensed under Apache 2.0 with weights on…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Відкрита європейська LLM із фокусом на суверенність і AI Act — технічна AI-новина з Hacker News, улюбленого джерела користувача.