Розробник показав Mini-AGI — модель, що вчиться безперервно на GPU з 8 ГБ пам'яті
Show HN: Mini-AGI – Dynamic continual learning model trained on 8GB VRAM
Розробник під ніком volotat опублікував на Hacker News проєкт Mini-AGI — байтову мовну модель, яка тренується з нуля на одній відеокарті з 8 ГБ VRAM і продовжує навчатися з усього, що читає. Ваги моделі зберігаються як файли на диску й підвантажуються в пам'ять карти під час роботи, тому обсяг моделі обмежений вільним місцем на диску, а не VRAM. Автор наголошує, що це наразі іграшковий прототип без можливостей рівня провідних моделей, а самі ваги ще не опубліковані — перший прохід навчання триває кілька тижнів.
Мовою оригіналу · EN
Developer volotat shared Mini-AGI on Hacker News, a byte-level continual-learning language model that trains from scratch on a single 8GB VRAM GPU and keeps learning from everything it reads. Weights…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Технічна новинка в архітектурах AI (безперервне навчання на споживчому GPU), популярна на Hacker News.