Науковці показали, що нейромережі та LLM неявно опираються на символьні структури
The Emergent Symbolic Structure of Artificial Neural Networks
Дослідники в статті на arXiv (автор Том Маккой та співавтори) продемонстрували, що внутрішні векторні представлення нейронних мереж, включно з великими мовними моделями, можна апроксимувати символьними структурами за допомогою замкненої формули, майже не змінюючи поведінку моделі. Це підтвердилося як для малих мереж, навчених обробляти списки, так і для LLM у сферах арифметики, логіки, програмного коду та мови. Автори також показали, що цілеспрямоване втручання у виявлені símvolні структури дозволяє передбачувано змінювати поведінку LLM, що підтверджує їхню функціональну роль.
Мовою оригіналу · EN
Researchers show that the internal vector representations of neural networks, including large language models, can be closely approximated by symbolic structures via a closed-form equation with…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Цікаве дослідження інтерпретованості LLM, що відповідає стійкому інтересу до теми AI.