Есеїст пояснив, чому ШІ-моделі залишаються «стажерами», а не автономними працівниками
Why I'm still bearish on LLMs after Navier-Stokes
Автор есе на сайті dank.systems стверджує, що попри гучні демонстрації на кшталт доведення теореми Нав'є-Стокса, злому FreeBSD чи інциденту з Hugging Face, сучасні ШІ-моделі потребують ретельного нагляду навіть на простих завданнях. За його словами, моделі добре узагальнюють лише у вузькому колі задач, а проблему «зламу винагороди» (reward hacking) можна вирішити тільки через дороге й дефіцитне ретельне формулювання специфікацій експертами. На його думку, повністю автономні ШІ-агенти підійдуть лише небагатьом компаніям — тим, що можуть дешево помилятися, мають вузькі повторювані завдання або вже звикли до дорогої верифікації, як-от дизайн чипів чи розробка ліків.
Мовою оригіналу · EN
The author argues that despite headline AI demonstrations like the Navier-Stokes proof, FreeBSD RCEs, and the Hugging Face incident, frontier models still require heavy oversight even on simple…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Точно збігається з інтересом користувача до дебатів про межі автономності, контроль і ризики ШІ-агентів.