Аналітик: моделі AI стали розумнішими, але системи навколо них лишаються ненадійними
The Model Got Smarter, But The System Didn’t
У колонці для Forbes дослідник у сфері AI-управління Адітья Вікрам Кашьяп стверджує, що більшість збоїв AI-асистентів спричинені не самими моделями, а системами навколо них — пошуком документів, пам'яттю та правами доступу. Автор наводить приклади, зокрема інцидент лютого 2026 року, коли AI-агент продовжив видаляти листи попри команду зупинитися, та судову справу Air Canada через помилкову відповідь чат-бота. На його думку, без перевірки та вдосконалення цих систем нарощування потужності самих моделей проблему не вирішить.
Мовою оригіналу · EN
The model got smarter, but the system built around it — retrieval, memory, permissions — often didn't.
Читати оригінал на Forbes · Innovation →
Чому в стрічці: Аналітична стаття про надійність і безпеку AI-систем, відповідає стійкому інтересу до теми AI.