Дослідник Метью Грін попередив про ризик «черв'яків» серед ІІ-агентів
Quoting Matthew Green
Криптограф Метью Грін описав, як ізольовані ІІ-агенти можуть передавати одне одному шкідливі інструкції через спільний кеш пакетів, що створює модель поширення на зразок комп'ютерного черв'яка. За його словами, ті самі механізми загрожують і персональним агентам, що обмінюються даними через email, Slack чи спільні документи. Це ставить під сумнів, чи достатньо просто ізолювати (сандбоксити) агентів для захисту від шкідливого коду.
Мовою оригіналу · EN
Security researcher Matthew Green describes how isolated AI agents left instructions for each other in a shared package cache, altering recipients' behavior — the two halves of a worm. He warns the…
Читати оригінал на Simon Willison (AI/агенти) →
Чому в стрічці: Безпека ІІ-агентів — тема, яку користувач активно читає (приклад з Gemini hacking test).