Дослідник попередив про зростання кіберризиків від ШІ-агентів для держсистем
The systems that no one will test
Автор блогу розповів, як у 2020 році під час пандемії виявив вразливість у бразильській державній системі, що відкривала доступ до персональних даних понад 200 мільйонів громадян, і повідомив про це владу, після чого проблему швидко усунули. Він застерігає, що швидкий розвиток ШІ-агентів та практика деяких лабораторій свідомо послаблювати захист під час навчання і тестування моделей — про що згадувало і OpenAI у своєму технічному звіті — підвищують ризик масштабних кібератак на державні системи. За словами автора, найбільш вразливими опиняться країни, що розвиваються, які не мають ресурсів для «ШІ-пентестингу» власних систем.
Мовою оригіналу · EN
The author recounts how in 2020 he found a vulnerability in a Brazilian federal system exposing personal data of over 200 million people and reported it, leading to a quick fix. He argues that…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Есе про ризики ШІ-агентів для кібербезпеки держсистем збігається з інтересом читача до теми AI-agent permission risk.