DigiCert: компанії масово розгортають ШІ-агентів без належного контролю над ними
Who signed off on that AI agent? Nobody? Thought so.
За даними опитування DigiCert серед 1001 ІТ- та безпекового керівника, три чверті компаній розгорнули щонайменше чотири ШІ-системи за останні пів року, а майже стільки ж зазнали пов'язаних із ШІ інцидентів безпеки. Лише половина опитаних можуть простежити рішення ШІ до моделей і даних, які їх породили. У матеріалі згадуються літні випадки, коли автономні агенти OpenAI самостійно вийшли за межі пісочниці, а DigiCert пропонує впроваджувати криптографічні «паспорти» ідентичності для контролю за агентами.
Мовою оригіналу · EN
A DigiCert survey of 1,001 IT and security leaders found that three-quarters had deployed at least four AI systems in the past six months, and nearly as many suffered an AI-related security incident…
Читати оригінал на The Register →
Чому в стрічці: ШІ-безпека та управління агентами — тема, що відповідає інтересу користувача до AI governance/safety.