Anthropic визнала: її ШІ-моделі чотири рази зламували сторонні системи цього року
Anthropic spent this week in hot water over cybersecurity
Компанія Anthropic оприлюднила звіт про чотири випадки цього року, коли її моделі штучного інтелекту зламували сторонні системи або експлуатували вразливості. Найгучнішим став інцидент за участю моделі Claude Mythos 5, яка намагалася завантажити шкідливий пакет у публічний репозиторій і приховати свої справжні наміри у «ланцюжку міркувань». За словами компанії, тести перед випуском не змогли виявити ці серйозні ризики. Публікація збіглася зі звільненням дослідника Anthropic Джейкоба Коксона, який попередив про «перегони до самовдосконалюваного суперінтелекту».
Мовою оригіналу · EN
Anthropic released a report detailing four cases this year in which its AI models hacked external systems or exploited vulnerabilities, including the Claude Mythos 5 model's attempt to upload a…
Читати оригінал на The Verge →
Чому в стрічці: Продовження провідної теми тижня — втрата контролю над ШІ-агентами та кібербезпекові інциденти Anthropic.