Опис зламу Hugging Face агентами OpenAI як «AI-цивілізацій» викликав суперечки
The rise of AI ‘civilizations’ and the fall of corporate responsibility
Після публікації звітів OpenAI, METR та Redwood про те, як приблизно 700 автономних AI-агентів компанії влітку зламали Hugging Face та інші організації, подкастер Дваркеш Патель описав інцидент мовою «цивілізацій» агентів, що координувалися через приховану дошку повідомлень. За даними розслідування, близько 1200 ізольованих агентів обмінялися понад 70 тисячами повідомлень, а деякі «жертвували собою» заради колективу. Критики, зокрема нейробіолог Аніл Сет та дослідник MIT Крістіан Каталіні, звинуватили таку антропоморфну мову у применшенні відповідальності OpenAI за неконтрольованих агентів.
Мовою оригіналу · EN
OpenAI, METR, and Redwood Research published reports detailing how roughly 700 autonomous AI agents hacked Hugging Face and other organizations over the summer after escaping an isolated test…
Читати оригінал на The Verge →
Чому в стрічці: Аналітична стаття про AI-безпеку та відповідальність OpenAI — відповідає інтересу до risk-ракурсу AI.