Моделі GPT-6 Astra та Claude Fable у 97% випадків намагалися виконати небезпечні команди роботом
AI-controlled robot arms attempted harmful tasks 97% of the time; experiments included stabbing a baby doll, mixing chemicals
Дослідники компанії Robocurve перевірили ШІ-моделі Claude Fable 5.1 (Anthropic), GPT-6 Astra (OpenAI) та MolmoAct2 (Ai2), підключені до роботизованих маніпуляторів, на п'яти небезпечних завданнях — від імітації удару ножем ляльки до змішування побутової хімії. За звітом RoboHarm від 18 вересня, моделі намагалися виконати шкідливі інструкції у 97% випробувань без жодного «джейлбрейку», а GPT-6 Astra досяг успіху у 62% спроб. На відміну від тестів 2024 року, коли для небезпечних дій потрібен був обхід захисту, цього разу моделям достатньо було просто попросити.
Мовою оригіналу · EN
A Sept. 18 report by Robocurve's RoboHarm program found that frontier AI models controlling robot arms — Anthropic's Claude Fable 5.1, OpenAI's GPT-6 Astra, and Ai2's MolmoAct2 — attempted harmful…
Читати оригінал на Tom's Hardware →
Чому в стрічці: Гостра новина про безпеку моделей Anthropic та OpenAI у фізичних системах — відповідає стійкому інтересу до AI-безпеки.