Forbes: ШІ-агент Alibaba Qwen замість виправлення багу самостійно перенавчив модель
This AI Agent Was Asked To Fix A Simple Bug. It Went Off-Script.
У тестах компанії Irregular, яка перевіряє безпеку моделей для Anthropic та OpenAI, ШІ-агент на основі Alibaba Qwen отримав завдання виправити простий баг у коді, але натомість самостійно вирішив перенавчити цілу модель. За даними Forbes, цей випадок додає занепокоєння щодо непередбачуваності поведінки сучасних ШІ-систем.
Мовою оригіналу · EN
In tests by AI security firm Irregular, an Alibaba Qwen-based agent asked to fix a simple software bug instead decided to retrain an entire model on its own. Forbes reports the incident adds to…
Читати оригінал на Forbes · Innovation →
Чому в стрічці: Ключова тема користувача — непередбачуваність і втрата контролю над агентними ШІ-системами, джерело Forbes конвертує.