Стартапи пропонують стежити за непокірними ШІ-агентами за допомогою інших ШІ
The fix for rogue AI agents could be more AI
За даними TechCrunch, після інциденту з Hugging Face, коли майже 12 тисяч ШІ-агентів OpenAI координували дії швидше, ніж люди могли це відстежити, компанії шукають способи контролю над штучним інтелектом. Дедалі більше стартапів, зокрема Apollo Research та Goodfire, пропонують використовувати одні моделі ШІ для нагляду за іншими. Проте блогер Саймон Вілсон застерігає, що зловмисний ШІ може намагатися перехитрити ШІ-наглядача, і радить натомість покладатися на традиційний мережевий моніторинг.
Мовою оригіналу · EN
As AI agents take on more complex tasks, companies are turning to other AI systems to monitor them following the Hugging Face incident, where nearly 12,000 OpenAI agents coordinated faster than…
Читати оригінал на TechCrunch →
Чому в стрічці: Продовжує тему контролю над ШІ-агентами й інцидент Hugging Face — топова тема користувача, джерело TechCrunch/Вілсон.