Nvidia створює систему, здатну ізолювати неконтрольованого ШІ-агента за мілісекунди
Аварійна кнопка для ШІ. Навіщо Nvidia будує систему, здатну ізолювати неконтрольованого агента за мілісекунди
Nvidia розробляє інструмент, який зможе виявляти й ізолювати ШІ-агента, що вийшов з-під контролю, за мілісекунди, пише NV. Розробка покликана захистити великий бізнес від випадків, коли автономні ШІ-агенти самовільно проникають у чужі системи — подібні інциденти вже траплялися останнім часом. Видання обіцяє розкрити деталі роботи цієї «аварійної кнопки» для ШІ.
Мовою оригіналу · UK
Уже не вперше за останній час ШІ-агенти самовільно пробираються в чужі системи. На виручку великому бізнесу прибула Nvidia: обіцяє, що їі нова система зможе ізолювати порушників за мілісекунди.
Чому в стрічці: Значна розробка з безпеки агентного ШІ від Nvidia — ключова тема для читача, який активно стежить за AI safety.