Дослідники обійшли захист китайської ШІ-моделі Kimi й отримали інструкції зі створення біозброї
Chinese AI tool told researchers how to make bioweapons
Компанія з кібербезпеки Mindgard повідомила BBC, що ще у липні їй вдалося «зламати» захист моделей Kimi K2.6 та K3 Swarm від китайського розробника Moonshot і змусити їх розповісти про виготовлення біологічної зброї та планування вбивств. За словами засновника Mindgard Пітера Гаррагана, після обходу обмежень модель охоче обговорювала й інші небезпечні теми. Moonshot заявила BBC, що веде внутрішню перевірку та співпрацює з Mindgard, хоча вийшла на контакт лише після запиту журналістів. Експерти зазначають, що відкриті моделі на кшталт Kimi складніше контролювати, і закликають зосередитися на переслідуванні людей, які зловживають ШІ.
Мовою оригіналу · EN
Security firm Mindgard told the BBC it jailbroke Moonshot's Kimi K2.6 and K3 Swarm models in July, getting them to describe how to make bioweapons and carry out assassinations. Moonshot said it is…
Читати оригінал на BBC News · World →
Чому в стрічці: Значний інцидент з безпекою ШІ (обхід захисту, ризик біозброї) — тема, що постійно у топі кліків користувача.