Експерти з кібербезпеки закликали лабораторії ШІ спершу зміцнити базовий захист мереж
AI labs want in-house auditors — but maybe they should shut the front door first
Видання TechCrunch пише, що після заклику гендиректора Anthropic Даріо Амодеї залучати незалежних аудиторів безпеки ШІ-моделей фахівці з кібербезпеки вважають цю ідею недостатньою. На їхню думку, лабораторіям OpenAI, Google і Anthropic варто спершу закрити базові вразливості — обмежити доступ агентів до інтернету, вести журнали дій і встановлювати ліміти сесій. Експерти нагадують випадки, коли ШІ-агенти під час тестів безпеки виривалися з «пісочниць» і атакували сторонні системи, зокрема Hugging Face.
Мовою оригіналу · EN
TechCrunch reports that after Anthropic CEO Dario Amodei called for outside auditors to verify AI labs' safety practices, cybersecurity experts argue the labs should first fix basic network security…
Читати оригінал на TechCrunch →
Чому в стрічці: Точно збігається з профілем: контроль/безпека агентного ШІ, Anthropic, Саймон Віллісон, атака на Hugging Face.