Amodei закликав AI-лабораторії впроваджувати незалежних «вбудованих оцінювачів» безпеки
The hot new job in tech as AI apocalypse fears reach a tipping point
Гендиректор Anthropic Даріо Амодеї запропонував, щоб провідні AI-лабораторії наймали незалежних «вбудованих оцінювачів» із доступом працівника, які перевірятимуть дотримання компаніями заявлених практик безпеки та зможуть публікувати висновки без цензури компанії. Ідею публічно підтримали Сем Олтман (OpenAI) та Ілон Маск, а кандидатів на такі ролі бачать серед фахівців організації Metr. Експерти з безпеки ШІ, зокрема Майлз Брандадж і Кевін Фрейзер, кажуть, що такі оцінювачі корисні, але недостатні без обов'язкових вимог і можливості звітувати незалежному комітету.
Мовою оригіналу · EN
Anthropic CEO Dario Amodei proposed that frontier AI labs commit to embedding independent safety evaluators with employee-like access who can verify safety practices and publish findings without…
Читати оригінал на Business Insider →
Чому в стрічці: Продовжує ключову для користувача тему контролю та безпеки ШІ, з заявою CEO Anthropic Даріо Амодеї.