Anthropic залучила Accenture як першого зовнішнього оцінювача безпеки своїх ШІ-моделей
Anthropic’s first embedded evaluator is … Accenture?
Anthropic оголосила, що співробітники консалтингової компанії Accenture — через її підрозділ Faculty, придбаний у січні, — почнуть працювати всередині лабораторії, оцінюючи та проводячи red-teaming моделей, тестуючи захисні механізми. Обидві компанії планують інвестувати у проєкт щонайменше $1 млрд протягом п'яти років. Вибір Accenture здивував спостерігачів ШІ-індустрії, а її акції після оголошення зросли на 8% на позаторгових сесіях. За словами Anthropic, найближчими тижнями буде названо інших оцінювачів, і вона веде переговори з організаціями типу METR щодо пілотування елементів такого нагляду.
Мовою оригіналу · EN
Anthropic announced that staff from consulting giant Accenture, via its AI unit Faculty (acquired in January), will work inside the company evaluating, red-teaming, and testing the safety of its…
Читати оригінал на TechCrunch →
Чому в стрічці: Це реалізація пропозиції Аморді щодо вбудованих оцінювачів ШІ — тема, яку користувач активно читає.