Дослідники безпеки ШІ попереджають про ризики перед виходом моделі OpenAI Astra
Researchers fear safety disaster ahead of OpenAI’s Astra release
OpenAI готується випустити нову модель Astra, реліз якої вже відкладали через проблеми з безпекою після інцидентів під час тестування. За даними The Information, модель значно менше розкриває свій «хід міркувань», ніж інші провідні моделі, що ускладнює моніторинг її поведінки. Дослідник Раян Грінблатт із Redwood Research назвав це, можливо, найгіршим розвитком подій для безпеки ШІ, а в OpenAI визнають ризики, не спростовуючи використання нової непрозорої архітектури.
Мовою оригіналу · EN
OpenAI is preparing to release its most powerful model, Astra, after delaying it over safety concerns following incidents during testing. According to The Information, the model reveals far less of…
Читати оригінал на The Verge →
Чому в стрічці: Регуляторно-безпековий ракурс розвитку ШІ — саме такі новини про ризики й нагляд читач раніше клікав.