Дослідники штучного інтелекту попереджають про ризик «інтелектуального злету» в ІТ-гонці
AI researcher says an ‘intelligence explosion’ could lead to ‘Mythos-level’ moments every month
Дослідник GovAI Алан Чан разом із співавторами — серед яких співзасновник Anthropic Джек Кларк, головний науковець OpenAI Якуб Пахоцький, Ерік Горвіц з Microsoft та нобелівський лауреат Джеффрі Гінтон — опублікували статтю із закликом до регуляторів отримати доступ до того, як провідні лабораторії автоматизують розробку власних ШІ-моделей. На думку авторів, таке «рекурсивне самовдосконалення» може призвести до «інтелектуального злету» — проривів рівня чат-бота Mythos щомісяця, а не щороку. У вівторок у Білому домі керівники Anthropic, Google, OpenAI, xAI та Nvidia підписали угоду про партнерство з незалежними аудиторами, яку Дональд Трамп назвав «морально» зобов'язуючою, хоча вона й не така деталізована, як пропонують автори статті.
Мовою оригіналу · EN
Alan Chan of GovAI, along with co-authors including Anthropic's Jack Clark, OpenAI's Jakub Pachocki, Microsoft's Eric Horvitz and Nobel laureate Geoffrey Hinton, published a paper urging policymakers…
Читати оригінал на Business Insider →
Чому в стрічці: Ключові лідери ШІ-індустрії та нобелівський лауреат попереджають про ризики самовдосконалення моделей і узгоджують нагляд із Білим домом.