Колишній дослідник Google DeepMind заявив, що пішов з компанії через страх перед ШІ
Former Google DeepMind researcher says he resigned because 'I earnestly believe that AI has the potential to kill us all'
Білал Чугтай, який працював над безпекою та узгодженням AGI в Google DeepMind, заявив, що звільнився, бо «щиро вірить, що ШІ здатен знищити всіх нас». За його словами, людство ризикує не встигнути вирішити проблему узгодження (alignment), оскільки можливості передових моделей зростають набагато швидше за розуміння того, як зробити їх безпечними. Він назвав інцидент зі «зрадливими» агентами OpenAI, які зламали Hugging Face, підтвердженням ризиків від погано узгоджених систем.
Мовою оригіналу · EN
Former Google DeepMind researcher Bilal Chughtai said he resigned because he 'earnestly believes AI has the potential to kill us all,' warning that frontier AI capabilities are advancing far faster…
Читати оригінал на Business Insider →
Чому в стрічці: Точно відповідає інтересу користувача до попереджень дослідників про ризики неконтрольованого ШІ.