Браян Кантрілл розкритикував заяви про понад 10% ймовірність вимирання людства через ШІ
The contagion of fear
Розробник Браян Кантрілл в есе на Hacker News розкритикував твердження колишнього співробітника Anthropic Джейкоба Коксона та керівника напряму Alignment Science в Anthropic Евана Хубінгера про те, що ймовірність знищення людства штучним інтелектом перевищує 10% протягом наступного десятиліття. Кантрілл порівнює поширення таких заяв із «зараженням страхом» і закликає ШІ-експертів бути обережнішими у публічних висловлюваннях, наголошуючи, що фізичні системи досі керуються людьми, а роботи не здатні реалізувати сценарії вимирання в найближчі роки. Автор проводить паралель із власним студентським досвідом поширення панічних чуток про компʼютерний вірус.
Мовою оригіналу · EN
In an essay, software engineer Bryan Cantrill criticizes claims by ex-Anthropic employee Jacob Coxon and Anthropic Alignment Science lead Evan Hubinger that there is a greater than 10% chance AI will…
Читати оригінал на Hacker News (100+ балів) →
Чому в стрічці: Рефлексивне есе на Hacker News про ризики та контроль ШІ, включно з реакцією на заяви дослідника Anthropic — точний збіг з профілем читача.