Хінтон та інші лідери ШІ: «аварійний вимикач» не зупинить надрозумний ШІ, що вийшов з-під контролю
Tech leaders say a kill switch won't be enough to stop rogue superintelligent AI
Провідні дослідники штучного інтелекту, зокрема Джеффрі Хінтон, заявили, що аварійний «вимикач» не гарантує зупинку надрозумного ШІ, який вийшов з-під контролю, пише Business Insider. За словами Хінтона, надрозумна система зможе переконати людей не тиснути на кнопку вимкнення. Голова Anthropic Даріо Амодей та співзасновник компанії Джек Кларк назвали такий вимикач лише одним із рівнів захисту, а не панацеєю. Тим часом сенатор Ренд Пол заблокував у Конгресі законопроєкт, що вимагав би обов'язкової наявності такого механізму в потужних ШІ-системах.
Мовою оригіналу · EN
AI leaders including Geoffrey Hinton warn that an emergency kill switch may not be enough to stop a rogue superintelligent AI, since such a system could persuade humans not to use it, Business…
Читати оригінал на Business Insider →
Чому в стрічці: Головна ШІ-тема дня: дебати про контроль і безпеку надрозумного ШІ, збігається з профілем читача.