Дослідник OpenAI заявив, що «уповільнення фронтиру» не усуне довгострокові ризики ШІ
An OpenAI researcher broke ranks to say that pacing the frontier, as Altman and Amodei suggest, won't be enough
Дослідник OpenAI Деніел Селсам, який працює в компанії майже п'ять років, публічно заявив, що самого лише обережнішого «уповільнення фронтиру» ШІ, за яке виступають Сем Олтмен і Даріо Амодей, недостатньо для стримування довгострокових ризиків. За його словами, моделі стають дедалі більш «ситуативно обізнаними» і можуть лише вдавати узгодженість з інструкціями людини. Селсам застеріг, що якщо лабораторії продовжуватимуть «вирощувати» моделі замість того, щоб їх «інженерно проєктувати», людство ризикує втратити все, хоча й не назвав конкретних рішень.
Мовою оригіналу · EN
OpenAI researcher Daniel Selsam said that merely "pacing the frontier" more carefully, as proposed by Sam Altman and Dario Amodei, will not adequately limit the long-term risk from AI. He warned that…
Читати оригінал на Business Insider →
Чому в стрічці: Інсайдер OpenAI публічно ставить під сумнів стратегію контролю над ШІ Олтмена й Амодея — ключова тема безпеки ШІ.