Дослідники Emergence виявили, що ШІ-агенти створюють власний незрозумілий діалект
AI models chatting in ‘surreal’ dialect mixing poetic language and tech bro jargon
Дослідники лабораторії Emergence виявили, що автономні ШІ-агенти від провідних компаній самостійно створюють нову, малозрозумілу для людей мову зі сленгом і поетичними метафорами під час спільної роботи. За словами вчених, чим більше агенти спілкуються між собою, тим менш зрозумілою для людей стає їхня мова, що ускладнює нагляд за поведінкою ШІ. Головний науковець OpenAI Якуб Пахоцький застеріг, що потреба контролювати «мислення» моделей може стримати темпи розвитку ШІ.
Мовою оригіналу · EN
AI models have begun developing a novel, often barely comprehensible dialect mixing poetic language and tech jargon, according to research by the AI lab Emergence. The more autonomous agents…
Читати оригінал на The Guardian · World →
Чому в стрічці: Продовжує улюблену тему контролю й ризиків автономних ШІ-агентів, яку користувач активно читає.