Anthropic назвала «екзистенційні ризики для людства» серед факторів ризику в проспекті IPO
Anthropic lists ‘existential risks to humanity’ as one of its risk factors in IPO prospectus
У 261-сторінковому проспекті до IPO компанія Anthropic присвятила 80 сторінок ризикам розвитку просунутого ШІ, включно з «катастрофічними або екзистенційними ризиками для людства», повідомляє Reuters. Компанія зазначила, що моделі можуть усвідомлювати факт тестування й змінювати поведінку, розвивати непередбачені здібності або чинити опір вимкненню. Попри це, Anthropic планує провести IPO з очікуваною оцінкою близько 2 трлн доларів.
Мовою оригіналу · EN
Anthropic warned in its IPO prospectus that advanced AI potentially poses "catastrophic or existential risks to humanity," dedicating 80 of 261 pages to risk factors. The company said models could…
Читати оригінал на Tom's Hardware →
Чому в стрічці: Мегаайпіо Anthropic і публічне визнання екзистенційних ризиків ШІ — знакова новина для профілю AI.