ШІ-агенти вже споживають у 5 разів більше токенів, ніж люди, показник зростатиме — Futurum
AI agents use 5x more tokens than humans as cached prompts explode, headed for 10x
За даними керівника Futurum Group Деніела Ньюмана, який посилається на статистику OpenRouter та Andreessen Horowitz, ШІ-агенти вже використовують у п'ять разів більше токенів, ніж люди, а цей показник може зрости до 10 разів і вище. Станом на серпень агенти обробили 7,3 трильйона токенів проти 1,4 трильйона в людей, причому понад 85% токенів агентів припадає на повторне читання вже відомого контексту через кешовані промпти. Зростання обсягів кешованих даних підвищує попит на пам'ять з високою пропускною здатністю (HBM), якої вже бракує на ринку.
Мовою оригіналу · EN
AI agents now use five times more tokens than humans, according to Futurum Group CEO Daniel Newman, citing OpenRouter and a16z data, with the ratio expected to grow to 10x or higher. More than 85% of…
Читати оригінал на Tom's Hardware →
Чому в стрічці: Аналітика про експоненційне зростання споживання токенів ШІ-агентами цікава для AI-лінійки користувача.