Дослідники пояснили, як зменшити галюцинації ШІ, дозволивши моделі визнавати помилки
AI Hallucinations Believed To Be Stoppable By Letting AI Know It Is Okay To Be Wrong Sometimes
За даними аналізу Forbes, галюцинації штучного інтелекту можуть виникати через те, що моделі змушені давати відповідь навіть тоді, коли достовірної відповіді не існує. Дослідники вважають, що дозволивши ШІ визнавати невпевненість або помилку, можна суттєво знизити кількість вигаданих відповідей. Це відкриває новий напрям у підвищенні надійності мовних моделей.
Мовою оригіналу · EN
Research suggests that AI hallucinations might be due to AI being pressured to give answers even when a viable answer isn't available. Allowing the AI to acknowledge it's okay to be wrong could help…
Читати оригінал на Forbes · Innovation →
Чому в стрічці: Дослідження про надійність і безпеку ШІ — стала зона активного інтересу читача.