Науковці попередили про відсутність контролю за шкідливими медичними порадами чат-ботів
Missing chatbot records leave doctors struggling to trace harm from AI health advice
Дослідники з Бінгемтонського, Стенфордського та інших університетів у статті для Nature Health заявили, що шкода від помилкових медичних порад AI-чат-ботів залишається практично непомітною для лікарів і регуляторів. Як приклад вони навели випадок 60-річного чоловіка, який через пораду ChatGPT замінив кухонну сіль на бромід натрію і потрапив до лікарні з отруєнням. Автори закликають компанії відкрити користувачам доступ до їхніх медичних розмов із чат-ботами та запровадити систему скарг і незалежного контролю.
Мовою оригіналу · EN
A new paper warns that harmful AI chatbot health advice is structurally invisible to doctors, researchers and regulators.
Читати оригінал на Medical Xpress →
Чому в стрічці: Стосується безпеки й підзвітності AI-систем — тема, близька до інтересу користувача до AI-безпеки.