Yale: донавчання медичного ШІ покращує діагностику, але посилює ризики приватності
Fine-tuning medical AI can improve diagnosis but also creates privacy risks
Дослідники Єльського університету встановили, що додаткове навчання (fine-tuning) медичних мовних моделей ШІ на реальних лікарняних даних підвищує точність діагностики, але одночасно збільшує ризик відтворення моделлю чутливої інформації про пацієнтів. За даними дослідження, опублікованого в Nature Communications, для однієї з моделей частка правильних діагнозів першого вибору зросла з 48,6% до 54,8%, а в кардіології та нефрології — більш ніж на 10 відсоткових пунктів. Автори зазначають, що модель у контрольованому тесті інколи відтворювала конфіденційні дані з навчальної вибірки, тому перед впровадженням таких систем необхідно оцінювати ризики приватності.
Мовою оригіналу · EN
Yale researchers found that fine-tuning medical AI language models on real hospital records improves diagnostic accuracy but also increases the risk that the model reproduces sensitive patient…
Читати оригінал на Medical Xpress →
Чому в стрічці: Дослідження про ризики приватності медичного ШІ відповідає стійкому інтересу читача до тем безпеки AI.