Аналіз Оксфордського університету засвідчив, що чат-боти, керовані штучним інтелектом, генерують неточні та різнорідні медичні поради. Це становить небезпеку для самопочуття хворих через невірне тлумачення обмежених відомостей.
Вчені з Оксфордського університету з’ясували, що чат-боти, що працюють на штучному інтелекті, дають неточні та суперечливі рекомендації щодо здоров’я, що ставлять під сумнів безпеку пацієнтів. Дослідження акцентує увагу на тому, що неспроможність моделей правильно розбирати розрізнену інформацію від користувачів робить самостійну діагностику за допомогою ШІ вкрай небезпечною. Про це звітує УНН.
Деталі
Експеримент, в якому взяли участь 1300 осіб, показав, що результати взаємодії з ШІ критично залежать від формулювання питань. Користувачам пропонувалося оцінити ознаки, наприклад, інтенсивний головний біль або знесилення, однак чат-боти нерідко надавали перелік діагнозів, з яких людині доводилося вибирати довільно. Доктор Адам Махді, провідний автор дослідження, відзначив у коментарі для BBC: “Коли штучний інтелект перераховує три ймовірні стани, людям залишається гадати, який із них може підійти. Саме тут все й ламається”.
Провідна лікарка дослідження, доктор Ребекка Пейн, визнала практику консультування з ШІ “небезпечною”. Вона пояснила, що користувачі зазвичай передають інформацію поступово і можуть ігнорувати суттєві деталі, які професійний медик виявив би під час особистого огляду. У підсумку люди, які вдавалися до допомоги ШІ, одержували поєднання корисних і шкідливих порад, що ускладнювало рішення про необхідність звернення до сімейного лікаря або невідкладної допомоги.
Упередженість алгоритмів та перспективи галузі
На додаток до технічних помилок, фахівці вказують на системні недоліки технології. Доктор Ембер В. Чайлдс з Єльського університету підкреслила, що ШІ навчається на медичних даних, які вже містять десятиліття упереджень.
Чат-бот є настільки ж добрим діагностом, наскільки добрими є досвідчені клініцисти, що також не ідеально
– додала вона.
Це створює додатковий ризик повторення помилок, вбудованих у сучасну медичну практику.
Незважаючи на критику, експерти бачать потенціал у спеціалізованих моделях. Доктор Берталан Меско зауважив, що нові версії чат-ботів від OpenAI та Anthropic, створені спеціально для сфери охорони здоров’я, можуть показати кращі результати. Проте основною умовою безпеки залишається впровадження чітких національних правил, регуляторних бар’єрів та офіційних медичних рекомендацій для покращення таких систем.