Чи завжди людина має контролювати ШІ: у медицині це може погіршувати результат

Людський контроль за роботою штучного інтелекту заведено вважати гарантією безпеки. Однак у медицині можуть виникати ситуації, коли ШІ самостійно виконує окреме завдання точніше, ніж лікар — і втручання людини лише додає нові помилки.

Про це пише Psychology Today із посиланням на експертний матеріал у медичному журналі JAMA.

Коли людський контроль не допомагає

Сьогодні ШІ переважно розглядають як інструмент, який аналізує інформацію або пропонує рішення, тоді як остаточний вибір залишається за лікарем. Така модель має виглядати безпечнішою, адже людина може помітити помилку системи.

Але автори порушують незручне питання: що буде, якщо ШІ в певному завданні вже працює точніше за лікаря?

У деяких дослідженнях автономна система показувала кращі результати не лише порівняно з лікарями, а й із фахівцями, які користувалися підказками ШІ. У таких випадках люди могли неправильно оцінювати рекомендації алгоритму, відхиляти правильні відповіді або додавати власні помилки.

Це не означає, що ШІ загалом здатний замінити лікаря. Більшість таких результатів отримано під час виконання окремих змодельованих завдань, а не в усій складності реальної клінічної практики.

Що станеться з навичками лікарів

Чим точнішими ставатимуть системи ШІ, тим частіше фахівці можуть покладатися на їхні висновки. Це створює іншу проблему — поступову втрату професійних навичок.

Клінічне мислення розвивається завдяки практиці. Якщо основну частину аналізу постійно виконує алгоритм, лікар отримує менше можливостей самостійно зіставляти симптоми, перевіряти гіпотези та помічати нетипові деталі.

У результаті система охорони здоров’я може працювати ефективніше, але окремі фахівці поступово втрачатимуть здатність ухвалювати складні рішення без технологічної підтримки.

Людина і ШІ помиляються по-різному

Штучний інтелект добре розпізнає закономірності у великих масивах даних, але може бути ненадійним у незвичних ситуаціях або тоді, коли новий випадок відрізняється від інформації, на якій його навчали.

Лікар також може помилятися, але його помилки мають інше походження. Досвідчений фахівець іноді помічає дрібну невідповідність, яка не вписується у звичну картину та вказує на рідкісний діагноз.

Тому питання полягає не лише в тому, хто частіше дає правильну відповідь. Важливо також розуміти, які помилки може допустити людина, які — машина та хто зможе їх вчасно розпізнати.

Якою має бути роль людини

Автор матеріалу пропонує не сприймати принцип «людина має залишатися в контурі ухвалення рішення» як універсальне правило.

Для одних завдань людське втручання справді може підвищувати безпеку. Для інших воно здатне знижувати точність системи. Тому роль лікаря потрібно визначати залежно від конкретного завдання, можливих ризиків та якості самого алгоритму.

Головне питання полягає вже не лише в тому, чи може ШІ дати кращу відповідь. Важливо вирішити, які форми людського мислення медицина не може дозволити собі втратити, навіть якщо машина працює точніше.