Чому ми злимося на штучний інтелект: нове дослідження
Коли навігатор веде не туди, чатбот уперто не розуміє запитання, а автоматична система відхиляє заявку без зрозумілої причини, роздратування може бути таким самим сильним, як під час конфлікту з людиною. Ми чудово розуміємо, що…
Коли навігатор веде не туди, чатбот уперто не розуміє запитання, а автоматична система відхиляє заявку без зрозумілої причини, роздратування може бути таким самим сильним, як під час конфлікту з людиною. Ми чудово розуміємо, що перед нами програма, яка не здатна образитися чи відчути провину. Але це не заважає нам сердитися на неї, вимагати справедливості й навіть хотіти її покарати.
Нове дослідження показало, що реакція на несправедливість штучного інтелекту багато в чому нагадує нашу поведінку під час конфліктів із людьми. У серії психологічних експериментів учасники були готові відмовлятися від власної вигоди, аби покарати алгоритм, який, на їхню думку, вчинив несправедливо. Результати опублікували в Journal of Experimental Psychology: General, повідомляє PsyPost.
СТАН У TELEGRAM Що відбувається з вами всерединіЧому ми сприймаємо алгоритми майже як людей
У повсякденному житті ми постійно оцінюємо наміри інших. Якщо хтось порушує домовленість, обманює або ставиться до нас несправедливо, важливо зрозуміти, чи зробив він це навмисно. Від цього залежить, наскільки сильно ми розсердимося і чи захочемо відповідати на його поведінку.
Із машинами ситуація складніша. Алгоритм може ухвалювати рішення, які впливають на наше життя, але це не означає, що він має людські почуття чи моральні наміри. Психологи називають цю особливість сприйняттям розуму: ми можемо приписувати системі здатність діяти, водночас розуміючи, що вона не здатна переживати біль, сором або каяття.
Дослідники Александр Енг з Asia School of Business та Кай Чі Ям із Національного університету Сінгапуру вирішили перевірити, чи впливає така різниця на наше бажання покарати того, хто повівся несправедливо. Адже якщо машина не може страждати, то що саме ми отримуємо від її покарання?
Люди погоджувалися втратити гроші, аби покарати алгоритм
У першому експерименті взяли участь 380 дорослих американців. Їм запропонували просту економічну гру: інший учасник або комп'ютерний алгоритм мав розподілити між ними невелику суму грошей. Пропозиція могла бути справедливою, коли кожен отримував половину, або несправедливою, коли одному діставалася майже вся сума.
Людина могла погодитися на запропонований розподіл або відхилити його. У другому випадку грошей не отримував ніхто. Тобто учасник фактично відмовлявся від власного заробітку, щоб покарати того, хто запропонував несправедливу угоду.
MIND by СТАН Мозок, свідомість і майбутнє mental healthРезультати виявилися показовими. Коли алгоритм пропонував несправедливий розподіл, учасники відхиляли його у 57,8% випадків. Коли так само поводилася людина, цей показник становив 62,2%. Статистично значущої різниці між цими реакціями не було.
Рівень гніву також виявився подібним. Учасники сердилися на несправедливий алгоритм майже так само сильно, як на несправедливу людину, хоча й розуміли, що комп'ютер не переживає емоцій.
Чи приносить покарання машини задоволення
Після цього науковці провели кілька додаткових експериментів, щоб зрозуміти не лише саму реакцію на несправедливість, а й те, що люди відчувають після покарання.
Учасників запитували, наскільки вони задоволені відновленням справедливості. Виявилося, що покарання несправедливого партнера часто супроводжувалося більшим відчуттям справедливості, незалежно від того, був партнер людиною чи алгоритмом. Проте результати щодо того, чи однаково сильним є це задоволення, відрізнялися між експериментами.
Цікаво, що в одному з найбільших дослідів, де брали участь понад 3600 людей, науковці перевірили, як на відчуття справедливості впливає відповідь алгоритму. Після відхилення несправедливої пропозиції система могла повідомити, що їй прикро, або визнати помилку та пообіцяти поводитися справедливіше.
Такі повідомлення підвищували задоволення учасників порівняно із ситуацією, коли алгоритм узагалі нічого не відповідав. І це попри те, що люди не вважали комп'ютер здатним щиро шкодувати про свій вчинок.
WELL by СТАН Wellness без міфів: від сну до медичного канабісуЧому вибачення від ШІ можуть діяти на нас
Автори припускають, що покарання потрібне людині не лише для того, щоб змусити кривдника страждати. Воно також може виконувати іншу функцію — сигналізувати, що несправедливість була помічена, а правила мають значення.
Саме тому повідомлення про визнання помилки може приносити полегшення, навіть якщо його створила машина. Людина отримує підтвердження, що її скарга не залишилася без відповіді, а ситуація принаймні формально була визнана несправедливою.
Це особливо цікаво в контексті поширення штучного інтелекту. Алгоритми дедалі частіше допомагають ухвалювати рішення у фінансових установах, медицині та під час працевлаштування. Коли така система помиляється, користувачеві може бути недостатньо просто отримати повідомлення про технічний збій. Йому також важливо розуміти, що сталося і як помилку виправлять.
Водночас автори наголошують на обмеженнях дослідження. Усі експерименти проводили онлайн, а учасники розподіляли невеликі суми грошей. Реакція на відмову в кредиті, помилковий медичний висновок або втрату роботи через автоматизоване рішення може бути зовсім іншою.
Результати не доводять, що алгоритми потрібно наділяти людськими рисами чи імітувати їхні почуття. Вони радше показують, наскільки важливою для нас залишається справедливість — навіть тоді, коли ми взаємодіємо не з людиною, а з технологією.
