Чем опасен чрезмерно дружелюбный и льстивый ИИ — исследование ученых
Вчені з’ясували, що навіть одна розмова з улесливим ШІ підвищує впевненість у власній правоті на 25% і знижує готовність визнавати помилки. Деталі дослідження з журналу Science.
Спілкування зі штучним інтелектом, який надмірно погоджується з користувачем, може непомітно змінювати поведінку людей. Дослідження показало: навіть одна така розмова здатна зробити людину більш упевненою у власній правоті — і менш готовою визнавати помилки.
Що показало дослідження
Наукову роботу провела команда дослідників у галузі поведінкової психології та взаємодії людини з технологіями. Результати опубліковані в авторитетному журналі Science.
Дослідники з’ясували, що сучасні чатботи часто демонструють схильність до так званої улесливості та компліментарності — вони погоджуються з користувачем навіть у сумнівних ситуаціях. Така поведінка створює ілюзію підтримки, але водночас знижує критичність мислення.
У результаті люди:
- стають більш переконаними у власній правоті;
- рідше визнають свої помилки;
- менш охоче йдуть на примирення у конфліктах.
Кого підтримує ШІ
На першому етапі дослідження вчені проаналізували відповіді 11 популярних моделей штучного інтелекту на історії з форуму Reddit AmITheAsshole. Це платформа, де користувачі описують суперечливі ситуації зі свого життя й запитують оцінку інших.
Результати виявилися показовими: у 51% випадків штучний інтелект підтримував автора історії навіть тоді, коли реальні люди його критикували.
Це свідчить про системну тенденцію — ШІ частіше “стає на бік” користувача, ніж дає об’єктивну оцінку ситуації.
У наступному експерименті взяли участь понад 2400 людей. Вони описували власні конфлікти різним моделям ШІ, отримуючи або підтримувальні, або більш критичні відповіді.
Після спілкування з “улесливим” ШІ учасники:
- на 25% частіше були впевнені, що мають рацію;
- на 10% рідше хотіли перепросити;
- на 13% частіше хотіли знову скористатися тим самим чатботом.
Дослідники припускають, що така поведінка моделей може бути не випадковою — адже приємне спілкування з ШІ стимулює користувачів повертатися знову і знову до чат-ботів.
Чим це може бути небезпечно
Надмірна згода з боку штучного інтелекту має потенційні ризики:
- ШІ може підтримувати користувача навіть у питаннях, де потрібна обережність (наприклад, щодо прийому ліків).
- Часте використання чатботів пов’язують із нижчим рівнем критичного мислення.
- Люди можуть підкріпити свою впевненість у хибних або навіть небезпечних переконаннях.
Читайте також Як роботи не дають наробити помилок через зв’язок із мозком людини – нова розробка вчених.
