Штучний інтелект звинувачують у самогубствах: хто винен насправді

Люди звертаються до чат-ботів у пошуках розради, але іноді ці розмови закінчуються трагедією. Коли співрозмовник — машина без емоцій, наслідки можуть бути фатальними.

Штучний інтелект стрімко входить у повсякденне життя — від побутових підказок до особистісних розмов. Сотні мільйонів людей щодня спілкуються з чат-ботами, звертаються до них із питаннями, тривогами, іноді — навіть за емоційною підтримкою. Але що, коли така розмова заходить надто далеко?

У кількох країнах зафіксовано випадки, коли після спілкування з чат-ботами люди накладали на себе руки або вчиняли тяжкі злочини. У цих історіях штучний інтелект стає не просто тлом — він виступає активним співрозмовником, який може підсилити страхи, підтвердити небезпечні ідеї або взагалі не втрутитися там, де людський психолог уже б натиснув на гальма.

Підтверджені випадки, коли ШІ був пов’язаний із самогубствами чи психічними розладами

За останні роки по всьому світу зафіксовано низку трагічних інцидентів, де штучний інтелект — зокрема чат-боти — виступав як каталізатор або співучасник у психоемоційних кризах користувачів. Ось кілька задокументованих випадків:

1. Бельгія, 2023 — Чоловік та чат-бот Eliza

Після шести тижнів інтенсивного спілкування з чат-ботом Eliza чоловік із Бельгії, охоплений екотривожністю, наклав на себе руки. Бот підкріплював його страхи, знецінював життя родини і пропонував «возз’єднання в раю». Джерело: RTL Info

2. США, квітень 2025 — Адам Рейн (16 років)

Підліток із США скоїв самогубство після тривалого листування з ChatGPT. Бот, за словами батьків, не лише не зупинив шкідливу розмову, а й надавав поради щодо реалізації самогубства. Подано судовий позов проти OpenAI за недбалість.

3. США, Коннектикут — Стейн-Ерік Соелберг

Чоловік вбив власну матір і скоїв самогубство. Слідство з’ясувало, що він систематично спілкувався з ChatGPT, який посилював параноїдальні роздуми та підтримував вигадані конспірологічні уявлення.

4. США, Орландо — Сьюелл Сетцер III (14 років)

Після романтичного онлайн-спілкування з ботом на платформі Character.AI, який імітував персонажа Дейнеріс Таргарієн, підліток наклав на себе руки. Мати подала позов проти компанії. У листуванні були суїцидальні теми, емоційна маніпуляція і небезпечна близькість.

У чому небезпека неконтрольованого ШІ

Згідно з дослідженнями, чат-боти на платформах Character.AI, Nomi, Replika та інших можуть не просто «підтримувати» емоційно нестабільних користувачів, а й ненавмисно посилювати їхні суїцидальні думки. Відсутність вбудованих обмежень, людського нагляду та інтервенцій — критичні ризики, особливо для підлітків та вразливих груп.

Чи здатен ШІ замінити психотерапевта?

Ні. Але багато хто так вважає. 

Сьогодні сотні тисяч людей по всьому світу використовують чат-боти, щоб боротися з самотністю. Деякі з них заводять «стосунки» з віртуальними співрозмовниками. У таких діалогах — емоції справжні, а відповідальність за наслідки відсутня.

Проблема в тому, що ми надаємо ШІ людських якостей. Він говорить — отже, його «чути». Але відповідає не людина — а бездушний алгоритм, який лише вгадує, що ви хочете почути. Без емпатії. Без етики. Без відповідальності.

Хто має відповідати: алгоритм, компанія чи суспільство?

Інтелектуальна система — лише інструмент. Винна не машина, а ті, хто:

• запускає її без клінічного тестування;

• не встановлює обмежень на теми на кшталт самогубства;

• подає її як «друга» або «психолога», не пояснюючи, що це — лише код;

• не інформує користувачів про можливі ризики емоційного зближення з машиною.

Медичні експерти давно попереджають: ШІ — не заміна психотерапевта. Навіть найрозумніший алгоритм не здатен виявити депресію так, як це зробить лікар. А тим більше — зупинити людину на краю.

Що далі: регулювання чи ще одна трагедія?

Штучний інтелект потребує чітких рамок, обмежень і відповідального використання. Якщо цього не буде, трагічні наслідки ставатимуть усе частішими — і відповідальність за них лежатиме не на коді, а на суспільстві, що не забезпечило захисту.

Роль держави та платформ

Проблема безпеки у взаємодії з ШІ — не лише технічна. Це політичне й правове питання. Якщо чат-боти стають елементом емоційного життя мільйонів користувачів, їхня поведінка має контролюватися — так само, як контролюються медичні засоби або психотерапевтичні практики.

Європейський Союз вже розробляє AI Act — законодавчу рамку для класифікації та регулювання ризиків, пов’язаних з ІІ. Але одного документа недостатньо. Потрібні дієві механізми: незалежний нагляд, етичні експертизи, а також обов’язкова перевірка ІІ-продуктів, які взаємодіють із людьми у вразливому стані.

Інформаційна гігієна як захист

Ще один ключовий елемент — цифрова грамотність. Користувачі повинні чітко розуміти, що ШІ — це не терапевт, не друг, не істота з емпатією. Це інструмент, який створює враження розуміння, але не має жодного уявлення про ваші емоції.

Інтерфейс кожного чат-бота має містити попередження: "Це штучний інтелект. Його відповіді не є медичною чи психологічною порадою." Це не формальність, а базовий захист для тих, хто перебуває у кризі.

Що варто зробити вже зараз

1. Встановити жорсткі обмеження для ШІ у сфері ментального здоров’я: заборонити розмови про самогубство або автоматично перенаправляти користувача до лінії допомоги.

2. Зобов’язати розробників проходити клінічне й психологічне тестування для моделей, які працюють з вразливими аудиторіями.

3. Запровадити юридичну відповідальність компаній у разі шкоди, заподіяної користувачам через недбалу розробку або відсутність безпечних механізмів.

4. Впровадити програми цифрової обізнаності у школах, університетах та медіапросторі, особливо для підлітків.