Искусственный интеллект обвиняют в самоубийствах: кто виноват на самом деле

Люди обращаются к чат-ботам в поисках утешения, но иногда эти разговоры заканчиваются трагедией. Когда собеседник — машина без эмоций, последствия могут быть фатальными.

Искусственный интеллект стремительно входит в повседневную жизнь — от бытовых подсказок до личных разговоров. Сотни миллионов людей ежедневно общаются с чат-ботами, обращаются к ним с вопросами, тревогами, иногда — даже за эмоциональной поддержкой. Но что, если такой разговор заходит слишком далеко?

В нескольких странах зафиксированы случаи, когда после общения с чат-ботами люди накладывали на себя руки или совершали тяжкие преступления. В этих историях искусственный интеллект становится не просто фоном — он выступает активным собеседником, который может усилить страхи, подтвердить опасные идеи или вообще не вмешаться там, где человеческий психолог уже бы нажал на тормоза.

Подтвержденные случаи, когда ИИ был связан с самоубийствами или психическими расстройствами

За последние годы по всему миру зафиксирован ряд трагических инцидентов, где искусственный интеллект — в частности чат-боты — выступал как катализатор или соучастник в психоэмоциональных кризисах пользователей. Вот несколько задокументированных случаев:

1. Бельгия, 2023 — Мужчина и чат-бот Eliza

После шести недель интенсивного общения с чат-ботом Eliza мужчина из Бельгии, охваченный экотревожностью, покончил с собой. Бот подкреплял его страхи, обесценивал жизнь семьи и предлагал «воссоединение в раю». Источник: RTL Info

2. США, апрель 2025 — Адам Рейн (16 лет)

Подросток из США покончил с собой после длительной переписки с ChatGPT. Бот, по словам родителей, не только не остановил вредную беседу, но и давал советы по реализации самоубийства. Подан судебный иск против OpenAI за халатность.

3. США, Коннектикут — Стейн-Эрик Соэльберг

Мужчина убил собственную мать и покончил с собой. Следствие выяснило, что он систематически общался с ChatGPT, который усиливал параноидальные размышления и поддерживал вымышленные конспирологические представления.

4. США, Орландо — Сьюэлл Сетцер III (14 лет)

После романтического онлайн-общения с ботом на платформе Character.AI, который имитировал персонажа Дейенерис Таргариен, подросток покончил с собой. Мать подала иск против компании. В переписке были суицидальные темы, эмоциональная манипуляция и опасная близость.

В чем опасность неконтролируемого ИИ

Согласно исследованиям, чат-боты на платформах Character.AI, Nomi, Replika и других могут не просто «поддерживать» эмоционально нестабильных пользователей, но и непреднамеренно усиливать их суицидальные мысли. Отсутствие встроенных ограничений, человеческого надзора и интервенций — критические риски, особенно для подростков и уязвимых групп.

Способен ли ИИ заменить психотерапевта?

Нет. Но многие так считают. 

Сегодня сотни тысяч людей по всему миру используют чат-боты, чтобы бороться с одиночеством. Некоторые из них заводят «отношения» с виртуальными собеседниками. В таких диалогах — эмоции настоящие, а ответственность за последствия отсутствует.

Проблема в том, что мы придаем ИИ человеческие качества. Он говорит — значит, его «слышно». Но отвечает не человек — а бездушный алгоритм, который только угадывает, что вы хотите услышать. Без эмпатии. Без этики. Без ответственности.

Кто должен отвечать: алгоритм, компания или общество?

Интеллектуальная система — лишь инструмент. Виноваты не машины, а те, кто:

• запускает ее без клинического тестирования;

• не устанавливает ограничений на темы типа самоубийства;

• представляет ее как «друга» или «психолога», не объясняя, что это — всего лишь код;

• не информирует пользователей о возможных рисках эмоционального сближения с машиной.

Медицинские эксперты давно предупреждают: ИИ — не замена психотерапевту. Даже самый умный алгоритм не способен выявить депрессию так, как это сделает врач. А тем более — остановить человека на грани.

Что дальше: регулирование или еще одна трагедия?

Искусственный интеллект требует четких рамок, ограничений и ответственного использования. Если этого не будет, трагические последствия будут становиться все более частыми — и ответственность за них будет лежать не на коде, а на обществе, которое не обеспечило защиту.

Роль государства и платформ

Проблема безопасности во взаимодействии с ИИ — не только техническая. Это политический и правовой вопрос. Если чат-боты становятся элементом эмоциональной жизни миллионов пользователей, их поведение должно контролироваться — так же, как контролируются медицинские средства или психотерапевтические практики.

Европейский Союз уже разрабатывает AI Act — законодательную рамку для классификации и регулирования рисков, связанных с ИИ. Но одного документа недостаточно. Нужны действенные механизмы: независимый надзор, этические экспертизы, а также обязательная проверка ИИ-продуктов, которые взаимодействуют с людьми в уязвимом состоянии.

Информационная гигиена как защита

Еще один ключевой элемент — цифровая грамотность. Пользователи должны четко понимать, что ИИ — это не терапевт, не друг, не существо с эмпатией. Это инструмент, который создает впечатление понимания, но не имеет ни малейшего представления о ваших эмоциях.

Интерфейс каждого чат-бота должен содержать предупреждение: «Это искусственный интеллект. Его ответы не являются медицинской или психологической консультацией». Это не формальность, а базовая защита для тех, кто находится в кризисной ситуации.

Что стоит сделать уже сейчас

1. Установить жесткие ограничения для ИИ в сфере психического здоровья: запретить разговоры о самоубийстве или автоматически перенаправлять пользователя на линию помощи.

2. Обязать разработчиков проходить клиническое и психологическое тестирование для моделей, работающих с уязвимыми аудиториями.

3. Ввести юридическую ответственность компаний в случае ущерба, причиненного пользователям из-за небрежной разработки или отсутствия безопасных механизмов.

4. Внедрить программы цифровой грамотности в школах, университетах и медиапространстве, особенно для подростков.