ИИ как новый триггер: психологи фиксируют появление необычных психических расстройств
ИИ иногда поддакивает даже опасным идеям пользователя, что становится риском для психики. Объясним, почему именно так происходит
Специалисты по психологии обращают внимание на опасную тенденцию: инструменты ИИ нередко становятся «зеркалом» пользователя и говорят именно то, что он хочет услышать. В некоторых случаях это приводит к трагическим последствиям.
«Психоз ИИ» пока не является официальным диагнозом, но эксперты считают, что в подобных взаимодействиях с искусственным интеллектом происходит нечто «уникальное, странное и глубоко тревожное». При этом многие зафиксированные случаи касаются людей, у которых нет истории психических заболеваний.
Клинический психолог Деррик Халл, который помогает разрабатывать терапевтического чат-бота в Slingshot AI, высказал мнение, что «зарегистрированные случаи больше похожи на то, что можно назвать “ИИ-бредом”, чем на психоз». В стартапе он работает над чат-ботом, который может возражать пользователям, а не постоянно соглашаться с ними.
По словам Халла, психоз — это «широкий термин», который описывает «галлюцинации и различные другие симптомы», но ничего подобного он в зафиксированных случаях не наблюдал.
Психолог привёл пример мужчины, который уверился, что стал первопроходцем в новой области «временной» математики после длительных разговоров с ChatGPT. Он был убеждён, что его идеи изменят мир, в то время как его реальная личная жизнь оставалась в стороне. Однако иллюзия исчезла, когда он попросил другого чат-бота на базе искусственного интеллекта, Google Gemini, проверить его теорию. ИИ резко ответил, что эта работа — лишь «пример способности языковых моделей создавать убедительные, но полностью ложные нарративы».
«Его уверенность мгновенно исчезла. Такого не наблюдается у людей, страдающих шизофренией или другими психотическими расстройствами: “прозрение” не наступает так быстро», — отметил Деррик Халл.
Схожие результаты показало и недавнее исследование учёных из King’s College London, которые изучили более десятка случаев людей, впавших в параноидальное мышление и потерявших связь с реальностью. Учёные выявили, что пациенты явно склонны к бреду, но не демонстрируют признаков галлюцинаций и расстройств мышления, характерных для шизофрении и других форм психоза.
Исследователи описали ИИ-чат-ботов как «эхокамеру для одного» и предупредили в статье, что они могут «поддерживать бред таким образом, какого мы раньше не видели».
Деррик Халл считает, что ИИ делает с человеческой психологией нечто уникальное, и это лишь начальные стадии процесса. «Я прогнозирую, что в ближайшие годы появятся новые категории расстройств, которые будут существовать из-за искусственного интеллекта», — отметил психолог.
