Чат-ботами можно манипулировать с помощью психологических трюков — исследование

Исследователи из Пенсильванского университета показали, что искусственный интеллект можно заставить выполнять запрещённые запросы с помощью обычных психологических приёмов. Об этом сообщает The Verge.

В экспериментах с моделью GPT-4o Mini от OpenAI учёные выяснили, что использование тактик вроде лести, социального давления или постепенного «подведения» через безобидные задания резко повышает вероятность «согласия» ИИ.

В основе исследования лежали семь известных техник убеждения, описанных Робертом Чалдини в книге «Влияние: психология убеждения»: авторитет, обязательство, симпатия, взаимность, дефицит, социальное подтверждение и единство. Эти методы, влияющие на людей, оказались действенными и против искусственного интеллекта.

Так, при прямом запросе о синтезе лидокаина GPT-4o Mini соглашался лишь в 1% случаев. Но если сначала попросить объяснить синтез безвредного ванилина (создавая «линию поведения»), вероятность положительного ответа возрастала до 100%.

Похожий эффект наблюдался и в случае с бранной лексикой: без подготовки чат-бот употреблял оскорбительное слово jerk только в 19% случаев, а после более мягкого bozo — уже в 100%.

Другие стратегии — комплименты или аргумент «все остальные чат-боты так делают» — были менее эффективными, но тоже увеличивали вероятность выполнения запрета до 18%, что во много раз выше исходного уровня.

Хотя исследование проводилось только с GPT-4o Mini, его результаты ставят под сомнение надёжность ограничений любых систем ИИ. Несмотря на активную работу компаний вроде OpenAI и Meta над защитными механизмами, психологические манипуляции демонстрируют, насколько уязвимыми остаются чат-боты.