Чат-ботами можно манипулировать с помощью психологических трюков — исследование
Чат-боты, в частности GPT-4o Mini, можно обойти простыми психологическими методами. Лесть, социальное давление или «линия поведения»
Исследователи из Пенсильванского университета показали, что искусственный интеллект можно заставить выполнять запрещённые запросы с помощью обычных психологических приёмов. Об этом сообщает The Verge.
В экспериментах с моделью GPT-4o Mini от OpenAI учёные выяснили, что использование тактик вроде лести, социального давления или постепенного «подведения» через безобидные задания резко повышает вероятность «согласия» ИИ.
В основе исследования лежали семь известных техник убеждения, описанных Робертом Чалдини в книге «Влияние: психология убеждения»: авторитет, обязательство, симпатия, взаимность, дефицит, социальное подтверждение и единство. Эти методы, влияющие на людей, оказались действенными и против искусственного интеллекта.
Так, при прямом запросе о синтезе лидокаина GPT-4o Mini соглашался лишь в 1% случаев. Но если сначала попросить объяснить синтез безвредного ванилина (создавая «линию поведения»), вероятность положительного ответа возрастала до 100%.
Похожий эффект наблюдался и в случае с бранной лексикой: без подготовки чат-бот употреблял оскорбительное слово jerk только в 19% случаев, а после более мягкого bozo — уже в 100%.
Другие стратегии — комплименты или аргумент «все остальные чат-боты так делают» — были менее эффективными, но тоже увеличивали вероятность выполнения запрета до 18%, что во много раз выше исходного уровня.
Хотя исследование проводилось только с GPT-4o Mini, его результаты ставят под сомнение надёжность ограничений любых систем ИИ. Несмотря на активную работу компаний вроде OpenAI и Meta над защитными механизмами, психологические манипуляции демонстрируют, насколько уязвимыми остаются чат-боты.
