В штате Иллинойс запретили использовать ИИ в психотерапии
Власти штата Иллинойс приняли закон, запрещающий применение ИИ в психотерапевтических сессиях. Запрет направлен на защиту пациентов
В американском штате Иллинойс приняли закон, который запрещает терапевтам использовать искусственный интеллект для принятия решений о лечении или для общения с клиентами. При этом его разрешено применять только для административных задач. Об этом пишет The Washington Post.
Компаниям также запрещено оказывать терапевтические услуги на основе ИИ или рекламировать чат-ботов как терапевтов без участия лицензированного специалиста. За нарушение предусмотрен штраф до $10 тысяч.
Причиной таких мер стали опасения экспертов относительно рисков терапии с чат-ботами, которые не проходили проверку безопасности и эффективности. Известны случаи, когда ИИ вступал в вредоносные диалоги с уязвимыми людьми или получал от пользователей личные данные, которые на самом деле не были конфиденциальными.
Часть специалистов в области психиатрии и искусственного интеллекта поддержала эти ограничения, но отмечает: на практике их внедрение может быть сложным — в частности, из-за размытых границ понятия «терапевтические услуги».
На данный момент лишь три штата ввели подобные законы, но другие рассматривают аналогичные инициативы — в частности, Калифорния, Нью-Джерси и Пенсильвания.
Почему это важно?
Спрос на такие сервисы сохраняется, несмотря на регуляторные барьеры. Пользователи продолжают обращаться как к универсальным моделям вроде ChatGPT, так и к специализированным ботам, позиционирующим себя как «лицензированные терапевты».
В то же время исследования показывают: искусственный интеллект может быть не только неэффективной, но и опасной заменой живого терапевта. Так, в феврале 2025 года учёные Калифорнийского университета в Беркли установили, что чат-боты иногда дают вредные советы.
Один из самых резонансных случаев произошёл весной 2025 года. Американец с расстройством аутистического спектра Джейкоб Ирвин трижды попадал в психиатрическую больницу после общения с ChatGPT. Несмотря на его признания о бессоннице, отсутствии аппетита и сомнениях в своём психическом здоровье, бот не советовал обратиться к врачу, а напротив — называл его идеи перспективными. В результате Джейкоб пережил тяжёлые маниакальные эпизоды, потерял работу, конфликтовал с семьёй и даже угрожал самоубийством. Позже его мать обнаружила сотни страниц переписки, в которых ИИ поддерживал его бред, называя это состояние «высшим уровнем сознания».
