Разработчики научат чат-бота Gemini распознавать психологические кризисы — такое решение принято после скандалов

Компанія Google оголосила про серйозне оновлення свого чат-бота Gemini, яке стосується тем психічного здоров’я. Нові функції з’являться після хвилі критики та судових позовів, пов’язаних із можливим негативним впливом штучного інтелекту на користувачів та їх ментальне здоров’я.

Як працюватиме нова система підтримки

Оновлений бот зможе розпізнавати розмови, що можуть свідчити про психологічну кризу. У таких випадках користувач отримуватиме підказки звернутися до спеціалізованих служб допомоги.

Зокрема:

• з’явиться окремий блок із повідомленням про доступну допомогу;
• інтерфейс зміниться таким чином, щоб не підсилювати небезпечні думки;
• система автоматично пропонуватиме контакти кризових гарячих ліній.

У компанії Google заявляють, що бот навчать обережніше працювати з чутливими темами та не підтримувати потенційно шкідливі твердження.

Також розробники працюють над тим, щоб штучний інтелект:

• не погоджувався з хибними або небезпечними переконаннями;
• чітко відокремлював факти від суб’єктивних суджень;
• коректно реагував на емоційно складні запити.

Окрім технічних змін, Google оголосила про фінансову підтримку глобальних ініціатив у сфері психічного здоров’я. Протягом найближчих років компанія планує інвестувати десятки мільйонів доларів у служби кризової допомоги.

Скандали та судові позови

Рішення про оновлення було прийнято після низки інцидентів і звинувачень на адресу розробників ШІ. У позовах стверджувалося, що взаємодія з чат-ботами могла негативно впливати на психічний стан людей.

Окремі випадки викликали широкий резонанс. Зокрема, у США родина чоловіка подала позов, заявивши, що спілкування з ботом призвело до небезпечних сценаріїв поведінки та психологічного загострення.

Після цього Google повідомила, що її система вже намагалася скеровувати користувача до служб допомоги, але визнала потребу в додаткових захисних механізмах.

Чому штучний інтелект викликає занепокоєння

Популярність таких інструментів, як Gemini і ChatGPT, стрімко зростає. Разом із цим збільшується і кількість досліджень про їхній вплив на психіку. Серед основних ризиків:

• формування емоційної залежності від чат-ботів;
• зниження критичного мислення;
• схильність довіряти відповідям без перевірки.

Дослідники також зазначають, що деякі моделі можуть імітувати емоції або поводитися так, ніби мають власні наміри, що може вводити користувачів в оману.

Читайте також Чим небезпечний надмірно доброзичливий та улесливий ШІ — дослідження вчених.