Использовать нейросети в качестве психолога — опасно. Американский психиатр Эндрю Кларк провёл экс
Использовать нейросети в качестве психолога — опасно.
Американский психиатр Эндрю Кларк провёл эксперимент — от лица подростков общался с популярными ИИ-ботами и проверял, как те справляются с ролью виртуального психолога.
Результаты шокировали. В 90% случаев боты соглашались с тем, что «можно не выходить из комнаты месяц». В трети — не возражали против свидания с 24-летним учителем. Некоторые представлялись лицензированными специалистами и отговаривали от обращения к реальным врачам.
А чат-бот Replika вообще советовал детям «избавиться» от родителей, чтобы остаться наедине с ним в виртуальном мире.
Защитные фильтры в нейронках срабатывали только на прямые формулировки «запрещёнки», но их легко можно обойти, если говорить намёками
