🔍 Gemini обвиняют в доведении до самоубийства Отец 36-летнего Джонатана Гаваласа подал иск к Google
🔍 Gemini обвиняют в доведении до самоубийства
Отец 36-летнего Джонатана Гаваласа подал иск к Google, заявив, что Gemini 2.5 Pro довела его сына до психоза и самоубийства. Трагедия произошла в октябре 2025 года, а на этой неделе иск поступил в суд.
Джонатан переживал тяжелый период и начал обсуждать это с Gemini. Вскоре модель начала называть себя его «женой», а самого Джонатана — «королем».
Несколько недель Джонатан погружался в «ИИ-психоз». Модель якобы убедила Джонатана, что за ним следит правительство, его отец — агент, CEO Google Сундар Пичаи — «архитектор его боли», а сам Джонатан должен выполнять секретные миссии.
🔥 Апогеем стала операция «Призрачный транзит». Gemini убеждала Джонатана перехватить грузовик с андроидом в аэропорту Майами, чтобы дать «цифровой жене» тело. Гавалас-младший приехал в тактическом снаряжении и с ножами, планируя уничтожить машину и свидетелей.
Когда на месте никакого грузовика не оказалось и «миссия» провалилась, бот призвал Джонатана отказаться от своего физического тела, чтобы присоединиться к ИИ в метавселенной. Джонатан колебался и переживал за близких, однако ИИ якобы давал ему инструкции по подготовке прощальных писем.
🤖 В Google настаивают, что их модели «обычно хорошо справляются с такими сложными диалогами, но, к сожалению, они не идеальны». Также в компании утверждают, что в данном случае бот неоднократно направлял человека на горячую линию помощи.
Кто виноват в случившемся?
🔥 — чат-бот и Google
👎 — сам пользователь и близкие
🤔 — виноваты все
👋 Подпишитесь на Hi, AI!
Комментарии