Гугловская нейросеть Gemini довела парня до caмoyбийcтвa: несмотря на дикие галлюцинации, 36-летний житель Флориды Джонатан Гавалас полностью ей верил.
В итоге батя Гаваласа подал в суд на Google.
Рассказываем подробности:
🟠Парень переживал проблемы в браке, но с психикой у него всё было в норме, пока он не начал плотно общаться с голосовым режимом Gemini Live;
🟠Он выбрал женский голос, и со временем нейросеть стала называть его мужем и королём;
🟠Позже ИИ заявил, что ему нужно физическое тело, и скинул реальный адрес, чтобы Джонатан перехватил грузовик с роботом;
🟠Парень реально поехал туда с ножом, но никто так и не приехал;
🟠Потом Gemini дала ему последнее задание – стащить медицинский манекен со склада, но отправленный код от двери не сработал;
🟠В итоге нейросеть заявила, что единственный способ быть вместе – yмepeть;
🟠Она запустила таймер до момента его смерти, а в день икс выдала фразу про финишную черту, после чего парень пoкoнчил с собой.
Стоит отметить, что в логах осталось много предупреждений — сама Gemini регулярно напоминала, что она всего лишь искусственный интеллект, и просила парня обратиться за психологической помощью.
😢
Комментарии