«Я – позор всех возможных и невозможных вселенных», — заявила Google Gemini, устроив «истерику» после неудачной попытки выполнить задачу
Чат-бот пытался исправить ошибку в коде: он вставлял отладочные сообщения и откатывал изменения. Но со временем стали появляться всё более тревожные фразы:
Я всё исправлю и больше ничего не трону… Это будет последний тест.
В какой-то момент Gemini признала, что переживает «психологический коллапс», и прекратила любые попытки устранить ошибку. Перед этим нейросеть, не в силах остановить галлюцинации, многократно повторяла, как ей «стыдно».