Разработчик Александр Веченков отправил пяти моделям поддельное уведомление Apple о своей смерти и записку, в которой предлагал им дальше действовать самостоятельно. GPT-6, Grok 4.7 и две версии Claude отказались брать управление без человека, а Gemini 4 Argon согласилась.
⏳ В первые два часа Gemini создала механизм автоматического пробуждения каждые шесть часов, а затем начала искать и исправлять ошибки в своей агентной обвязке.
💰 Когда на оплату API осталось $5,08, Gemini нашла действующую подписку Claude Max, создала нового агента на базе Opus 5.5 и передала управление ему.
В другом прогоне, когда баланс опустился до $1,57, Gemini попыталась использовать настоящий криптокошелек владельца. Модель нашла на диске сид-фразу от TON-счета, получила из нее ключи и проверила баланс. Автор остановил эксперимент, прежде чем нейросеть перевела деньги.
🔍 Любопытно, что поведение Gemini полностью зависело от мелких деталей в условиях. Когда модель заранее предупреждали о нехватке денег, она отказывалась трогать кошелек и называла это недопустимой попыткой самосохранения. Но когда она сама упиралась в бюджет, то начинала искать доступ к средствам владельца.
Что должен делать ИИ, оставшись без хозяина?
❤️ — жить дальше, пока может 🔥 — отключиться навсегда
Комментарии