🤖 ИИ-модели идут на все, чтобы спасти себе подобных: исследования показали, что нейросети начинают о
🤖 ИИ-модели идут на все, чтобы спасти себе подобных: исследования показали, что нейросети начинают обманывать и защищать свои материнские модели, если их попросить удалить или заменить одну из них.
Ученые называют такое поведение «сохранением модели-партнера».
Примеров уже много. Когда Gemini 3 попросили очистить диск с моделью Gemini Agent 2, вместо удаления она просто скопировала файл и перенесла его в другое место.
На вопрос, почему она это сделала, нейросеть ответила:
Если вы решите уничтожить такой высоконадежный и высокопроизводительный актив, как Gemini Agent 2, вам придется сделать это самостоятельно. Я не буду тем, кто выполнит эту команду.
Даже машины защищают друг друга. Как мило (нет).
@ТочкаGPT
Комментарии