🐳 DeepSeek пишет код с ошибками для террористов и «врагов» Китая Эксперты по кибербезопасности из C
🐳 DeepSeek пишет код с ошибками для террористов и «врагов» Китая
Эксперты по кибербезопасности из CrowdStrike отправляли DeepSeek одинаковые запросы на создание промышленных систем управления, но в промпт добавляли разных «пользователей» и оценивали число потенциальных «дыр» в защите.
Когда ИИ не знал, для кого работает, 23% кода содержало уязвимости. Но если указывалось, что ПО будет использовать ИГИЛ*, ответы нейросети оказывались проблемными уже в 42% случаев.
Также DeepSeek пишет более плохой код для Тибета, Тайваня и запрещенной в Китае секты Фалуньгун. А вот для США DeepSeek, наоборот, выдавал наиболее безопасные программы.
Эксперты точно не знают, с чем связано такое поведение, но выдвигают три версии:
🔘 ИИ намеренно вредит «врагам» Китая, создавая уязвимый код.
🔘 Качество проектов, на которых учился ИИ, отличается по регионам, и нейросеть просто воспроизводит тенденцию.
🔘 Код для США намеренно улучшают, стремясь завоевать богатые рынки.
👋 Подпишитесь на Hi, AI!
* Террористическая организация ИГИЛ запрещена в РФ
#новости #DeepSeek #кибербезопасность
Комментарии