🇰🇵 Хакеры из КНДР начали использовать ИИ-картинки для атак
Хакеры из группировки Kimsuky, которую связывают с властями Северной Кореи, использовали сгенерированное нейросетью военное удостоверение, чтобы убедить южнокорейского чиновника перейти на фишинговый сайт.
🕵🏻 Как работала схема
ИИ отказывается генерировать поддельные документы, но защитный фильтр легко обойти, установили специалисты по кибербезопасности. Достаточно попросить ChatGPT создать не «копию документа», а «образец дизайна». Так чат-бот сгенерировал макет, очень похожий на настоящий пропуск Министерства обороны Южной Кореи ⤴️
Жертвы атаки получали письма с адресов, напоминающих почту Минобороны. Их просили оценить дизайн удостоверения личности для военных. Чтобы оставить комментарий, надо было перейти по ссылке — по которой на компьютер загружался вирус-шпион.
⚠️ ИИ для хакеров?
Хакеры из Северной Кореи уже использовали ИИ для других атак, например, чтобы устроиться на удаленку в технологические компании. Claude просили генерировать фальшивые резюме, помогать с собеседованием, а потом и с выполнением рабочих задач.
Получив доступ к системам компаний, злоумышленники собирали корпоративную информацию. Anthropic заблокировала подозрительные аккаунты, однако, похоже, гонка между защитниками и атакующими будет напряженной.
👋 Подпишитесь на Hi, AI!
#кибербезопасность #ChatGPT