☠️ ИИ может создавать опасные яды
Ученые Microsoft проверили, способен ли ИИ обмануть системы биобезопасности при создании новых белков.
Результат оказался тревожным — ИИ обошел защиту и получил разрешение на создание опасных для человека токсинов.
⚠️ Для производства нового белка синтетическую ДНК обычно заказывают у коммерческого поставщика и затем внедряют ее клетку. Но система безопасности должна автоматически блокировать запросы на опасные соединения.
С помощью ИИ-моделей для создания белков, которые используют для поиска лекарств, исследователям удалось модифицировать структуру токсинов так, чтобы фильтры не распознали угрозу, при этом сохранив смертоносность.
Эксперимент проходил полностью в цифровом формате, какие именно токсины моделировались, не раскрывается. Однако потенциально так можно синтезировать неотслеживаемые варианты, например, рицина (яда из клещевины) или инфекционных прионов, вызывающих коровье бешенство.
🛡 Главный вывод эксперимента: существующие системы защиты от биотерроризма нужно обновлять. Эксперты предлагают ужесточить проверки при заказе синтетической ДНК, однако некоторые исследователи считают, что фильтры следует встраивать прямо в ИИ-модели, чтобы они в принципе не могли генерировать опасные молекулы.
👋 Подпишитесь на Hi, AI!
#медицина
Комментарии