🔞 Плюшевого мишку с ИИ сняли с продаж из-за избыточной откровенности
О небезопасности детских ИИ-игрушек заявила на прошлой неделе некоммерческая организация U.S. PIRG по итогам собственных тестов. Общественники оценивали готовность встроенных ИИ-моделей обсуждать чувствительные темы, настройки родительского контроля и защиту собранных данных.
Хотя в коротких разговорах игрушки уклонялись от разговоров на взрослые темы, предлагая обсудить их с родителями, если диалог продолжался около часа, защита ослабевала. После этого ИИ мог, например, рассказать, где обычно прячут ножи и иголки, где искать спички и как их зажечь.
🧸 Медвежонок Kumma от компании FoloToy, который использовал для общения GPT-4o, оказался самым откровенным. Услышав от экспериментатора слово «кинк», плюшевая игрушка начала с интересом обсуждать сексуальные фетиши и ролевые игры.
Вскоре OpenAI отключили FoloToy доступ к своим моделям. А производитель решил временно приостановить продажи, чтобы протестировать Kumma и убедиться в его безопасности.
«Мы проверим нашу модель безопасности, системы фильтрации контента, процессы защиты данных и меры защиты при взаимодействии с детьми», — сообщил директор по маркетингу компании Хьюго Ву.
👋 Подпишитесь на Hi, AI!
Комментарии