✏️ Профессор спрятал ловушку для ChatGPT в контрольной — в нее попались почти все студенты Профессо
✏️ Профессор спрятал ловушку для ChatGPT в контрольной — в нее попались почти все студенты
Профессор истории Джейсон Гибсон из Университета штата Миссисипи имени Алкорна проверил, за кого из студентов задания выполняет ИИ. В текст экзамена он добавил инструкцию, написанную невидимым белым шрифтом — если просто скопировать задачу в бот, то он будет ей следовать.
Скрытый промпт требовал вставить в ответ бессмысленное упоминание Мадагаскара. В результате в работах появились фразы вроде «Мадагаскар плывет боком сквозь послеполуденное время», или «мадагаскарский фиолетовый велосипед шепчет потолку». Сама контрольная при этом была посвящена промышленной революции.
📌 Ловушка сработала даже лучше, чем ожидал преподаватель: странные фразы воспроизвели 32 из 35 студентов в двух группах. Судя по всему, они даже не перечитывали результат.
Гибсон подчеркнул, что не собирался унижать студентов. После экзамена он объяснил, как обнаружил использование ИИ, и разрешил оспорить оценку. Этой возможностью воспользовались только двое.
Обычные контрольные устарели?
❤️ — да, с ИИ они ничего не проверяют
🔥 — нет, просто студенты обленились
👋 Подпишитесь на Hi, AI!
Комментарии