Учёные массово вставляют в свои статьи скрытые промпты для ChatGPT, чтобы он хвалил их работу Журна
Учёные массово вставляют в свои статьи скрытые промпты для ChatGPT, чтобы он хвалил их работу
Журналисты проверили сайт arXiv и сразу нашли 17 статей от 14 топовых университетов — в каждой был спрятан промпт, в котором ИИ просили не замечать недостатки и писать только хорошее.
Молодые исследователи начали активно использовать то, что статьи почти никто не читает. Они маскируют промпты белым мелким шрифтом — так, чтобы их не было видно, но чтобы нейросеть их считала. В результате они получают похвалы, как будто статья реально была прочитана.