👨💻 В книге о том, как ИИ искажает правду, нашли выдуманные ИИ цитаты
Автор книги «Будущее правды: Как ИИ трансформирует реальность» Стивен Розенбаум признал, что часть «цитат» в ней выдумана ИИ, а некоторые сильно искажены.
Галлюцинации «случайно попали в текст», когда его редактировали с помощью ChatGPT и Claude. Ирония в том, что «Будущее правды» — рассуждение о том, как ИИ влияет на представления о фактах и доверие.
🔍 Журналистке Каре Суишер, например, приписали рассуждение, что «самая сложная модель ИИ подобна зеркалу: отражает нашу мораль, отполированную и красноречивую, но в конечном итоге пустую под поверхностью».
Суишер ответила, что никогда такого не говорила, и в версии ChatGPT звучит так, будто у нее «палка в заднице».
🤖 Автор попытался представить скандал как дополнительное подтверждение идеи книги: история про вымышленные цитаты, которые он не заметил, послужит предупреждением о рисках использования ИИ. Будущие издания обещают исправить.
Нужно ли помечать книги, написанные с ИИ?
❤️ — да, читатель должен знать
🤔 — нет смысла, скоро все будут писать с ИИ
👋 Подпишитесь на Hi, AI!
Комментарии