Нейросети тупеют при длинных диалогах с людьми. К такому выводу пришли в Microsoft, проанализирова
Нейросети тупеют при длинных диалогах с людьми.
К такому выводу пришли в Microsoft, проанализировав 200 тысяч чатов. Если при одном запросе точность модели достигает 90%, то в формате «вопрос — уточнение — ещё уточнение» она падает до 65%.
Причина в том, что возможная ошибка в первых ответах закрепляется как «факт», и дальше модель начинает строить рассуждения на неверной базе, добавляя лишние допущения и галлюцинации. Эксперты советуют в таких случаях начинать новый чат и сразу формулировать полный запрос одним сообщением.
Комментарии