Зумеры изобрели… картофельное пюре Воистину, Судный день всё ближе
Зумеры изобрели… картофельное пюре
Воистину, Судный день всё ближе
Windows Defender когда твой компьютер заражен вирусом:
Windows Defender когда твой компьютер заражен вирусом:
🧬 OpenAI объяснили, почему нейросети галлюцинируют Галлюцинации нейросетей — это не сбой, а прямое
🧬 OpenAI объяснили, почему нейросети галлюцинируют
Галлюцинации нейросетей — это не сбой, а прямое следствие технологии, выяснили исследователи OpenAI.
Все закладывается еще на этапе предварительного обучения. Даже если в тренировочных данных нет ни одной ошибки, модель все равно будет выдумывать факты.
🤔 Почему так?
Модели строят ответы по шаблонам, учитывая грамматику, общие факты, логику, но если попросить нейросеть найти конкретный факт (особенно малоизвестный), для нее это изолированная точка, а не часть общей картины. Поэтому нейросеть выдаст наиболее вероятный ответ, но не станет буквально искать конкретный факт.
Но даже обучение с подкреплением, когда модель штрафуют за неверные ответы и поощряют за правильные, не помогает исправить ситуацию. Так нейросеть превращается в «студента на экзамене», который не знает точного ответа, но уверенно говорит чепуху: так хотя бы есть шанс угадать.
Поэтому ученые предлагают менять подход к обучению и систему оценки. Наказывать за уверенные ошибки сильнее, чем за ответ «я не знаю» — так у модели появится стимул хотя бы «промолчать, чтоб сойти за умного».
Такой метод может сократить галлюцинации и сделать ответы ИИ надежнее, что в реальной жизни важнее, чем количество ответов в целом.
👋 Подпишитесь на Hi, AI!
#новости #наука #OpenAI
⚡️В даркнете массово продают аккаунты госмессенджера Max — до тысячи объявлений в день, сообщают СМИ
⚡️В даркнете массово продают аккаунты госмессенджера Max — до тысячи объявлений в день, сообщают СМИ. Цена за один аккаунт достигает $250.
По данным МВД, мошеннические колл-центры арендуют их для звонков россиянам. Предупредите близких.
ChatGPT | FREE VPN
ну смотря в чем они обгоняют, gm например они всегда самые первые пишут
ну смотря в чем они обгоняют, gm например они всегда самые первые пишут
П25. Сижу вечером дома, пивко попиваю. Под окнами малолетки зависли: колонка орёт, сами по очереди г
П25. Сижу вечером дома, пивко попиваю. Под окнами малолетки зависли: колонка орёт, сами по очереди гоняют на мопеде. Часа полтора терпел их концерт, но в какой-то момент шум реально заебал. Вышел, попросил вести себя потише - в ответ послали нахер.
Ну я долго не думал: вернулся домой, достал пейнтбольное ружьё и поднялся на третий этаж. Расстрелять толпу этих юнцов оказалось неожиданно весёлым занятием. Теперь с синяками будут ходить пару недель, а краска, кстати, была водостойкая.
❗️ЦБ России снизил ставку с 18 до 17% Банк России сохранил прогноз, что инфляция в стране снизится
❗️ЦБ России снизил ставку с 18 до 17% Банк России сохранил прогноз, что инфляция в стране снизится до 6-7% в 2025-м, вернется к 4% в 2026-м и будет находиться на цели в дальнейшем.
Комментарии