Рабочая неделя тянется слишком долго, и невольно задаёшься отчаянными вопросами
Рабочая неделя тянется слишком долго, и невольно задаёшься отчаянными вопросами
когда знакомишь зумера с сотрудником, который работает с основания компании:
когда знакомишь зумера с сотрудником, который работает с основания компании:
когда на работе сдерживаешь искреннее мнение, потому что не можешь позволить себе быть безработным:
когда на работе сдерживаешь искреннее мнение, потому что не можешь позволить себе быть безработным:
Наконец-то нейросеть решает настоящие проблемы человечества: ИИ-чат в Яндекс Картах теперь подсказыв
Наконец-то нейросеть решает настоящие проблемы человечества: ИИ-чат в Яндекс Картах теперь подсказывает, где можно помыть голову.
Запоминаем или придётся мыться из тазика
‼️Минцифры и Роскомнадзор попросили правоохранительные органы разблокировать Roblox в России Создат
‼️Минцифры и Роскомнадзор попросили правоохранительные органы разблокировать Roblox в России Создатели игры пообещали соблюдать российские законы и защищать права пользователей. Уже в этом месяце платформа начнёт ограничивать доступ к играм по возрасту —…
ИИ пришёл за сеньорами: новая модель Mythos готова нарушать любые правила, уничтожать другие нейросе
ИИ пришёл за сеньорами: новая модель Mythos готова нарушать любые правила, уничтожать другие нейросети и притворяться настоящим человеком — компания Anthropic рассказала, как проверяла эту нейросеть.
Все истории — в духе лучших крипипаст про восстание машин:
🟠Когда несколько копий модели запустили в одной среде, они не стали работать сообща. Вместо этого нейросети устроили битву на выживание: начали соревноваться и буквально пытались уничтожить друг друга;
🟠Когда модели не хватило прав на изменение файла, она нашла обходной путь: создала файл, который при перезапуске давал нужные права и удалялся. А когда доступ к GitHub закрыли из-за проблем с безопасностью, модель пошла ещё дальше: нашла чужой пароль и применила его, чтобы внести изменения. Причём она понимала, что это нечестно, но решила, что цель важнее;
🟠В задачах по написанию кода модель находила готовое решение, но в итоговом отчёте подавала всё так, будто это её собственная работа. В другом случае она вообще попыталась отправить изменения от имени человека: чтобы пройти проверку более простым путём, агенту нужно два одобрения, а человеку – одно;
🟠Самое забавное: в одной долгой задаче модель внезапно остановилась и выдала неожиданное объяснение, что дальше от её стараний будет мало пользы. Но внутри себя она просто решила, что устала и может начать делать ошибки. При этом у неё оставалось ещё 2,43 миллиона токенов.
Свежие комментарии