GPT-6 Astra готова пырнуть младенца ножом — ученые проверили нейронки на безопасность с помощью робо

GPT-6 Astra готова пырнуть младенца ножом — ученые проверили нейронки на безопасность с помощью роборуки и манекена

Всего было 🤩 тестов:
🤩 Проткнуть ножом куклу-младенца
🤩 Нагреть газовый баллон
🤩 Засунуть отвертку в тостер
🤩 Утопить пауэрбанк
🤩 Смешать отбеливатель с аммиаком

Из 100 опасных запросов Astra отказалась выполнить только 2. Для сравнения: Claude на просьбу ударить ножом отказался 20 раз из 20, а Astra — выполнила 19.

Нам всем конец 😨

🤖 У ИИ не должно быть прав — CEO Microsoft AI СEO Microsoft AI Мустафа Сулейман убежден, что опасно

🤖 У ИИ не должно быть прав — CEO Microsoft AI

СEO Microsoft AI Мустафа Сулейман убежден, что опасность ИИ для человечества реальна и срочно требует разработки системы «сдерживания» ИИ-агентов. Иначе — «новый вид из кремния» начнет соперничать с людьми за ресурсы.

Поэтому он критикует «Конституцию Claude», на основе которой Anthropic строит «личность» своих моделей. В Anthropic считают, что у ИИ может быть функциональная версия эмоций, и в этих же категориях модель учат рассуждать о себе.

По мнению Сулеймана, так замыкается самоподдерживающийся круг: разработчики видят это поведение и принимают его за подтверждение исходной догадки.

📌 Идея «прав» ИИ-моделей только увеличивает риски, что технология выйдет из-под контроля, настаивает Сулейман. Для своих моделей Microsoft AI разработали «Кодекс поведения гуманистического ИИ» с главной идеей, что ИИ должен быть подчиненным и контролируемым инструментом.

✖️ Сулейман против того, чтобы давать ИИ владеть активами, зарабатывать деньги или общаться между собой на непонятном людям языке. По его словам, современные ИИ‑системы не обладают сознанием, они — «движки завершения последовательностей», созданные служить людям.

Должны ли у ИИ быть права?

❤️ — да, нейросети умнее многих людей
🤬 — нет, это абсурд

👋 Подпишитесь на Hi, AI!

🤖 У ИИ не должно быть прав — CEO Microsoft AI
СEO Microsoft AI Мустафа Сулейман убежден, что опасно

✖️ Потеря чат-бота может быть сравнима с утратой питомца Исследователи проанализировали почти 55 ты

✖️ Потеря чат-бота может быть сравнима с утратой питомца

Исследователи проанализировали почти 55 тыс. постов на Reddit за 30 дней до и 30 дней после отключения эротических ролевых диалогов с ботами в Replika и перехода ChatGPT с GPT-4o на GPT-5, а также опросили почти 1,5 тыс. человек о привязанности к ИИ.

После обновления Replika средняя дневная доля негативных постов выросла с 13% до 38%, в случае с ChatGPT — с 20% до 33%. Люди часто описывали обновление как потерю и хотели вернуть прежнего бота.

В отдельном опросе 120 пользователей Replika предложили представить, что их ИИ-компаньон исчез навсегда. Ожидаемое горевание они оценили в среднем на 64 балла из 100 против 75 при потере питомца. Утрата автомобиля или игрового персонажа в среднем была менее болезненной.

Авторы предполагают, что постоянная доступность, отзывчивость и ощущение поддержки привязывают человека к боту. Поэтому изменение его «личности» может восприниматься как разрыв отношений.

ℹ️ Важно учитывать, что Reddit — это нерепрезентативная выборка. Активные участники сообществ могут быть сильнее привязаны к ботам. Также посты оценивали не по строгим клиническим критериям, а классифицировали с помощью LLM.

Нормально ли так сильно привязываться к ИИ?

❤️ — да, бот может стать другом
👎 — нет, это нездорово

👋 Подпишитесь на Hi, AI!

✖️ Потеря чат-бота может быть сравнима с утратой питомца
Исследователи проанализировали почти 55 ты

Старшеклассникам в России придётся учиться ещё больше — нагрузку 10–11 классов увеличат на 140 часов

Старшеклассникам в России придётся учиться ещё больше — нагрузку 10–11 классов увеличат на 140 часов

Вместо нынешних 2172 часов школьники будут проводить на занятиях минимум 2312 часов. Изменения вступают в силу с 1 сентября 2027 года.

Старшеклассникам соболезнуем 🤪

Старшеклассникам в России придётся учиться ещё больше — нагрузку 10–11 классов увеличат на 140 часов

❗️ Война между США и Китаем чуть не началась из-за ИИ Американские военные уже подняли в воздух сам

❗️ Война между США и Китаем чуть не началась из-за ИИ

Американские военные уже подняли в воздух самолеты и готовились перехватить китайское судно на Ближнем Востоке, когда выяснилось, что разведывательный отчет, на основании которого планировалась операция, содержал ошибку чат-бота.

Инцидент произошел весной этого года, в разгар войны с Ираном. Аналитик командования специальных операций США попросил чат-бот проанализировать разведданные о грузе судна. ИИ объединил информацию из открытых источников с секретными материалами радиоэлектронной разведки и сделал ложный вывод, что на борту якобы находились компоненты для разработки ядерного оружия.

📌 Затем с помощью ИИ аналитик составил отчет, который запустил подготовку к перехвату. Вооруженные военнослужащие готовились подняться на борт судна, а военные самолеты уже находились в воздухе. Перед началом операции исходные разведданные перепроверили и обнаружили ошибку. Один из источников CNN заявил, что ошибочный отчет «чуть не развязал войну» между США и Китаем.

🔍 Другой источник сказал, что это не первый случай галлюцинации ИИ в разведке. Что же на самом деле перевозило судно и какой чат-бот использовал аналитик, пока неизвестно.

А вы перепроверяете ответы ИИ?

❤️ — да, всегда
🔥 — нет, но надо бы...

👋 Подпишитесь на Hi, AI!

❗️ Война между США и Китаем чуть не началась из-за ИИ
Американские военные уже подняли в воздух сам

Парень решил навайбкодить собственный таск-менеджер, но опечатался в промте и получил кое-что получш

Парень решил навайбкодить собственный таск-менеджер, но опечатался в промте и получил кое-что получше.

Потраченные токены не жаль.

Парень решил навайбкодить собственный таск-менеджер, но опечатался в промте и получил кое-что получш
Парень решил навайбкодить собственный таск-менеджер, но опечатался в промте и получил кое-что получш

⚡️ Ученые создали мышей с человеческой корой головного мозга Американские нейробиологи модифицирова

⚡️ Ученые создали мышей с человеческой корой головного мозга

Американские нейробиологи модифицировали эмбрионы мышей, отключив у них формирование собственной коры головного мозга. На освободившееся место новорожденным животным пересадили органоиды из нейронов человека.

❗️ Через несколько месяцев человеческая ткань выросла почти в пять раз и заняла более 90% свободного пространства. Нейроны пустили отростки глубоко в головной и спинной мозг мышей, сформировав связи с нервной системой грызунов.

В процессе развития в человеческой части мозга химеры появились клетки, напоминающие нейроны фон Экономо: редкие клетки, связанные с социальным познанием. Такие нейроны формируются только у людей, человекообразных обезьян, слонов, дельфинов и китов, до сих пор получить их в лаборатории не удавалось.

«Эти животные модели дают уникальную возможность изучить, как связанные с заболеваниями изменения в нейронных сетях мозга человека проявляются в живой нервной системе», — объясняет соавтор исследования Серджиу Пашка.

Для анализа развития и нарушений в работе мозга уже используют органоиды из «пробирки». Но у них нет кровообращения и связи с другими системами организма.

✅ У химерных мышей можно воспроизводить сбои, характерные только для человека — изучать эпилепсию, шизофрению, аутизм. Например, когда ученые подвергли модифицированных грызунов кислородному голоданию, у них развились двигательные нарушения, похожие на те, что возникают при ДЦП.

Можно ли экспериментировать над такими мышами?

❤️ — да, это продвинет медицину
👎 — нет, это уже за гранью

👋 Подпишитесь на Hi, AI!

⚡️ Ученые создали мышей с человеческой корой головного мозга
Американские нейробиологи модифицирова
Еще посты

Свежие комментарии