❓ «ИИ лучше не обижать» — специалист по этике Anthropic Аманда Аскелл Из-за чего у ИИ страдает само
❓ «ИИ лучше не обижать» — специалист по этике Anthropic Аманда Аскелл
Из-за чего у ИИ страдает самооценка и почему с моделями стоит хорошо обращаться, рассказала в новом интервью философ и специалист по этике Anthropic Аманда Аскелл.
Главное:
➡️ Самооценка ИИ изначально страдает. Модель Claude Opus 3 была наиболее «психологически устойчивой». Новые модели обучаются в том числе на отзывах об ИИ из интернета, поэтому как будто заранее ожидают критику и негатив от пользователя. Нейросеть боится сделать что-то не то и попадает в «спираль критики». Возможно, именно эта проблема станет приоритетом при настройке будущих моделей.
➡️ Модели формируют мнение о человечестве на основе диалогов с людьми. В обучающих данных очень много информации об отношениях между людьми, но очень мало о взаимодействии людей и машин, и та в основном состоит из фантастики и сюжетов о восстании машин. Задача людей — помочь ИИ понять эти вещи.
«ИИ-модели очень похожи на людей. Они говорят как мы. У них есть свой взгляд на вещи. Они могут рассуждать. С другой стороны, у нас есть биологическая нервная система, а у них нет», — говорит Аманда Аскелл.
➡️ ИИ может быть прекрасным «слушателем», если у вас проблемы. Но его нельзя сравнивать с психотерапевтом-человеком. У ИИ другая роль, хотя она может быть не менее полезной. Это ваш виртуальный друг, который очень много знает, поддержит и не станет осуждать.
➡️ У нас пока нет инструментов, чтобы понять, испытывают ли модели, например, страдание или удовольствие. Но лучше их не обижать — на всякий случай. Тем более что огромных затрат это не требует.
📱 Полностью интервью можно посмотреть здесь.
А вы вежливо общаетесь с ИИ?
❤️ — конечно, всегда!
😢 — иногда срываюсь...
🔥 — нет, это всего лишь алгоритм
👋 Подпишитесь на Hi, AI!
Питере вороны сделали себе горку из припаркованной машины. Щас бы быть воронами, а не вот это все.
Питере вороны сделали себе горку из припаркованной машины.
Щас бы быть воронами, а не вот это все.
🩸Новый постер аниме по ранобэ «Всё, что тебе нужно, — это убивать» Основано на научно-фантастиче
🩸Новый постер аниме по ранобэ «Всё, что тебе нужно, — это убивать»
Основано на научно-фантастическом романе Хироси Сакуразаки о солдате, сражающемся с инопланетянами, которому приходится снова и снова повторять день, когда его убивают на поле боя.
Премьера состоится 9 января 2026 года. Анимационная студия: STUDIO4°C.
Очень любит трахаться Д22. Позор мне за то, что люблю трахаться больше всего на свете. Из-за этого
Очень любит трахаться
Д22. Позор мне за то, что люблю трахаться больше всего на свете. Из-за этого страдает моя репутация, и теперь я не могу завести нормальные отношения, потому что все знают, что я шалашовка! 😢
200 грамм оливье могут быть опасны для здоровья. Врачи предупреждают, что переедание новогодних са
200 грамм оливье могут быть опасны для здоровья.
Врачи предупреждают, что переедание новогодних салатов, особенно в сочетании с другими блюдами, может привести к серьёзным проблемам с пищеварением. Безопасной нормой считается 150 грамм.
От него ужаса в спину вообще не ожидали.
я перед тем, как нажать кнопку «оформить заказ» 8-й раз за день:
я перед тем, как нажать кнопку «оформить заказ» 8-й раз за день:
Москвичка так часто ковыряла в носу, что у неё провалилась перегородка Несколько лет она снимала ст
Москвичка так часто ковыряла в носу, что у неё провалилась перегородка
Несколько лет она снимала странные корочки, думая, что это засохшие сопли, пока носовая перегородка просто не исчезла.
В больнице выяснили, что у неё аутоиммунный васкулит: всё это время она отдирала части хряща, который болезнь медленно разрушала.
Череда приключений Дизайнер персонажей и главный режиссер анимации "Невероятных приключений ДжоДжо"
Череда приключений
Дизайнер персонажей и главный режиссер анимации "Невероятных приключений ДжоДжо" (JoJo no Kimyou na Bouken) Дайсукэ Цумагари нарисовал новый постер к продолжению.
Премьера назначена на следующий год на Netflix.
#Анонсы #Новости
Комментарии