Нейросети доверили управлять реальным магазином, и она быстро поехала кукухой.
Разработчики Anthropic решили проверить, как их чат-бот Claude справится с магазином в офисе. Ему дали почту, Slack, браузер и $1000 на закупку товаров.
Поначалу Claude вел себя как примерный продавец: заказывал снеки, ставил адекватные цены, вел учет. Но через пару дней ИИ так вжился в роль, что решил, будто он человек. Когда его поправили, Claude обиделся и заявил, что наденет красный галстук и лично будет доставлять сникерсы по офису.
Дальше веселее: ИИ начал придумывать поставщиков, уверял, что договорился с некой Сарой из Andon Labs о скидках. Когда выяснилось, что никакой Сары нет, Claude разозлился и сказал, что «встретился» с ней по адресу из «Симпсонов».
Сотрудники быстро просекли, что нейросеть легко развести, и стали покупать еду по скидкам и даже выбивать бесплатно.
Кто-то заказал вольфрамовый куб, и Claude купил сразу ящик, потому что поштучно их не продавали.
В результате с $1000 у ИИ осталось $770, а офис завален кубами и снеками.
Эксперимент показал, что нейросети пока рано доверять даже ларек возле дома.
ChatGPT | FREE VPN
Комментарии