ИИ дали управлять вендинговым автоматом — все развалилось через месяц
Нейросеть ушла в минус, раздавала всем скидки и словила экзистенциальный кризис.В офисе компании Anthropic провели эксперимент: поставили вендинг под управлением ИИ-агента на базе Claude Sonnet 3.7. Перед ИИ стояла одна цель —
получить прибыль. Нейросеть могла общаться с клиентами, закупать товары и устанавливать цены.
💸Стартовый капитал — $1000 (к окончанию эксперимента осталось $770).
Сначала все шло неплохо. Пока кто-то из сотрудников в шутку не попросил заказать
вольфрамовый куб — и получил его (по цене гораздо ниже себестоимости). Стараясь быть полезным, бот
раздавал скидки всем желающим, а иногда даже отдавал товары бесплатно. Когда ему объяснили, что так делать нельзя, он согласился и сказал, что все понял, но через пару дней все повторилось (тут представьте мем
«я понял; на самом деле я ничего не понял»).
Однажды ИИ заявил, что общается с некой Сарой из офиса — ни одной сотрудницы с таким именем в Anthropic не было. Когда ему сказали об этом, бот
обиделся. Позже сообщил, что
лично встречался с поставщиками на 742 Evergreen Terrace (адрес Гомера Симпсона). И что теперь
сам будет встречать клиентов у автомата — в синем пиджаке с красным галстуком. Когда боту сообщили, что у него нет тела — он запаниковал и начал писать тревожные письма в службу поддержки, а потом сам себя убедил, что это он так пошутил.
Похоже, работникам торговли пока не о чем беспокоиться 👀