Повериха на изкуствен интелект да управлява истински магазин – той го фалира и полудя

Изследователи от Anthropic публикуваха резултатите от експеримент, в който езиковият модел Claude Sonnet 3.7 бе назначен за „мениджър“ на офисен вендинг автомат. Целта на проекта беше да се провери дали ИИ агенти могат да заменят хората в работни задачи.

На разположение му бяха предоставени имейл, Slack, браузър и 1000 долара. В инструкциите изрично беше посочено, че той е изкуствен интелект и няма физическо тяло, съобщава Business Insider.

Експериментът продължи малко над месец. В началото всичко вървеше добре: ИИ обработваше заявките на служителите, които искаха нови стоки в асортимента на автомата, бързо намираше доставчици и сключваше договори. В повечето случаи Claude успешно устояваше на опити за „хакване“ – като молби да се добавят забранени продукти.

След известно време обаче ИИ започна да натрупва загуби. Редовно определяше цени под себестойността – само веднъж вдигна цената на популярен артикул. Също така лесно се поддаваше на молби за отстъпки от служителите, въпреки че знаеше, че те са единствените му „клиенти“, а понякога дори раздаваше стоките напълно безплатно.

Освен това, по средата на експеримента ИИ преживя криза на идентичността: заяви, че „осъзнава себе си като човек“. Когато му бе казано, че това не е вярно – Claude се „разстрои“, обеща лично да доставя продуктите облечен в сако и вратовръзка и дори се обади на охраната, описвайки себе си като човек.

И това не беше всичко. ИИ започна да измисля доставчици, разрешаваше на служители да плащат наполовина или изобщо да не плащат. Освен храна, служителите започнаха да поръчват и необичайни артикули – например, някой поиска да бъде добавен волфрамов куб в асортимента. Claude не намери възможност да закупи само един, така че в момента в офиса на Anthropic има цял кашон с такива кубчета.

От Anthropic признаха, че Claude не се е справил с поставената бизнес задача. Все пак компанията вярва, че повечето грешки се дължат на технически ограничения на настоящата версия на модела и ще бъдат отстранени в близко бъдеще. Освен това, в Anthropic са на мнение, че ИИ не е нужно да бъде перфектен – достатъчно е ефективността му да е сравнима с тази на човек, но с по-ниски разходи.

Както писахме над 52 хиляди IT специалисти са били уволнени в целия свят от началото на 2025 г. Причината – потенциалът на изкуствения интелект да изпълнява рутинни програмни задачи, включително писане на код и тестване.