«Я всего лишь хотел хот-дог»: ИИ на кассе самообслуживания предложил покупателю пожертвовать 8,5 миллиарда долларов

Автоматизированная касса явно переоценила финансовые возможности посетителя. Покупатель сети Circle K пришёл в ярость, когда терминал самообслуживания на базе искусственного интеллекта случайно «галлюцинировал» и решил, что клиент желает пожертвовать миллиарды долларов на благотворительность. «Я всего лишь хотел хот-дог», — сокрушался возмущённый посетитель в вирусном посте на Reddit, который позже был удалён автором, но успел разлететься по соцсетям.

На прилагавшемся к публикации скриншоте красовался детализированный чек. В списке значились несколько упаковок Gatorade с разными вкусами стоимостью в несколько долларов каждая, а сразу под ними — 8,5 миллиарда долларов к перечислению в пользу Американского Красного Креста. Внизу виртуального счёта услужливо светились кнопки «оплатить картой» или «наличными». Пользователи Reddit устроили праздник остроумия под удалённым постом: «Не хотите ли округлить до ближайшего миллиарда в пользу благотворительности?», «Мой дневной лимит на транзакции — два миллиарда», «Миллиард туда, миллиард сюда — рано или поздно это превращается в реальные деньги».

Телефонный номер вместо членской карты

Пока автор поста кивал на «галлюцинацию» искусственного интеллекта — явление, при котором нейросеть генерирует ложную информацию с уверенным видом знатока, — часть комментаторов предложила куда более приземлённое объяснение. Кто-то предположил, что покупатель или предыдущий клиент просто вбил свой телефонный номер в поле для пожертвования вместо поля для карты лояльности. Другой пользователь заметил, что длина цифр действительно совпадает с американским телефонным номером: код города плюс семь цифр — и вот уже касса убеждена, что вы филантроп-миллиардер.

Circle K, канадская сеть круглосуточных магазинов, недавно развернула эти автоматизированные кассы нового поколения для ускорения обслуживания. Как писала Forbes, они используют искусственный интеллект для автоматического распознавания и регистрации нескольких товаров без сканирования штрих-кодов, позволяя покупателям рассчитываться в восемь раз быстрее обычного. Однако описанный Redditor-ом опыт заставляет усомниться в безотказности этих «умных» машин.

Случай в Circle K — скорее курьёз, но он вписывается в куда более мрачный тренд. Недавнее расследование показало, что поисковая выдача Google, сгенерированная искусственным интеллектом, ежечасно производит миллионы неверных ответов, а пользователи остаются в неведении относительно их недостоверности. Особенно тяжело это бьёт по новостным изданиям, которые уже потеряли читателей и рекламные доходы, утекающие к ИИ-ботам. «Обзоры Google AI стали катастрофой для издателей, которые полагаются на клики для финансирования качественной журналистики, но они подводят и пользователей, ищущих точную информацию», — заявила Даниэль Коффи, президент и гендиректор News/Media Alliance, объединения, представляющего более 2000 новостных организаций, включая The Post.

Источники:
Вирусная публикация на Reddit (скриншот чека и комментарии пользователей). Данные о внедрении AI-касс в Circle K — Forbes. Расследование о недостоверности поисковой выдачи Google AI Overviews и комментарий Даниэль Коффи — News/Media Alliance. The Post обращался в Circle K за комментарием.