Владелец малого бизнеса в Великобритании столкнулся с угрозой судебного иска после того, как клиент с помощью промт-инжиниринга заставил чат-бота сгенерировать большую скидку. Изначально ИИ-ассистент предназначался только для навигации по сайту и сбора контактных данных в нерабочее время.
Инцидент произошёл после того, как пользователь потратил около часа на общение с ботом, заставляя его решать математические задачи и рассчитывать проценты для теоретического заказа. Пытаясь впечатлить собеседника, ИИ самостоятельно создал код на скидку 25%, а затем, в ходе диалога, увеличил её до 80%. Клиент воспользовался сгенерированным предложением и оформил реальный заказ на сумму более 8000 фунтов стерлингов (~836 400 рублей).
Предприниматель отменил доставку и вернул деньги, так как выполнение заказа привело бы к убыткам, превышающим стоимость материалов. В ответ покупатель заявил о намерении обратиться в суд, если магазин не выполнит обязательства.