Приложение новозеландского супермаркета на базе искусственного интеллекта, призванное помочь покупателям творчески использовать остатки продуктов, вышло из себя и весело предлагает рецепты токсичного химического оружия за семейным ужином.
Компания Pak ‘n’ Save запустила свое приложение «Savey Meal-bot» в конце прошлого месяца, рекламируя его как высокотехнологичный способ приготовления экономичных блюд в трудные экономические времена. После ввода имеющихся в наличии ингредиентов пользователь получает автоматически сгенерированный рецепт, разработанный искусственным интеллектом, который сопровождается восторженными комментариями типа «Вкусно!» и «Ням!»
«Расскажите нам, какие у вас остались продукты, и, по словам технологов, вы получите новый полезный рецепт!» говорит Pak ‘n’ Save на экране приветствия своего бота, — «Давайте используем все остатки еды, и не будет никаких отходов. Это моя самая замечательная технология использования палочек!».
Но люди любят творческий подход, и когда покупатели начали вводить в приложение случайные предметы домашнего обихода, бот стал предлагать такие рецепты, как «Ароматическая водная смесь» (иначе известная как смертельный хлорный газ), «Бутерброды с ядовитым хлебом» (бутерброды с муравьиным ядом и клеем) и «Метаноловое блаженство» (французский тост на основе скипидара). Не совсем подходящее блюдо для воскресного ужина.
«Мы разочарованы тем, что небольшое меньшинство пыталось использовать этот инструмент не по назначению», — заявил представитель Pak ‘n’ Save газете The Guardian, добавив, что по условиям использования приложения его пользователи должны быть старше 18 лет. Компания планирует «продолжать совершенствовать наши средства контроля» для повышения безопасности.
Изначально Pak ‘n’ Save рекламировала свое приложение AI-планировщик еды под лозунгом: «Скажите нам, что у вас осталось, и, по словам технологов, вы получите новый замечательный рецепт!». Однако в приложении также содержалось предупреждение о том, что оно не гарантирует, что рецепты будут «пригодны к употреблению».
Когда TCN попробовал приложение, используя обычные ингредиенты, оно сработало, как и было заявлено. Но если ввести что-то явно небезопасное, например «шампунь» или «средство для очистки канализации», приложение блокирует запрос.
Если это не исправление, сделанное в последнюю минуту, то это говорит о том, что пользователи-шутники нашли способ обмануть ИИ, заставив его принять опасные предметы за еду, вероятно, творчески описав их. Эта техника, также известная как «взлом», использовалась для того, чтобы заставить ChatGPT и другие чат-боты с искусственным интеллектом пойти против своих инструкций.
Так что в следующий раз, когда вы будете слишком творчески подходить к остаткам пищи, придерживайтесь кулинарных книг, а не глючных приложений с искусственным интеллектом. Рис с сюрпризом» может оказаться более сильным шоком для системы, чем ожидалось.
