新西兰一家超市的人工智能应用程序旨在帮助顾客创造性地利用剩菜剩饭，但这款应用程序却 “变节 “了，在家庭聚餐时兴高采烈地向顾客推荐有毒化学武器的食谱。
Pak ‘n’ Save于上月底推出了 “Savey Meal-bot “应用程序，并将其宣传为在经济困难时期制作省钱饭菜的高科技方法。用户在输入手头的食材后，就会收到该应用的人工智能技术自动生成的食谱，并配以 “美味！”和 “好吃！”等热情洋溢的评论。
“Tell us what leftover food you have, and the tech-guys said you’ll get a savey new recipe!” “告诉我们你有什么剩余食物，技术人员说你会得到一份新食谱！”Pak ‘n’ Save 在其网站上说。Pak ‘n’ Save 在其机器人的欢迎屏幕上说：”让我们把剩菜剩饭都吃光，不浪费。这是我最省钱的棒棒糖技术！”
但人们喜欢发挥创意，当顾客开始在应用程序中输入随机的家庭用品时，它就开始提出一些食谱，如 “芳香水混合物”（又称致命氯气）、”毒面包三明治”（蚂蚁毒药和胶水三明治）和 “甲醇幸福”（以松节油为基础的法式吐司）。这可不是星期天的晚餐。
Pak ‘n’ Save发言人告诉《卫报》：”我们对少数人试图不当使用该工具感到失望。该公司计划 “继续微调我们的控制措施”，以提高安全性。
Pak ‘n’ Save 最初在宣传其人工智能膳食计划应用程序时打出了这样的标语： “告诉我们你有什么剩饭剩菜，技术人员说你会得到一份新食谱！” 但该应用也附带了免责声明，即不保证食谱 “适合食用”。
当 TCN 使用普通食材试用该应用程序时，它的效果与广告宣传的一样。但如果输入 “洗发水 “或 “下水道清洁剂 “等明显不安全的成分，应用程序就会阻止请求。
除非这是最后一分钟的修复，否则这表明恶作剧的用户找到了一种方法来欺骗人工智能，使其认为危险物品是食物，很可能是通过创造性地描述它们。这种技术也被称为 “越狱”，曾被用来让 ChatGPT 和其他人工智能聊天机器人违背它们的准则。
因此，下次如果你对剩菜剩饭有点太有创意了，请坚持使用烹饪书，而不是有漏洞的人工智能应用程序。惊喜米饭 “对系统的冲击可能比想象的要大。
