ニュージーランドのスーパーマーケットで、顧客が残飯を創造的に利用できるように設計された人工知能搭載のアプリが暴走し、家族の夕食中に有毒化学兵器のレシピを陽気に提案している。
Pak ‘n’ Saveは先月末、”Savey Meal-bot “アプリを立ち上げ、厳しい経済状況下で節約料理を作るハイテクな方法として宣伝した。手持ちの食材を入力すると、ユーザーはアプリのAI技術から自動生成されたレシピを受け取る。
“余った食材を教えてください！技術担当者が、新しいレシピを節約できると言っています！” パックンセーブはボットのウェルカムスクリーンでこう言っている。これは、私の最も節約できるスティック技術です！”
しかし、人々はクリエイティブなことが好きで、顧客がアプリにランダムな日用品を入力し始めると、”Aromatic Water Mix”（別称、致死性の塩素ガス）、”Poison Bread Sandwiches”（アリ毒と接着剤のサンドイッチ）、”Methanol Bliss”（テレビン油ベースのフレンチトースト）などのレシピを提案し始めた。日曜のディナーにはふさわしくない。
パックン・セーブの広報担当者はガーディアン紙に対し、「ごく一部のユーザーが不適切な利用を試みたことに失望している」と述べ、アプリの利用規約では利用者は18歳以上でなければならないと付け加えた。同社は、安全性を向上させるために「管理の微調整を続ける」予定だという。
パックンセーブは当初、AIミールプランナーアプリをこんなキャッチフレーズで宣伝していた： “残り物を教えてくれれば、技術者が新しいレシピを提供すると言っています！” しかし、このアプリには、レシピが “消費に適している “ことを保証するものではないという免責条項も付いていた。
TCNが普通の食材を使ってアプリを試したところ、広告通りに機能した。しかし、”シャンプー “や “排水管洗浄剤 “のような明らかに安全でないものを入力すると、アプリはリクエストをブロックする。
これがギリギリの修正でない限り、イタズラ好きなユーザーが危険なアイテムを食べ物だとAIを騙す方法を見つけたことを示唆している。このテクニックは “ジェイルブレイク “とも呼ばれ、ChatGPTや他のAIチャットボットにガイドラインに反することをさせるために使われてきた。
だから、今度残り物でちょっとクリエイティブになりすぎたら、不具合のあるAIアプリよりも料理本にこだわることだ。その「びっくりライス」は予想以上の衝撃を与えるかもしれない。
