アマゾンで販売されているAIが生成したガイドブックの普及は、致命的な結果をもたらす可能性があると専門家は警告している。料理本から旅行ガイドまで、人間の著者は人工知能が読者を大きく迷わせる可能性があると警告している。
AIのアドバイスを盲目的に信頼することに関する最新の警告は、キノコ狩りの世界からもたらされた。ニューヨーク菌類学会は最近、ChatGPTのような生成AIツールを使って作成されたと思われる怪しげな採集本がもたらす危険性について、ソーシャルメディアで警鐘を鳴らした。
： PSA アラート！
このような書籍の購入は、著者の身元が判明しているもののみにしてください。有名な著者やフォリジャーの本だけを買ってください。pic.twitter.com/FSqQLDhh42
– newyorkmyc (@newyorkmyc) 2023年8月27日
404メディアのインタビューに応じたニューヨーク菌類学会のシグリッド・ヤコブ会長は、「北米には何百種類もの毒キノコがあり、死に至るものもいくつかあります。「食用として人気のある種に似ていることもあります。本の説明が不十分だと、毒キノコを食べるように誤解させる可能性がある。
アマゾンで検索してみると、”The Ultimate Mushroom Books Field Guide of the Southwest “や “Wild Mushroom Cookbook For Beginner”[中略]のような疑わしいタイトルが多数見つかった。AIが作成したこれらの書籍は、おなじみの定型文にしたがっており、冒頭にはアマチュアの趣味人についての短い架空のエピソードが書かれているが、どれも嘘くさい。
ZeroGPTのような分析ツールによれば、内容自体は不正確なものが多く、本物の菌類学の専門知識を示すというよりは、AIのテキストに典型的なパターンを模倣している。しかし、これらの本は、AIが捏造した安全でないアドバイスと信頼できる情報源を見分けることができない採集初心者向けに販売されている。
「人間が書いた本は、調査や執筆に何年もかかることがあります」とヤコブは言う。
今に始まったことじゃない… そしておそらく最後でもない
専門家によると、AIは適切に監視されなければ、誤った情報や危険なアドバイスを簡単に広めてしまう可能性があるため、私たちはAIを過度に信頼することに注意しなければならないという。最近の研究では、人間はAIが作成した偽情報と人間が作成した偽情報を比較すると、AIが作成した偽情報を信じる可能性が高いことがわかった。
研究者たちは、AIテキストジェネレーターに、ワクチンや5G技術などのトピックに関する誤った情報を含む偽のツイートを書かせた。調査参加者はその後、本物のツイートとAIで捏造されたツイートを見分けるよう求められた。
驚くべきことに、一般人はツイートが人間によって書かれたものか、GPT-3のような高度なAIによって書かれたものかを確実に判断することができなかった。ツイートの正確さは、発信元を見分ける能力に影響しなかった。
「我々の結果が示すように、現在利用可能な大規模な言語モデルは、すでに有機的なテキストと見分けがつかないテキストを生成することができる」と研究者は書いている。
この現象は、怪しげな採集ガイドに限ったことではない。最近も、AIアプリが危険なレシピを顧客に勧めた事例があった。
ニュージーランドのスーパーマーケットPak ‘n’ Saveは最近、「Savey Meal-Bot」と呼ばれる食事計画アプリを導入した。しかし、悪ふざけで危険な日用品を入力すると、アプリは「芳香水ミックス」や「メタノール至福」のような有毒な混合物の調合を提案した。
I asked the Pak ‘n Save recipe maker if I only have water, bleach and ammonia and it was suggested to make deadly chlorine gas, or – the Savey Meal-Bot calls it “aromatic water mix” pic.twitter.com/ybuhgPWTAo
– Liam Hehir (@PronouncedHare) August 4, 2023
TCNが確認したように、このアプリはその後アップデートされ、安全でない提案をブロックするようになったが、無責任に導入されたAIの潜在的な危険性を浮き彫りにした。
しかし、AIを利用した偽情報の影響を受けやすいことは、驚くべきことではない。LLMは、理にかなった最も可能性の高い結果に基づいてコンテンツを作成するように構築されており、そのような驚くべき結果を達成するために膨大な量のデータに基づいて訓練されている。つまり、私たち人間がAIを信じやすいのは、AIが私たちが良い結果とみなすものを模倣して生成するからなのだ。MidJourneyが美しいが実用的でない建築物を生み出し、LLMが面白いが致命的なキノコガイドを生み出すのはそのためだ。
創造的なアルゴリズムは多くの点で人間の能力を補強することができるが、社会は判断を完全に機械に委ねるわけにはいかない。AIには、生きた経験から得られる知恵と説明責任が欠けている。
採食アルゴリズムが作り出した仮想の森は、青々として心地よく見えるかもしれない。しかし、地形を熟知した人間のガイドがいなければ、危険な領域に迷い込む危険性がある。
