AI画像生成ツールが洗練されるにつれて、人間のリアルな複製を作成する能力も飛躍的に向上している。Midjourney、Runway、Stable Diffusion、OpenAIのDall-EなどのAI画像ジェネレーターは、リアルな画像を作成できるプラットフォームのほんの一部に過ぎない。
広く一般に利用されているこれらのクラウドベースのプラットフォームは、そのツールが悪意のある行為者によって悪用されるコンテンツを作成するために使用されることを防ぐために、重要な制限、ルール、コントロールを導入している。しかし、AI擁護派は定期的にこれらの保護を回避する方法を探している。
「この素晴らしい技術のダークサイドについて議論する必要があるため、CSAM AIの現実を一般大衆に伝えることが重要です」と、財団のCEOであるスージー・ハーグリーヴスは報告書の中で述べている。
私たちは、犯罪者がよりリアルな児童虐待の画像を生成するために、AI画像ジェネレーターを完成させるように設計されたオンラインマニュアルを発見しました。犯罪者がAI画像生成のテンプレートとして実際の児童を使用している今、我々の専門家アナリストは、新たな画像を作成することが可能であると述べている… pic.twitter.com/kESw9nZEtD
– Internet Watch Foundation (IWF) (@IWFhotline) 2023年10月25日
これは世界的な問題であり、各国が協力し、目的に合った法律を制定する必要があります」と、ハーグリーブスはTCNに発表した声明の中で述べている。
「英国でホスティングされている犯罪コンテンツが1％未満であることは、英国の警察や関係機関との優れたパートナーシップの証であり、この憂慮すべき新しい傾向と闘うため、法執行機関と積極的に協力していく」とハーグリーヴスは付け加えた。我々は英国首相に対し、この問題を11月に英国で開催されるIWF世界安全保障サミットの議題とするよう強く要請する」。
IWFは、英国で違法なCSAMをホストしているダークウェブ・フォーラムの解体が進行中であると主張しているが、同団体は、サイトが他の国でホストされている場合、解体はより複雑になる可能性があると説明している
。
AIの悪用と闘うために、多くの協調的な取り組みが進行中である。9月、マイクロソフトのブラッド・スミス社長は、AIモデルを使って虚偽の情報を流したり、不正利用を行ったりする犯罪者を特定するために、金融機関が使用しているものをモデルにしたKYCポリシーを使用することを提案した。
7月には米ルイジアナ州で、AIが生成した児童ポルノの販売や所持に対する罰則を強化する法律が可決された。この法律では、未成年者の違法なディープフェイク画像の作成、配布、所持で有罪となった者は、5年以上20年以下の禁固刑、1万ドル以下の罰金、またはその両方が科される。
米国司法省は8月、『児童ポルノに関する米国連邦法の市民向けガイド』のページを更新した。混乱に備えて司法省は、児童ポルノ画像は憲法修正第1条で保護されておらず、連邦法上違法であることを強調している。
