マネーロンダリング（AML）対策や顧客情報開示（KYC）要件など、金融詐欺に対抗するための一般的な管理体制が、AIと出会っているかもしれない。
OnlyFakeと呼ばれるアンダーグラウンドのサービスは、高品質の偽IDを作成するために「ニューラルネットワーク」を活用しており、404 Mediaのレポートによると、誰でもわずか15ドルで驚くほどリアルな偽IDを即座に生成することができ、様々な違法行為を助長する可能性がある。
主要な顧客向けプラットフォームであるオリジナルのOnlyFake Telegramアカウントは閉鎖された。しかし、新しいアカウントはフォトショップ時代の終わりを宣言し、高度な “ジェネレーター “を使って文書を大量生産する能力を誇っている。
サイトのオーナーはジョン・ウィックという偽名を使い、このサービスはエクセルのデータセットから数百のドキュメントを一括生成できると述べている。
画像は非常に優れており、404 Mediaは、第三者検証サービスJumioを使って顧客の書類を検証している暗号通貨取引所OKXのKYC対策を突破することができた。サイバーセキュリティ研究者は、ユーザーがOnlyFake IDを送って銀行口座を開設し、暗号アカウントをBAN解除してもらっていると同ニュースに語った。
その手口
OnlyFakeサービスは、非常に洗練されてはいるものの、基本的なAI技術を使用している。
AIの一種であるGenerative Adversarial Networks（GAN）を使用することで、開発者は、偽の世代を検出するために構築された別のものを欺くために最適化されたニューラルネットワークを設計することができる。しかし、相互作用のたびに、両方のネットワークは進化し、偽物を作ったり検出したりする能力が向上する。
もうひとつのアプローチは、本物のIDの膨大で十分にキュレーションされたデータセットを使って拡散ベースのモデルを訓練することだ。これらのモデルは、特定のアイテムの膨大なデータセットで学習することで、極めてリアルな画像を合成することに長けている。このモデルは、偽物を本物の文書とほとんど見分けがつかないようにする微細なディテールを再現することを学習し、従来の偽造検出方法を凌駕する。
危険を冒すべきか？
本物のIDを使うことを避けたい人々にとって、OnlyFakeは魅力的だろう。しかし、このサービスを利用することは、倫理的にも法的にも問題がある。匿名性を装い、簡単にアクセスできることをアピールしているが、その裏には非常に不安定な基盤がある。
米国、イタリア、中国、ロシア、アルゼンチン、チェコ共和国、カナダなど、多くの国の偽IDを配布しているため、公然の犯罪企業は間違いなく世界中の法執行機関の目に留まっている。
つまり、ビッグブラザーはすでに目を光らせているのだ。
リスクはそれだけではない。例えば、ジョン・ウィックは顧客リストを保管している可能性がある。さらに、新しいOnlyFakeのTelegramグループには600人以上のメンバーがおり、そのほとんどがリンクされた電話番号から辿れる可能性がある。
そして当然ではあるが、OnlyFakeに従来のデジタル決済手段で支払いをするのは大反対である。
暗号通貨による支払いはプライバシーのレイヤーを提供してくれるとはいえ、IDの漏洩から完全に守られているわけでもない。無数のサービスが暗号取引を追跡できると主張しているため、デジタル通貨はそれらに関連する匿名性を失い始めている。
そして、OnlyFakeは暗号プライバシー・トークンであるMoneroを扱っていない。
最も重要なことは、偽造IDの購入は、少なくとも表向きはテロ資金やその他の犯罪行為と戦うために設けられているAMLおよびKYCポリシーに真っ向から反するということだ。
ビジネスは活況を呈しているかもしれないが、起こりうる影響は、迅速で手頃な利便性に見合うものだろうか？
進化する規制
規制当局はすでにこの新たな脅威に取り組もうとしている。1月29日、米商務省は “Taking Additional Steps To Address the National Emergency With Respect to Significant Malicious Cyber-Enabled Activities “と題する一連の規則を提案した。
同省は、理由の如何を問わず、大規模なAIモデルを訓練しようとする外国人を報告するよう、インフラ・プロバイダーに義務付けたいとしているが、確かにディープフェイクが詐欺やスパイ活動に利用される可能性があるケースが焦点となる。
これらの対策はまだ十分ではないかもしれない。
「サトシ・ペイのCTOであるトーステン・シュテューバーはツイッターで、「KYCの没落は、AIが検証をすり抜ける偽IDを作るようになったことで避けられなくなった。「今こそ転換の時だ： 厳格な規制が必須であるならば、政府は時代遅れの官僚主義を捨てて暗号技術を導入し、安全な第三者による本人確認を可能にする必要がある」。
もちろん、AIを使った詐欺は偽造IDにとどまらない。Telegramのボットは現在、個人の顔を既存の映像に重ねるカスタムディープフェイク動画から、ディープヌードと呼ばれる実在しない人物のヌード画像の作成まで、さまざまなサービスを提供している。
以前のサービスとは異なり、これらは多くの知識や強力なハードウェアさえも必要としないため、無料の画像編集ツールをダウンロードする必要さえなく、この技術を広く利用することができる
。
