Britská společnost Internet Watch Foundation (IWF) opět bije na poplach kvůli rychlému šíření materiálů o sexuálním zneužívání dětí (CSAM) generovaných umělou inteligencí. V nové zprávě zveřejněné ve středu skupina uvádí, že na jednom darkwebovém fóru bylo během jediného měsíce nalezeno více než 20 254 obrázků CSAM vytvořených umělou inteligencí – a že záplava takového odporného obsahu by mohla „zahltit“ internet.
S postupným zdokonalováním generativních generátorů obrázků s umělou inteligencí se skokově zvyšuje schopnost vytvářet realistické repliky lidských bytostí. Generátory obrazů umělé inteligence, jako jsou Midjourney, Runway, Stable Diffusion a Dall-E od OpenAI, jsou jen některé z platforem schopných vykouzlit realistické obrazy.
Tyto cloudové platformy, které jsou široce přístupné veřejnosti, zavedly značná omezení, pravidla a kontroly, aby zabránily zneužití svých nástrojů nekalými subjekty k vytváření zneužitelného obsahu. Nadšenci do umělé inteligence však pravidelně hledají způsoby, jak tyto ochranné zábrany obejít.
„Je důležité, abychom širokému publiku sdělili realitu CSAM v oblasti umělé inteligence, protože je třeba diskutovat o temných stránkách této úžasné technologie,“ uvedla ve zprávě generální ředitelka nadace Susie Hargreavesová.
Objevili jsme online příručky věnované pomoci zločincům vyladit generátory obrázků AI tak, aby vytvářely realističtější obrázky sexuálního zneužívání dětí AI. Nyní, když zločinci používají skutečné děti jako modely pro generování snímků AI, mohou podle našich odborných analytiků vznikat nové snímky… pic.twitter.com/kESw9nZEtD
– Internet Watch Foundation (IWF) (@IWFhotline) October 25, 2023
Společnost IWF uvedla, že její „nejhorší noční můra“ se stala skutečností, a uvedla, že nyní sleduje případy CSAM generované umělou inteligencí skutečných obětí sexuálního zneužívání. Britská skupina rovněž upozornila na snímky celebrit, které byly zestárlé a zmanipulované tak, aby vypadaly jako oběti zneužívání, a také na zmanipulované fotografie slavných dětí.
„Jako by obětem nestačilo, že vědí, že jejich zneužívání může být sdíleno v nějakém temném koutě internetu, nyní riskují, že budou konfrontovány s novými snímky, na nichž jsou zneužívány novými a hrůznými způsoby, které si dříve nedokázaly představit,“ uvedl Hargreaves.
Jedním z hlavních problémů šíření CSAM generovaných umělou inteligencí, které připomínají život, je to, že by mohly odvádět zdroje orgánů činných v trestním řízení od odhalování a odstraňování skutečného zneužívání, uvádí IWF.
Nadace byla založena v roce 1996 a je neziskovou organizací, která se zabývá monitorováním internetu z hlediska obsahu sexuálního zneužívání, konkrétně toho, který je zaměřen na děti.
V září IWF varovala, že pedofilní kruhy diskutují a vyměňují si tipy na vytváření nelegálních snímků dětí pomocí modelů umělé inteligence s otevřeným zdrojovým kódem, které lze stáhnout a spustit lokálně na osobních počítačích.
„Pachatelé si mohou legálně stáhnout vše, co potřebují k vytvoření těchto snímků, a pak mohou vytvořit tolik snímků, kolik chtějí, a to offline, bez možnosti odhalení,“ uvedla IWF.
Britská skupina vyzvala k mezinárodní spolupráci v boji proti metle CSAM a navrhla víceúrovňový přístup, včetně změn příslušných zákonů, aktualizace školení orgánů činných v trestním řízení a zavedení regulačního dohledu nad modely umělé inteligence.
Vývojářům umělé inteligence IWF doporučuje zakázat používání jejich umělé inteligence k vytváření materiálů o zneužívání dětí, deindexovat související modely a přednostně odstraňovat z jejich modelů materiály o zneužívání dětí.
„Jedná se o globální problém, který vyžaduje, aby země spolupracovaly a zajistily, že legislativa bude odpovídat svému účelu,“ uvedl Hargreaves v prohlášení, které již dříve poskytl TCN, a poznamenal, že IWF ve své domovské zemi účinně omezuje CSAM.
„Skutečnost, že méně než 1 % kriminálního obsahu je hostováno ve Spojeném království, poukazuje na naše vynikající pracovní partnerství s britskými policejními složkami a agenturami a my budeme aktivně spolupracovat s orgány činnými v trestním řízení i v otázce tohoto nového alarmujícího trendu,“ dodal Hargreaves. „Vyzýváme premiéra Spojeného království, aby tuto otázku důrazně zařadil na pořad jednání celosvětového summitu o bezpečnosti umělé inteligence, který bude v listopadu hostit Spojené království.“
Zatímco podle IWF dochází k odebírání darkwebových fór hostujících nelegální CSAM ve Spojeném království, odstranění může být podle skupiny složitější, pokud jsou webové stránky hostovány v jiných zemích.
V boji proti zneužívání UI existuje řada společných snah. V září prezident společnosti Microsoft Brad Smith navrhl, aby se k identifikaci zločinců využívajících modely AI k šíření dezinformací a zneužívání používaly zásady KYC po vzoru těch, které používají finanční instituce.
Stát Louisiana přijal v červenci zákon zvyšující trest za prodej a držení dětské pornografie generované umělou inteligencí, podle kterého může být každý, kdo bude usvědčen z vytváření, distribuce nebo držení nezákonných deepfake snímků zobrazujících nezletilé, povinně odsouzen k pěti až dvaceti letům vězení, pokutě až 10 000 dolarů nebo k obojímu.
V srpnu ministerstvo spravedlnosti USA aktualizovalo svou stránku Citizen’s Guide To U.S. Federal Law On Child Pornography (Občanský průvodce federálním právem USA v oblasti dětské pornografie). Pro případ, že by došlo k nejasnostem, ministerstvo spravedlnosti zdůraznilo, že snímky dětské pornografie nejsou chráněny prvním dodatkem a jsou podle federálních zákonů nezákonné.
