Българската фирма за наблюдение на интернет Internet Watch Foundation (IWF) отново алармира за бързото разпространение на материали за сексуално насилие над деца, генерирани от изкуствен интелект. В нов доклад, публикуван в сряда, групата съобщава, че само за един месец в един форум в тъмната мрежа са открити над 20 254 изображения на CSAM, генерирани от изкуствен интелект – и че потокът от такова отвратително съдържание може да „залее“ интернет.
С усъвършенстването на генеративните генератори на изображения с изкуствен интелект, способността за създаване на реалистични копия на човешки същества нараства с пъти. Генератори на изображения с изкуствен интелект като Midjourney, Runway, Stable Diffusion и Dall-E на OpenAI са само някои от платформите, способни да създават реалистични изображения.
Тези базирани в облака платформи, които са широко достъпни за обществеността, са въвели значителни ограничения, правила и контрол, за да предотвратят използването на инструментите им от недобросъвестни лица за създаване на неправомерно съдържание. Ентусиастите на изкуствения интелект обаче редовно търсят начини да заобиколят тези предпазни огради.
„Важно е да съобщим на широката аудитория за реалностите на ИИ CSAM, защото трябва да обсъждаме тъмната страна на тази невероятна технология“, казва в доклада главният изпълнителен директор на фондацията Сузи Харгрийвс.
Открихме онлайн наръчници, посветени на това да помагат на престъпниците да настройват генераторите на изображения с изкуствен интелект, за да създават по-реалистични изображения на сексуално насилие над деца с изкуствен интелект. Сега, когато престъпниците използват истински деца като модели за генериране на изображения от изкуствен интелект, нашите експертни анализатори твърдят, че могат да бъдат създадени нови изображения… pic.twitter.com/kESw9nZEtD
– Internet Watch Foundation (IWF) (@IWFhotline) October 25, 2023
Казвайки, че нейният „най-лош кошмар“ се е сбъднал, IWF заяви, че сега проследява случаи на генерирани от изкуствен интелект CSAM на реални жертви на сексуално насилие. Групата от Обединеното кралство също така изтъкна изображения на известни личности, които са обезстарявани и манипулирани, за да изглеждат като жертви на злоупотреба, както и манипулирани снимки на известни деца.
„Сякаш не е достатъчно за жертвите да знаят, че злоупотребата с тях може да бъде споделена в някое тъмно кътче на интернет, сега те рискуват да се сблъскат с нови изображения на самите себе си, които са били малтретирани по нови и ужасяващи начини, които не са си представяли преди“, каза Харгрийвс.
Един от основните проблеми, свързани с разпространението на реалистични CSAM, генерирани от изкуствен интелект, е, че това може да отклони ресурсите на правоприлагащите органи от откриването и отстраняването на действителни злоупотреби, заявява IWF.
Фондацията е основана през 1996 г. и е организация с нестопанска цел, която се занимава с наблюдение на интернет за съдържание, свързано със сексуална злоупотреба, по-специално насочено към деца.
През септември IWF предупреди, че педофилски кръгове обсъждат и обменят съвети за създаване на незаконни изображения на деца с помощта на модели с отворен код с изкуствен интелект, които могат да се изтеглят и стартират локално на персонални компютри.
„Извършителите могат законно да изтеглят всичко, което им е необходимо за генерирането на тези изображения, след което могат да създадат толкова изображения, колкото искат, офлайн, без възможност за откриване“, заяви IWF.
Групата от Обединеното кралство призова за международно сътрудничество в борбата с бича на CSAM, като предложи многостепенен подход, включващ промени в съответните закони, актуализиране на обучението на правоприлагащите органи и установяване на регулаторен надзор върху моделите с изкуствен интелект.
За разработчиците на изкуствен интелект IWF препоръчва да забранят използването на техния изкуствен интелект за създаване на материали, свързани със злоупотреба с деца, да деиндексират свързаните с тях модели и да премахнат приоритетно материали, свързани със злоупотреба с деца, от своите модели.
„Това е глобален проблем, който изисква страните да работят заедно и да гарантират, че законодателството е подходящо за целта“, каза Харгрийвс в изявление, споделено преди това с TCN, като отбеляза, че IWF е била ефективна в ограничаването на CSAM в своята страна.
„Фактът, че по-малко от 1 % от криминалното съдържание се хоства в Обединеното кралство, сочи отличните ни работни партньорства с полицейските сили и агенции на Обединеното кралство и ние също ще се ангажираме активно с правоприлагащите органи по отношение на тази тревожна нова тенденция“, каза Харгрийвс. „Призоваваме министър-председателя на Обединеното кралство да постави този въпрос категорично в дневния ред на световната среща на високо равнище по въпросите на безопасността на изкуствения интелект, чийто домакин ще бъде Обединеното кралство през ноември.“
Въпреки че IWF казва, че свалянето на тъмни уеб форуми, на които се хостват незаконни CSAM в Обединеното кралство, се случва, групата заяви, че премахването може да бъде по-сложно, ако уебсайтът се хоства в други държави.
Съществуват многобройни съгласувани усилия за борба със злоупотребата с ИИ. През септември президентът на Майкрософт Брад Смит предложи да се използват политики за ключови действия, моделирани по примера на тези, използвани от финансовите институции, за да се помогне за идентифицирането на престъпници, използващи модели на ИИ за разпространение на дезинформация и злоупотреби.
През юли в щата Луизиана беше приет закон, който увеличава наказанието за продажба и притежание на детска порнография, генерирана от ИИ, и в който се казва, че всеки, който е осъден за създаване, разпространение или притежание на незаконни дълбокофалшиви изображения, изобразяващи непълнолетни, може да бъде осъден на задължително лишаване от свобода от пет до 20 години, глоба до 10 000 долара или и двете.
През август Министерството на правосъдието на САЩ актуализира страницата си „Ръководство за граждани за федералното законодателство на САЩ в областта на детската порнография“ (Citizen’s Guide To U.S. Federal Law On Child Pornography). В случай, че е имало някакво объркване, Министерството на правосъдието подчертава, че изображенията на детска порнография не са защитени от Първата поправка и са незаконни съгласно федералното законодателство.
