A Internet Watch Foundation (IWF), sediada no Reino Unido, está mais uma vez a lançar o alarme sobre a rápida disseminação de material de abuso sexual de crianças gerado por inteligência artificial (CSAM). Num novo relatório publicado na quarta-feira, o grupo informou que mais de 20.254 imagens CSAM geradas por inteligência artificial foram encontradas num fórum da darkweb em apenas um mês – e que uma inundação de conteúdos tão repugnantes poderia “inundar” a Internet.
À medida que os geradores de imagens de IA se tornam mais avançados, a capacidade de criar réplicas realistas de humanos está a crescer a passos largos. Geradores de imagens de IA como Midjourney, Runway, Stable Diffusion e Dall-E da OpenAI são apenas algumas das plataformas capazes de criar imagens realistas.
Estas plataformas baseadas na nuvem, que estão amplamente disponíveis para o público, implementaram restrições, regras e controlos significativos para impedir que actores perversos utilizem as suas ferramentas para criar conteúdos ofensivos. No entanto, os entusiastas da IA procuram regularmente formas de contornar estas salvaguardas.
“É importante que comuniquemos as realidades da CSAM de IA a um público alargado, uma vez que precisamos de debater o lado mais obscuro desta tecnologia fantástica” – disse a diretora-geral da Fundação, Susie Hargreaves, no relatório.
Descobrimos manuais on-line dedicados a ajudar os criminosos a ajustar os geradores de imagens de IA para criar imagens mais realistas de abuso sexual infantil por IA. Agora que os criminosos estão a usar crianças reais como modelos para gerar imagens de IA, os nossos especialistas dizem que podem ser criadas novas imagens…. pic.twitter.com/kESw9nZEtD
– Internet Watch Foundation (IWF) (@IWFhotline) 25 de outubro de 2023
Há uma série de esforços concertados para combater o abuso da inteligência artificial. Em setembro, o CEO da Microsoft, Brad Smith, sugeriu a utilização de regras KYC inspiradas nas utilizadas pelas instituições financeiras para ajudar a identificar os criminosos que utilizam modelos de IA para espalhar desinformação e fraude.
Em julho, o estado do Louisiana aprovou uma lei que endurece as penas para a venda e posse de pornografia infantil gerada por IA, segundo a qual qualquer pessoa condenada por criar, distribuir ou possuir deepfakes ilegais que representem menores pode ser condenada a uma pena de prisão de cinco a 20 anos, a uma multa até 10 000 dólares ou a ambas as penas combinadas.
Em agosto, o Departamento de Justiça dos EUA actualizou o seu guia do cidadão sobre a lei federal norte-americana relativa à pornografia infantil. Caso haja alguma confusão, o Departamento de Justiça sublinhou que as imagens de pornografia infantil não estão protegidas pela Primeira Emenda e são ilegais ao abrigo da lei federal.
