Il gigante dei social media Twitter ha dichiarato che un nuovo sistema per prevenire la diffusione di materiale pedopornografico (CSAM) sulla sua piattaforma è stato “implementato senza problemi”, testando la tecnologia sviluppata dal gruppo no-profit Thorn.
L’account Twitter Safety ha annunciato martedì di aver partecipato a un beta test della soluzione Safer del gruppo, alimentata dall’intelligenza artificiale, per individuare, cancellare e segnalare in modo proattivo il materiale testuale contenente sfruttamento sessuale di minori.
Grazie alla nostra collaborazione con @thorn, stiamo facendo di più per creare una piattaforma sicura. X ha partecipato al test della soluzione di Thorn durante la fase beta per individuare in modo proattivo lo sfruttamento sessuale dei minori basato sui testi. Questo lavoro si basa sui nostri sforzi incessanti per combattere lo sfruttamento sessuale…
– Safety (@Safety) May 7, 2024
“Grazie alla nostra collaborazione con Thorn, stiamo facendo di più per creare una piattaforma sicura”, ha scritto l’account Twitter Safety. “Questo lavoro si basa sui nostri incessanti sforzi per combattere lo sfruttamento sessuale dei minori online, con l’obiettivo specifico di espandere le nostre capacità di combattere i contenuti ad alto impatto dove un bambino è a rischio imminente”.
“Questa soluzione self-hosted è stata implementata senza soluzione di continuità nei nostri meccanismi di rilevamento, permettendoci di individuare gli account ad alto rischio”, ha continuato il sito.
Thorn, lanciata nel 2012 dagli attori Demi Moore e Ashton Kutcher, sviluppa strumenti e risorse per difendere i bambini dagli abusi e dallo sfruttamento sessuale. Ad aprile, Google, Meta e OpenAI hanno sottoscritto un impegno emesso da Thorn e dall’altra organizzazione no-profit All Tech is Human, con il quale si impegnano ad applicare delle barriere di sicurezza ai loro modelli di intelligenza artificiale.
“Abbiamo imparato molto dai nostri test beta”, ha dichiarato a TCN Rebecca Portnoff, vicepresidente di Thorn per la scienza dei dati. “Pur sapendo che gli abusi sessuali su minori si manifestano in tutti i tipi di contenuti, compresi quelli testuali, in questo beta testing abbiamo visto concretamente come il machine learning/AI per il testo possa avere un impatto reale su larga scala”.
Come ha spiegato Portnoff, il modello Safer AI comprende un modello linguistico addestrato su testi relativi alla sicurezza dei minori e un sistema di classificazione che genera previsioni multi-label per le sequenze di testo. I punteggi di previsione variano da 0 a 1, indicando la fiducia del modello nella rilevanza del testo per le varie categorie di sicurezza dei bambini.
A causa della proliferazione degli strumenti di IA generativa dal lancio di ChatGPT nel 2022, gruppi di vigilanza su Internet come la Internet Watch Foundation, con sede nel Regno Unito, hanno lanciato l’allarme su una marea di materiale pedopornografico generato dall’IA che circola sui forum del dark web, affermando che il materiale illecito potrebbe sommergere Internet.
L’annuncio del team per la sicurezza di Twitter è arrivato poche ore prima che l’Unione Europea chiedesse all’azienda di spiegare i rapporti sulla “diminuzione delle risorse per la moderazione dei contenuti”.
L’ultimo rapporto di trasparenza che Twitter ha presentato alle autorità di regolamentazione dell’UE afferma che le misure di riduzione dei costi di Elon Musk hanno ridotto le dimensioni del team di moderazione dei contenuti della piattaforma di quasi il 20% dall’ottobre 2023, e hanno tagliato il numero di lingue monitorate da 11 a 7.
“La Commissione chiede inoltre ulteriori dettagli sulle valutazioni dei rischi e sulle misure di mitigazione legate all’impatto degli strumenti di IA generativa sui processi elettorali, sulla diffusione di contenuti illegali e sulla protezione dei diritti fondamentali”, aggiunge la richiesta.
L’UE ha avviato un procedimento formale contro Twitter nel dicembre 2023 per le preoccupazioni che l’azienda abbia violato il Digital Services Act in diverse aree, tra cui la gestione dei rischi, la moderazione dei contenuti, i “modelli oscuri” e l’accesso ai dati per i ricercatori.
La Commissione ha dichiarato che Twitter deve fornire le informazioni richieste entro il 17 maggio e rispondere a ulteriori domande entro il 27 maggio.
