L’IA generativa è un tipo di programma, normalmente presentato sotto forma di chatbot, in grado di generare testo, immagini o altri media in risposta a richieste.
Il rapporto delle Nazioni Unite ha espresso preoccupazione per l’effetto dei deepfakes e della disinformazione generata dall’IA nelle zone di conflitto.
L’uso di discorsi di odio è stato spesso osservato come precursore di crimini atroci come il genocidio, osserva l’ONU. Il rapporto sottolinea inoltre che la Convenzione del 1948 sulla prevenzione e la punizione del crimine di genocidio proibisce qualsiasi incitamento diretto o pubblico che possa portare al genocidio.
La proliferazione dell’odio e delle menzogne nello spazio digitale sta causando gravi danni globali.
Questa chiara e attuale minaccia globale richiede un’azione globale chiara e coordinata.
– @antonioguterres lancia il suo nuovo rapporto sull’integrità delle informazioni sulle piattaforme digitali. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Nazioni Unite (@UN) 12 giugno 2023
Pur non fornendo esempi specifici, il rapporto delle Nazioni Unite ha richiamato l’attenzione sui recenti casi di utilizzo dell’IA generativa per creare, in alcuni casi, contenuti e immagini convincenti e fuorvianti.
A marzo, un’immagine generata dall’IA dell’arresto dell’ex presidente Donald Trump è diventata virale dopo essere stata condivisa su Twitter dal fondatore e direttore creativo di Bellingcat Eliot Higgins. Nello stesso mese, Midjourney, l’azienda dietro l’omonimo generatore di AI da testo a immagine, ha terminato la sua versione di prova gratuita a causa di un diffuso abuso.
Tutte le parti interessate dovrebbero adottare misure urgenti e immediate per garantire un uso sicuro, protetto, responsabile, etico e conforme ai diritti umani dell’intelligenza artificiale e affrontare le implicazioni dei recenti progressi in questo campo per la diffusione della disinformazione e dell’incitamento all’odio”, ha dichiarato l’ONU.
Il rapporto invita i proprietari delle piattaforme digitali a investire in sistemi di moderazione dei contenuti che utilizzino sia l’intelligenza umana che quella artificiale per tutte le lingue utilizzate nei Paesi in cui operano e a rendere trasparente la segnalazione dei contenuti.
Affermando che l’era della filosofia “muoviti velocemente e rompi le cose” della Silicon Valley deve finire, l’organismo internazionale ha detto che la privacy, la sicurezza e la trasparenza degli utenti sono essenziali e dovrebbero essere integrate nelle nuove tecnologie fin dall’inizio.
Guterres ha indicato il prossimo Vertice del futuro del 2024 come un’opportunità per concordare soluzioni multilaterali.
“Le sfide che stiamo affrontando possono essere affrontate solo attraverso una maggiore cooperazione internazionale”, ha dichiarato il Segretario generale Guterres.
