El editor de vídeo y escritor satírico político de Los Ángeles Justin T. Brown se ha encontrado en el centro de un polémico debate gracias a sus imágenes generadas por IA que retratan a destacados políticos como Donald Trump, Barack Obama y Joe Biden en infidelidades ficticias.
Su provocadora serie, bautizada como «La IA revolucionará la industria del chantaje», no tardó en ser criticada, lo que provocó el destierro de Brown de la plataforma artística Midjourney AI, que utilizó para generar las imágenes.
Brown dijo que las imágenes se concibieron como una cruda advertencia sobre el posible mal uso de la inteligencia artificial.
No es la primera vez que las imágenes generadas por IA suscitan polémica. Anteriormente, TCN había generado imágenes humorísticas de Joe Biden con notable precisión, pero el equipo de Midjourney se libró de tomar medidas punitivas. Sin embargo, otros usuarios que generaron imágenes de personalidades como el Papa y el presidente de China no tuvieron tanta suerte, y se ganaron prohibiciones.
Me expulsaron de Midjourney AI por generar imágenes realistas de políticos engañando a sus esposas para una serie llamada «La IA revolucionará la industria del chantaje».
Un par de reflexiones sobre las imágenes de IA de alguien a quien se le da bien hacer cosas falsas
Trump engañando a su mujer: pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) 26 de mayo de 2023
El proyecto de Brown se concibió con un único objetivo: catapultar las amenazas potenciales del uso indebido de la IA al discurso dominante.
«Creé la serie con el objetivo de arrastrar a algunas de las personas más influyentes de Estados Unidos a la conversación sobre los peligros de la IA y llegar al mayor público posible», explicó Brown en un hilo de Twitter.
Las consecuencias de la polémica serie de Brown sobre la IA no se hicieron esperar. Después de que las imágenes se publicaran en Reddit, Midjourney prohibió el acceso a Brown, una acción que él relaciona directamente con la publicación en Reddit.
«Después de ganar un poco de tracción en Reddit, la serie fue eliminada por los moderadores y la prohibición de Midjourney se produjo casi de inmediato», comentó.
La prohibición provocó en Brown sentimientos encontrados. Por un lado, consideró que la sanción era un indicador de cierto nivel de responsabilidad aplicada a los usuarios que generan contenidos nocivos. Por otro lado, planteó una pregunta conmovedora: «Me prohibieron la entrada meses después de haber hecho las imágenes por primera vez, así que cuando se genera contenido dañino, ¿no es ya demasiado tarde?».
Esto es especialmente importante en política, como advirtió además Brown.
«Una campaña de desinformación con inteligencia artificial justo antes de las elecciones podría hacerlas cambiar de signo. Las imágenes o vídeos de IA adecuados en el momento adecuado podrían hundir el mercado, provocar disturbios o enviar a alguien a una pizzería con una pistola».
El potencial de la inteligencia artificial para difundir desinformación era la principal preocupación de Brown. «Este tipo de desinformación seguirá produciéndose, la próxima vez por parte de tipos malos con malas intenciones, así que será mejor que empecemos a controlarla ya», señaló, reconociendo la necesidad de una conversación internacional sobre esta tecnología.
El New York Times también se refirió a este asunto, revelando que las normas de campaña permitían a los políticos utilizar imágenes generadas por IA de cara a las elecciones presidenciales de 2024. También informó de que las defensas y servicios existentes que afirman identificar el contenido de IA han sido en gran medida ineficaces.
Uno de los seguidores de Brown respondió con sus preocupaciones, expresando su aprensión por el potencial mal uso de la IA.
«Creo que tienes razón sobre los peligros. El Partido Republicano ya ha utilizado la IA en un anuncio. No como chantaje, pero demuestra que la IA puede utilizarse para operaciones rápidas. Lo mejor sería que las redes sociales tuvieran moderación universal contra la desinformación y cuentas verificadas para toda la prensa de renombre, organizaciones gubernamentales y políticos».
Bernie, noo
Creo que tienes razón sobre los peligros. El partido republicano ya usó la IA en un anuncio. No como chantaje, pero muestra que la IA se puede usar para operaciones rápidas. Lo mejor sería que las redes sociales tuvieran una moderación universal contra la desinformación y cuentas verificadas para toda la prensa de renombre, organizaciones gubernamentales y políticos.
– Patrick Scott Bruck ¡Ve para ayudar a nuestra familia! (@PatrickSBruck) 26 de mayo de 2023
Se refería a una serie de anuncios políticos en los que el partido republicano estadounidense utilizaba MidJourney para «imaginar» un futuro con Biden reelegido presidente. También hubo rumores de que la IA se utilizó para retocar un anuncio de campaña de Ron de Santis, pero su campaña reveló que no era el caso.
Por su parte, Donald Trump también creó toda una conversación falsa entre Elon Musk, Adolf Hitler y Ron de Santis para burlarse del anuncio de este último de que aspiraba a convertirse en candidato presidencial del Partido Republicano.
En una era digital plagada de desinformación y mal uso desenfrenado de la tecnología, las palabras de Brown suenan inquietantemente ciertas,
«Supongo que sólo hay que prepararse para el impacto. Tal vez hacer algo útil con ella», dijo.
En este torbellino de IA, arte y ética, hay una certeza: la línea que separa la realidad de las imágenes generadas por IA se está difuminando más rápido de lo que podemos decir «Photoshop».
