La IA generativa permite a los usuarios crear todo tipo de falsificaciones. En los últimos días, fotos falsas del expresidente Donald Trump huyendo de la policía, del presidente ruso Putin abrazando a un gatito e incluso del Papa con un abrigo blanco de Balenciaga han circulado por la red. ¿Qué no se puede hacer?
No se puede hacer una imagen del presidente chino Xi Jinping, al menos en la plataforma de inteligencia artificial generativa Midjourney.
Para frenar la propagación de falsificaciones profundas en Internet, Midjourney anunció la semana pasada que pondría fin a su versión de prueba gratuita, pero la plataforma aún puede generar imágenes de líderes mundiales, con el Presidente chino como notable excepción. Si intentas hacerlo, Midjourney, una empresa con sede en San Francisco, te dirá que está prohibido. Ni siquiera puedes utilizar el nombre del presidente chino en un mensaje:
Los críticos sostienen que la prohibición constituye una forma de censura que socava los principios fundamentales de la libertad de expresión.
«La forma en que funciona el mundo hoy en día, y lo estrechamente entrelazados que estamos todos, hace que importe qué leyes de expresión hay en otros lugares», dijo Sarah McLaughlin, investigadora principal de la Fundación para los Derechos Individuales y la Expresión (FIRE), a TCN en una entrevista. «Ese mercado o ese gobierno podrían ser lo suficientemente poderosos como para afectar la forma en que operan las empresas estadounidenses».
McLaughlin señaló el hackeo de Sony en 2015, que reveló que una escena de la Gran Muralla China siendo destruida fue eliminada de la copia de producción de la película de Adam Sandler «Pixels», debido a la preocupación de que perjudicara el éxito de taquilla de la película en China.
FIRE es una organización sin ánimo de lucro con sede en Filadelfia que defiende los derechos de libertad de expresión en Estados Unidos, con especial atención a los campus universitarios. La fundación, añadió McLaughlin, se ha ampliado recientemente para convertirse en un «grupo que defiende la libertad de expresión y la Primera Enmienda».
McLaughlin dijo que la gente suele cometer el error de descartar la censura internacional por considerarla irrelevante para ellos.
Cuando el año pasado surgió el tema de la censura en el servidor Midjourney Discord, David Holz, CEO de Midjourney, dijo que la empresa quiere minimizar el drama.
«No hay ningún plan maligno. Básicamente, sólo queremos minimizar el drama», dijo Holz cuando abordó el tema el pasado mes de junio.
Haciendo fotos de Trump siendo arrestado mientras se espera el arresto de Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20 de marzo de 2023
En un post de junio de 2022 en el servidor Discord de Midjourney, Holz destacó la diferencia en cómo se recibe la sátira política en las naciones occidentales en comparación con China, y reconoció que la sátira política que es típica en Occidente podría causar problemas en China e incluso podría poner en peligro a los usuarios.
Existe una larga historia de creación de imágenes satíricas de líderes mundiales, especialmente en Estados Unidos, donde la libertad de expresión está consagrada en la Constitución estadounidense, pero no así en otros países.
«No se trata sólo de la ley estadounidense frente a la china», afirma McLaughlin. «Es más complejo que eso, y puede que nos encontremos con que las herramientas que utilizamos acaban siguiendo las leyes de otros países en lugar de las nuestras, en formas que no habíamos previsto».
Holz sugirió que el bien mayor es permitir que los chinos utilicen la tecnología en lugar de fomentar la sátira política.
«Creo que el uso de esta tecnología en China mueve la aguja en el mundo en general en una dirección positiva», dijo Holz. «Gente al azar haciendo sátira política china aporta muy poco a nada: el análisis coste-beneficio parece claro».
Los partidarios de estas restricciones pueden decir que son necesarias para evitar la propagación de la desinformación y el posible abuso de la tecnología de IA. Sin embargo, a pesar de la restricción de las imágenes del Presidente Xi, McLaughlin no cree que la estancia de MidJounrey en China vaya a durar mucho.
«No me sorprendería que China acabara bloqueando el acceso, a pesar de las restricciones, ya que tienden a excluir a las empresas occidentales», dijo.
McLaughlin dijo que lo que está haciendo Midjourney se sale de la norma, citando una reciente decisión de Twitter de censurar contenidos en la India.
«Twitter se enfrentó a problemas de censura en la India recientemente, con la exigencia del gobierno de censurar un documental de la BBC sobre el primer ministro Modi», dijo McLaughlin. «Twitter bloqueó el contenido sólo en la India, no a nivel mundial. Por otro lado, está haciendo que todo el mundo no pueda utilizar el nombre de Xi Jinping, lo que supone una escalada desde el mero bloqueo de usuarios chinos».
