L’IA générative permet aux utilisateurs de créer toutes sortes de faux. Ces derniers jours, de fausses photos de l’ancien président Donald Trump fuyant la police, du président russe Poutine câlinant un chat, et même du pape vêtu d’un manteau blanc Balenciaga ont fait le tour du web. Qu’est-ce qu’on ne peut pas faire ?
Vous ne pouvez pas créer une image du président chinois Xi Jinping, du moins pas sur la plateforme d’IA générative Midjourney.
Pour ralentir la propagation des deep fakes en ligne, Midjourney a annoncé la semaine dernière qu’elle mettrait fin à sa version d’essai gratuite, mais la plateforme peut toujours générer des images de dirigeants mondiaux, à l’exception notable du président chinois. Si vous essayez de le faire, Midjourney, une société basée à San Francisco, vous dira que c’est interdit. Vous ne pouvez même pas utiliser le nom du président chinois dans une invite:
Les critiques affirment que l’interdiction constitue une forme de censure, sapant les principes fondamentaux de la liberté de parole et d’expression.
« La façon dont le monde fonctionne aujourd’hui, et à quel point nous sommes tous étroitement liés, les lois sur la liberté d’expression en vigueur ailleurs ont de l’importance », a déclaré Sarah McLaughlin, chercheuse principale à la Fondation pour les droits individuels et l’expression (FIRE), lors d’une interview accordée à TCN. « Ce marché ou ce gouvernement peut être suffisamment puissant pour affecter le fonctionnement des entreprises américaines.
M. McLaughlin a évoqué le piratage de Sony en 2015, qui a révélé qu’une scène de destruction de la Grande Muraille de Chine avait été retirée de la copie de production du film d’Adam Sandler « Pixels », parce qu’on craignait qu’elle ne nuise au succès du film au box-office en Chine.
FIRE est une organisation à but non lucratif basée à Philadelphie qui défend les droits à la liberté d’expression aux États-Unis, en particulier sur les campus universitaires. La fondation, a ajouté Mme McLaughlin, s’est récemment développée pour devenir un « groupe de défense de la liberté d’expression et du premier amendement ».
Selon Mme McLaughlin, les gens ont tendance à commettre l’erreur de considérer que la censure internationale ne les concerne pas.
Lorsque la question de la censure a été soulevée sur le serveur Discord de Midjourney l’année dernière, le PDG de Midjourney, David Holz, a déclaré que l’entreprise souhaitait minimiser les drames.
« Il n’y a pas de complot diabolique, nous voulons juste minimiser les problèmes », a déclaré Holz lorsqu’il a abordé la question en juin dernier.
Faire des photos de l’arrestation de Trump en attendant l’arrestation de Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) Le 20 mars 2023
Dans un message publié en juin 2022 sur le serveur Discord de Midjourney, Holz a souligné la différence de réception de la satire politique entre les pays occidentaux et la Chine, et a reconnu que la satire politique typique de l’Occident pouvait poser des problèmes en Chine et même mettre en danger les utilisateurs.
La création d’images satiriques des dirigeants du monde a une longue histoire, en particulier aux États-Unis, où la liberté de parole et d’expression est inscrite dans la Constitution, ce qui n’est pas le cas dans d’autres pays.
« Il ne s’agit pas seulement d’une question de droit américain par rapport au droit chinois », a déclaré M. McLaughlin. « C’est plus complexe que cela, et il se peut que les outils que nous utilisons finissent par respecter les lois d’autres pays plutôt que les nôtres, d’une manière que nous n’avions pas prévue. «
Holz a estimé qu’il était plus utile de permettre aux Chinois d’utiliser la technologie que d’encourager la satire politique.
« Je pense que les Chinois qui utilisent cette technologie font bouger l’aiguille dans le monde en général dans une direction positive », a déclaré M. Holz. « Des gens au hasard ici qui font de la satire politique chinoise n’apportent pas grand-chose à quoi que ce soit.
Les partisans de ces restrictions peuvent dire qu’elles sont nécessaires pour empêcher la propagation de la désinformation et l’abus potentiel de la technologie de l’IA. Malgré les restrictions imposées aux images du président Xi, M. McLaughlin ne pense pas que le séjour de MidJounrey en Chine durera très longtemps.
« Je ne serais pas surprise que la Chine finisse par en bloquer l’accès, malgré les restrictions, car elle a tendance à exclure les entreprises occidentales », a-t-elle déclaré.
McLaughlin a déclaré que ce que fait Midjourney est en dehors de la norme, citant une récente décision de Twitter de censurer le contenu en Inde.
« Twitter a récemment été confronté à des problèmes de censure en Inde, le gouvernement ayant exigé la censure d’un documentaire de la BBC sur le Premier ministre Modi », a déclaré M. McLaughlin. « Twitter a bloqué le contenu uniquement en Inde, et non dans le monde entier. Mid-Journey, en revanche, fait en sorte que tout le monde ne puisse pas utiliser le nom de Xi Jinping, ce qui constitue une escalade par rapport au simple blocage des utilisateurs chinois. «
