Midjourney, la empresa detrás del popular generador de imágenes de texto a imagen, ha cerrado el acceso a su versión de prueba gratuita tras el aumento de falsificaciones virales generadas por su tecnología.
«Debido a una combinación de demanda extraordinaria y abuso de la versión de prueba, estamos desactivando temporalmente las pruebas gratuitas hasta que hayamos implementado las próximas mejoras del sistema», escribió el fundador de Midjourney, David Holz, en el servidor Discord de la empresa a principios de esta semana.
Un «deep fake» es un medio de apariencia realista creado por IA mediante la alteración de imágenes, vídeos o audio para mostrar a personas reales haciendo o diciendo cosas que nunca hicieron. Aunque los deep fakes pueden utilizarse para divertirse y entretenerse, la tecnología también puede difundir información falsa, influir en las opiniones o dañar la reputación.
Algo salvaje está ocurriendo en el subreddit Midjourney.
La gente cuenta historias y comparte fotos de acontecimientos históricos, como el terremoto de la «Gran Cascadia» que devastó Oregón en 2001.
¿Y qué? Nunca ocurrió. Las imágenes están generadas por inteligencia artificial. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 de marzo de 2023
A principios de esta semana, las fotos del Papa Francisco con una chaqueta blanca superelegante y un collar con diamantes incrustados recorrieron la web. La semana pasada, cuando los principales sitios de noticias informaban de que el expresidente de Estados Unidos Donald Trump estaba a punto de ser detenido en Nueva York, se hizo viral una serie de fotos que parecían mostrar al expresidente perseguido por la policía. En ambos casos, las imágenes parecían incluso más creíbles que otro tipo de falsificaciones similares creadas por expertos con Photoshop.
Haciendo fotos de Trump siendo arrestado mientras se espera el arresto de Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20 de marzo de 2023
Muchos sitios de IA generativa, como Midjourney y Playground AI, ya han establecido restricciones a las indicaciones que incluyan contenido sexual. Sin embargo, la cuestión de qué es un uso aceptable en lo que respecta a las falsificaciones profundas sigue siendo objeto de debate, ya que todos estos sitios fabrican fotografías que no son reales.
Los planes de suscripción de Midjourney oscilan entre los 10 y los 60 dólares mensuales, en función de la potencia de procesamiento y las funciones que requiera el usuario, incluida la posibilidad de ejecutar trabajos simultáneos. La plataforma también ofrece planes de suscripción anual.
No está claro cómo resolverá el problema el cierre de su nivel gratuito. Las condiciones de servicio de Midjourney ya prohíben las imágenes ofensivas de famosos o personajes públicos.
El tema del Papa moderno generado por la IA (midjourney) se nos está yendo de las manos
Prompts en ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) 28 de marzo de 2023
TCN se ha puesto en contacto con Midjourney y Stability AI, los creadores de Stable Diffusion, para hacer comentarios, pero aún no ha recibido respuesta.
