Snapshot de cómo nos estamos preparando para las elecciones mundiales de 2024:
– Trabajando para prevenir el abuso, incluidos los deepfakes engañosos.
– Aportar transparencia a los contenidos generados por IA
– Mejorar el acceso a información fidedigna sobre las votacioneshttps://t.co/qsysYy5l0L– OpenAI (@OpenAI) 15 de enero de 2024
En agosto, la Comisión Federal de Elecciones de EE.UU. dijo que seguiría adelante con el estudio de una petición para prohibir los anuncios de campaña generados por IA. El comisario de la FEC, Allen Dickerson, afirmó: «Hay serias preocupaciones sobre la Primera Enmienda que acechan en el trasfondo de este esfuerzo.»
Para los clientes estadounidenses de ChatGPT, OpenAI dijo que dirigirá a los usuarios al sitio web no partidista CanIVote.org cuando se les pregunte «ciertas preguntas relacionadas con el procedimiento electoral.» La empresa dice que la aplicación de estos cambios informará su enfoque a nivel mundial.
«Esperamos seguir trabajando con nuestros socios y aprendiendo de ellos para anticipar y prevenir posibles abusos de nuestras herramientas en vísperas de las elecciones mundiales de este año», añadió.
En ChatGPT, OpenAI dijo que impide a los desarrolladores crear chatbots que simulen ser personas reales o instituciones como funcionarios y oficinas gubernamentales. Según OpenAI, tampoco están permitidas las aplicaciones que pretendan evitar que la gente vote, como desalentar el voto o tergiversar quién tiene derecho a votar.
Los deepfakes generados por IA, imágenes, vídeos y audio falsos creados mediante IA generativa, se hicieron virales el año pasado, y varios de ellos protagonizados por el Presidente de EE.UU. Joe Biden, el ex Presidente Donald Trump e incluso el Papa Francisco se convirtieron en el centro de las imágenes compartidas en las redes sociales.
Para evitar que su generador de imágenes Dall-E 3 se utilice en campañas de deepfake, OpenAI afirma que aplicará las credenciales de contenido de la Coalition for Content Provenance and Authenticity, que añaden una marca o «icono» a una imagen generada por IA.
«También estamos experimentando con un clasificador de procedencia, una nueva herramienta para detectar imágenes generadas por Dall-E», afirma OpenAI. «Nuestras pruebas internas han mostrado resultados iniciales prometedores, incluso cuando las imágenes han sido objeto de tipos comunes de modificaciones».
El mes pasado, el Papa Francisco pidió a los líderes mundiales que adoptaran un tratado internacional vinculante para regular la IA.
«La dignidad inherente a cada ser humano y la fraternidad que nos une como miembros de la única familia humana deben sustentar el desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para evaluarlas antes de emplearlas, de modo que el progreso digital pueda producirse con el debido respeto a la justicia y contribuir a la causa de la paz», dijo Francisco.
Para frenar la desinformación, OpenAI dijo que ChatGPT empezará a proporcionar noticias en tiempo real a nivel mundial, incluyendo citas y enlaces.
«La transparencia en torno al origen de la información y el equilibrio en las fuentes de noticias puede ayudar a los votantes a evaluar mejor la información y decidir por sí mismos en qué pueden confiar», afirmó la empresa.
El verano pasado, OpenAI donó 5 millones de dólares al American Journalism Project. La semana anterior, OpenAI firmó un acuerdo con Associated Press para dar acceso al desarrollador de inteligencia artificial al archivo de artículos periodísticos del medio de comunicación mundial.
Los comentarios de OpenAI sobre la atribución en la información periodística se producen mientras la empresa se enfrenta a varias demandas por derechos de autor, entre ellas la del New York Times. En diciembre, el Times demandó a OpenAI y Microsoft, el mayor inversor de OpenAI, alegando que millones de sus artículos fueron utilizados para entrenar ChatGPT sin permiso.
«OpenAI y Microsoft han construido un negocio valorado en decenas de miles de millones de dólares tomando las obras combinadas de la humanidad sin permiso», decía la demanda. «En el entrenamiento de sus modelos, los demandados reprodujeron material protegido por derechos de autor para explotar precisamente lo que la Ley de Derechos de Autor fue diseñada para proteger: los elementos de expresión protegibles dentro de ellos, como el estilo, la elección de palabras y la disposición y presentación de los hechos.»
OpenAI ha calificado la demanda del New York Times de «sin fundamento», alegando que la publicación manipuló sus indicaciones para que el chatbot generara respuestas como los artículos del Times.
