El Centro de Inteligencia Artificial y Política Digital presentó una denuncia formal ante la Comisión Federal de Comercio de EE.UU., acusando a OpenAI -creador del popular ChatGPT- de violar la sección cinco de la Ley de la FTC que se ocupa de las prácticas engañosas y desleales.
«La FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales desleales y engañosas», afirma Marc Rotenberg, fundador y presidente del centro, en un comunicado. «Creemos que la FTC debería examinar de cerca OpenAI y GPT-4».
No por casualidad, la FTC actualizó la ley el mes pasado para incluir lenguaje dirigido a los desarrolladores de programas de inteligencia artificial como OpenAI. La agencia aconsejó a los desarrolladores que evitaran exagerar sus capacidades, hacer afirmaciones engañosas sobre el rendimiento o prometer superioridad sobre productos que no sean de IA sin pruebas adecuadas.
El Centro de Inteligencia Artificial y Política Digital se creó en 2020 en el marco del Instituto Michael Dukakis para el Liderazgo y la Innovación -fundado por el ex gobernador de Massachusetts y fallido candidato demócrata a la presidencia de EE.UU.- y ahora es una organización sin ánimo de lucro con sede en Washington DC.
La FTC también advirtió a los desarrolladores que exploraran los posibles riesgos e impactos antes del lanzamiento.
«Es necesario conocer los riesgos e impactos razonablemente previsibles de su producto de IA antes de lanzarlo al mercado», escribió la agencia. «Si algo sale mal -tal vez falle o arroje resultados sesgados-, no se puede culpar a un desarrollador externo de la tecnología. Y no puedes decir que no eres responsable porque esa tecnología es una ‘caja negra’ que no puedes entender o no supiste cómo probar.»
Desde 2017, la FTC ha dado la voz de alarma sobre los usos poco éticos de tecnologías emergentes como la inteligencia artificial y blockchain, ya que ambas se han vuelto más populares y mainstream.
La popularidad casi de la noche a la mañana de GPT-4, la última iteración de ChatGPT, tiene a muchos cuestionando el rápido dominio de OpenAI en la industria. El Center for AI and Digital Policy pide a la FTC que investigue a OpenAI para determinar si la empresa ha cumplido las normas de la FTC.
La presentación del Centro ante la FTC se produce días después de que varios miembros destacados del sector tecnológico -entre ellos Elon Musk, consejero delegado de Telsa y Twitter- firmaran una carta abierta exigiendo una pausa en el desarrollo de sistemas de inteligencia artificial como la plataforma GPT-4 de OpenAI.
Después de que +1000 trabajadores tecnológicos instaran a hacer una pausa en la formación de los sistemas de AI más potentes, @UNESCO pide a los países que apliquen inmediatamente su Recomendación sobre la ética de la IA -el 1er marco mundial de este tipo& adoptado por 193 Estados miembroshttps://t. co/BbA00ecihO pic.twitter.com/GowBq0jKbi
– Eliot Minchenberg (@E_Minchenberg) 30 de marzo de 2023
«Hacemos un llamamiento a todos los laboratorios de IA para que pongan inmediatamente en pausa, durante al menos 6 meses, el entrenamiento de sistemas de IA más potentes que el GPT-4. Esta pausa debe ser pública y verificable. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave», dice la carta. «Si esta pausa no puede llevarse a cabo rápidamente, los gobiernos deberían intervenir e instituir una moratoria».
El Centro de Inteligencia Artificial y Política Digital no es el único que pide que se investigue el rápido desarrollo de la IA y la necesidad de normas. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) publicó su propia declaración el jueves pidiendo un «Marco Ético Mundial».
En noviembre de 2021, los 193 Estados miembros de la Conferencia General de la UNESCO votaron a favor de establecer una norma mundial para la ética de la inteligencia artificial mediante la adopción de la Recomendación sobre la Ética de la Inteligencia Artificial. Este marco tiene como objetivo salvaguardar y promover los derechos humanos y la dignidad, al tiempo que sirve como guía ética y base para promover la adhesión al estado de derecho en el ámbito digital.
«El mundo necesita normas éticas más estrictas para la inteligencia artificial: éste es el reto de nuestro tiempo», declaró la Directora General de la UNESCO, Audrey Azoulay.
@UNESCO pide a los países que apliquen plenamente y de inmediato su Recomendación sobre la Etica de la AI Este marco normativo mundial, adoptado por unanimidad por los 193 Estados miembros de la Organización, ofrece todas las garantías necesarias. ChatGPT https://t.co/VZc6ueKLx9
– Audrey Azoulay (@AAzoulay) 30 de marzo de 2023
