Un grupo de destacados tecnólogos, investigadores y otras personalidades influyentes están pidiendo a OpenAI que pulse el botón de pausa en el entrenamiento de su herramienta artificial, ChatGPT.
Al parecer, las principales figuras de la IA -incluidos Elon Musk, Steve Wozniak y Andrew Yang- han firmado una carta abierta en la que piden una pausa de seis meses en el desarrollo de sistemas de IA más potentes que GPT-4, la versión actual de la herramienta generativa que se lanzó por primera vez en noviembre de 2022.
En la carta, los autores afirman que si la empresa privada no deja de entrenar su IA más allá de la implementación actual de GPT4, «los gobiernos» deberían forzar la situación.
«Hacemos un llamamiento a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si esta pausa no puede llevarse a cabo rápidamente, los gobiernos deberían intervenir e instituir una moratoria», dice la carta.
La carta cuenta actualmente con más de 1.100 firmas. Sin embargo, algunos han puesto en duda que todos los firmantes de renombre hayan firmado realmente la carta. Entre ellos figuran Yoshua Bengio, ganador del Premio Turing, Stuart Russell, director del Center for Intelligent Systems, Emad Mostaque, CEO de Stability AI, y Chris Larsen, cofundador de Ripple.
Un portavoz del proyecto dijo que las primeras firmas se habían comprobado dos veces, pero que la visualización de nombres se había interrumpido debido a la gran demanda.
«Todos los primeros firmantes de la lista han sido verificados de forma independiente», dijo a TCN el vicepresidente del Future of Life Institute, Anthony Aguirre. Y añadió: «Hacerlo para toda la lista (que ya supera con creces los 30.000) excede nuestra capacidad».
Una nota en el sitio reza: «Debido a la alta demanda, seguimos recogiendo firmas, pero pausando su aparición en la carta para que nuestros procesos de investigación puedan ponerse al día».
Musk, uno de los cofundadores de OpenAI, renunció a la junta en 2018, pero supuestamente invirtió 100 millones de dólares en el proyecto.
La llegada de GPT4 hace dos semanas ha creado tanto entusiasmo -con algunos anunciando su llegada como más importante que la llegada del fuego- como alarma entre las personas preocupadas de que, sin control, podría aniquilar a la humanidad.
La carta afirma que los sistemas de IA con inteligencia competitiva humana plantean riesgos significativos para la sociedad y la humanidad. Sostiene que hay que centrarse en hacer que los sistemas existentes sean más precisos, seguros, transparentes, robustos y fiables, al tiempo que se acelera el desarrollo de sistemas de gobernanza de la IA.
«La humanidad puede disfrutar de un futuro próspero con la IA», afirmaba, señalando que «la sociedad ha puesto pausa a otras tecnologías con efectos potencialmente catastróficos para la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos precipitemos desprevenidos hacia un otoño».
En respuesta a un tuit sobre la petición, Musk respondió: «Los principales desarrolladores [de inteligencia artificial] no harán caso de esta advertencia, pero al menos se ha dicho»
Los principales desarrolladores de AGI no tendrán en cuenta esta advertencia, pero al menos se dijo
– Elon Musk (@elonmusk) 29 de marzo de 2023
W
OpenAI aún no ha respondido a la solicitud de comentarios.
