El miércoles, Sam Altman fue restituido como consejero delegado de OpenAI tras 72 horas de agitación. Sin embargo, mientras las aguas se calman en la empresa de IA, un nuevo informe de Reuters sugiere que la justificación de la destitución de Altman -que «no era comunicativo»- podría tener que ver con el hecho de que OpenAI alcanzara un importante hito en el impulso hacia la inteligencia artificial general (IAG).
Según la agencia de noticias, fuentes familiarizadas con la situación afirmaron que los investigadores enviaron una carta a la junta directiva de OpenAI advirtiendo de un nuevo descubrimiento de IA que podría amenazar a la humanidad, lo que llevó a la junta a destituir a Altman de su cargo directivo.
Mi predicción es que hace unas semanas el equipo de OpenAI hizo una demo de una máquina que mostraba consciencia o AGI y Sam no se lo dijo inmediatamente a la junta y sus sentimientos fueron heridos. pic.twitter.com/IUDcHiIwIU
– Dan Siroker (@dsiroker) 18 de noviembre de 2023
Estas fuentes anónimas dijeron a Reuters que la CTO de OpenAI, Mira Murati, dijo a los empleados que el avance, descrito como «Q Star» o «(Q*)», era la razón del movimiento contra Altman, que se hizo sin la participación del presidente de la junta Greg Brockman, quien renunció a OpenAI en protesta.
La agitación en OpenAI se enmarcó en una batalla ideológica entre los que querían acelerar el desarrollo de la IA y los que deseaban desacelerar el trabajo en favor de un progreso más responsable y reflexivo, coloquialmente conocidos como decels. Tras el lanzamiento de GPT-4, varios miembros destacados de la industria tecnológica firmaron una carta abierta exigiendo a OpenAI que ralentizara su desarrollo de futuros modelos de IA.
Pero como TCN informó el fin de semana, los expertos en IA teorizaron que los investigadores de OpenAI habían alcanzado un hito importante que no podía hacerse público, lo que forzó un enfrentamiento entre los orígenes humanistas y sin ánimo de lucro de OpenAI y su futuro corporativo de éxito masivo con ánimo de lucro.
El sábado, menos de 24 horas después del golpe, empezó a correr la voz de que OpenAI estaba intentando llegar a un acuerdo para traer de vuelta a Altman, mientras cientos de empleados de OpenAI amenazaban con dimitir. Los competidores abrieron sus brazos y sus carteras para recibirlos.
Hemos llegado a un acuerdo de principio para que Sam Altman regrese a OpenAI como consejero delegado con una nueva junta inicial formada por Bret Taylor (presidente), Larry Summers y Adam D’Angelo.
Estamos colaborando para concretar los detalles. Muchas gracias por su paciencia en este proceso.
– OpenAI (@OpenAI) 22 de noviembre de 2023
OpenAI aún no ha respondido a la solicitud de comentarios de TCN.
La inteligencia general artificial se refiere a la IA que puede comprender, aprender y aplicar su inteligencia para resolver cualquier problema, de forma muy parecida a un ser humano. La AGI puede generalizar su aprendizaje y razonamiento a diversas tareas, adaptándose a nuevas situaciones y trabajos para los que no estaba explícitamente programada.
Hasta hace poco, se pensaba que la idea de la AGI (o la Singularidad) estaba a décadas de distancia, pero con los avances en IA, como ChatGPT de OpenAI, Claude de Anthropic y Bard de Google, los expertos creen que estamos a años, no a décadas, de ese hito.
«Yo diría que de tres a ocho años, y la razón es, en parte, que los grandes modelos lingüísticos como Llama2 de Meta y GPT-4 de OpenAI ayudan y son un auténtico progreso», declaró a TCN Ben Goertzel, CEO de SingularityNET y pionero de la IA. «Estos sistemas han aumentado enormemente el entusiasmo del mundo por la AGI, por lo que habrá más recursos, tanto dinero como simplemente energía humana: más jóvenes inteligentes quieren sumergirse en el trabajo y trabajar en AGI».
