Geoffrey Hinton, pionero de la inteligencia artificial conocido como uno de los «padrinos de la IA» dimitió de su puesto en Google para poder expresar abiertamente su preocupación por cómo la Inteligencia Artificial podría causar daños importantes al mundo.
Hinton admitió en una entrevista en el New York Times que ahora se arrepiente en parte del trabajo de su vida. A pesar de los usos beneficiosos de la inteligencia artificial, Hinton teme que la tecnología pueda utilizarse de forma irresponsable, desencadenando consecuencias imprevistas.
A Hinton le preocupa que la competencia entre gigantes tecnológicos como Google y Microsoft por crear la inteligencia artificial más avanzada desemboque en una carrera global que no se detendrá sin algún tipo de regulación mundial. Sin embargo, también fue tajante al señalar que, en su opinión, Google ha actuado con responsabilidad en sus investigaciones:
En el NYT de hoy, Cade Metz da a entender que me fui de Google para poder criticar a Google. En realidad, me fui para poder hablar de los peligros de la IA sin tener en cuenta cómo afecta esto a Google. Google ha actuado de forma muy responsable.
– Geoffrey Hinton (@geoffreyhinton) 1 de mayo de 2023
Hinton es conocido por popularizar el desarrollo teórico de las redes neuronales en 1986 y por crear una capaz de reconocer imágenes en 2012. Su trabajo fue crucial para el desarrollo de modelos de arte generativo actuales como Stable Diffusion y MidJourney, y sentó las bases para los próximos esfuerzos de OpenAI por hacer que GPT-4 sea capaz de interactuar con imágenes.
Su movimiento, potencialmente tardío, ha llevado a muchos a compararlo con J. Robert Oppenheimer, profesor de física al que se atribuye la creación de la bomba atómica.
Los riesgos de la IA
Uno de los problemas inmediatos que destaca Hinton es la proliferación de imágenes, vídeos y textos falsos en Internet, que podrían hacer que la verdad fuera cada vez más difícil de discernir para el ciudadano de a pie. A medida que la inteligencia artificial generativa siga mejorando, los creadores de contenidos falsos y manipuladores podrían utilizar estas herramientas para engañar y confundir a la gente.
A Hinton también le preocupa cómo la inteligencia artificial podría afectar a los puestos de trabajo en el futuro. Aunque chatbots como ChatGPT complementan actualmente a los trabajadores humanos, podrían acabar sustituyendo a quienes se ocupan de tareas rutinarias, como asistentes personales, contables y traductores. Aunque la IA puede aliviar algunos trabajos monótonos, también podría eliminar más empleos de los previstos, alterando el equilibrio social.
A largo plazo, Hinton teme que las futuras versiones de la tecnología supongan una amenaza para la humanidad debido al comportamiento inesperado que pueden aprender de los grandes volúmenes de datos que analizan. Esto se convierte en un problema cuando se permite a los sistemas de inteligencia artificial generar y ejecutar su propio código.
Esta visión a largo plazo también adquirió especial relevancia cuando otras figuras clave en el campo de la Inteligencia Artificial empezaron a advertir sobre la posibilidad de un escenario «foom» -en el que la IA supera con creces la inteligencia humana- y el impacto que podría tener en el desarrollo de la sociedad.
Hinton es sólo uno de los miles de líderes tecnológicos e investigadores alarmados por el avance exponencial de los desarrollos de IA para diversos campos (desde chats eróticos a diagnósticos médicos). El mes pasado se hizo popular una carta abierta en la que los líderes pedían una pausa en el desarrollo de la IA hasta que se establecieran controles adecuados. Hinton no la firmó.
La evolución de la postura de Hinton sobre la Inteligencia Artificial refleja una creciente conciencia de los riesgos y retos asociados a una tecnología en rápida evolución. Para Hinton, renunciar al trabajo de su vida era importante para prevenir un escenario que, según él, parece estar cada día más cerca.
«Fíjese en cómo estaba la situación hace cinco años y cómo está ahora», declaró a The New York Times. «Toma la diferencia y propágala hacia adelante. Eso da miedo».
*** Translated with www.DeepL.com/Translator (free version) ***
