El gigante tecnológico Microsoft ha dado a conocer un nuevo método de entrenamiento de IA denominado «Algoritmo de Pensamientos» (AoT), diseñado para que grandes modelos lingüísticos como ChatGPT sean más eficientes y tengan una capacidad de razonamiento similar a la humana.
El nuevo método es el siguiente paso natural para la empresa, que ha invertido mucho en IA y, en particular, en OpenAI, los creadores de DALL-E, ChatGPT y el potente modelo de lenguaje GPT.
Microsoft afirma que la técnica AoT puede cambiar las reglas del juego, ya que «guía al modelo lingüístico a través de una ruta de resolución de problemas más ágil», según un documento de investigación publicado. Este novedoso enfoque utiliza el «aprendizaje en contexto», lo que permite al modelo explorar distintas soluciones de forma organizada y sistemática.
¿Cuál es el resultado? Una resolución de problemas más rápida y con menos recursos.
«Nuestra técnica supera a los métodos anteriores de consulta única y está a la par con un enfoque reciente de consulta múltiple que emplea la búsqueda extensiva en árbol», afirma el artículo. «Curiosamente, nuestros resultados sugieren que instruir a un modelo con un algoritmo puede llevar a un rendimiento superior al del propio algoritmo».
Los investigadores afirman que el modelo adquiere una «intuición» mejorada cuando esta técnica optimiza su proceso de búsqueda.
¿Un híbrido humano-algorítmico?
El método AoT aborda las limitaciones de las actuales técnicas de aprendizaje en contexto, como el enfoque de la «cadena de pensamiento» (CoT). CoT proporciona a veces pasos intermedios incorrectos, mientras que AoT guía el modelo mediante ejemplos algorítmicos para obtener resultados más fiables.
La AoT se inspira tanto en los humanos como en las máquinas para mejorar el rendimiento de un modelo generativo de IA. Mientras que los humanos destacan en cognición intuitiva, los algoritmos son conocidos por su exploración organizada y exhaustiva. El documento de investigación afirma que el Algorithm of Thoughts pretende «fusionar estas dos facetas para aumentar las capacidades de razonamiento de los LLM».
Microsoft afirma que esta técnica híbrida permite al modelo superar las limitaciones de la memoria de trabajo humana, posibilitando un análisis más exhaustivo de las ideas.
A diferencia del razonamiento lineal de CoT o de la técnica del «árbol de pensamientos» (ToT), AoT permite la contemplación flexible de distintas opciones para subproblemas, manteniendo la eficacia con un mínimo de indicaciones. También rivaliza con herramientas externas de búsqueda en árbol, equilibrando eficazmente costes y cómputos.
Algoritmo de Pensamientos frente a otros métodos de razonamiento de IA. Imagen: Microsoft
En general, AoT representa un cambio del aprendizaje supervisado a la integración del propio proceso de búsqueda. Los investigadores creen que, si se perfecciona la ingeniería de los impulsos, este enfoque puede permitir a los modelos resolver problemas complejos del mundo real de forma eficiente y, al mismo tiempo, reducir su impacto en las emisiones de carbono.
Dadas sus cuantiosas inversiones en inteligencia artificial, Microsoft parece estar bien posicionada para incorporar la tecnología de aprendizaje automático a sistemas avanzados como GPT-4. Aunque difícil, enseñar a los modelos lingüísticos a «pensar» de esta forma más humana podría ser transformador.
