En un esfuerzo por democratizar el desarrollo de herramientas de inteligencia artificial, Anthropic, creador de Claude’s AI, se ha asociado con la organización sin ánimo de lucro Collective Intelligence Project para encontrar un camino diferente para la IA encuestando a 1.000 estadounidenses para redactar una constitución de la IA.
«La IA tendrá un impacto transformador en el mundo», explica a TCN Divya Siddarth, cofundadora de Collective Intelligence Project. «Sin embargo, muy pocas personas pueden decidir exactamente cómo será. Queríamos crear procesos para que esto deje de ser así».
Lanzado en enero por Siddarth -economista política y tecnóloga social- y el investigador, escritor e ingeniero Saffron Huang, el Proyecto de Inteligencia Colectiva pretende fomentar la inteligencia colectiva para el progreso colectivo. En marzo, el CIP se asoció con Anthropic para lanzar la iniciativa IA Constitucional Colectiva, cuyo objetivo es desarrollar un modelo de IA de origen externo y explorar cómo los procesos democráticos pueden influir en el desarrollo de la IA.
«Queríamos reunir algunos de los avances en democracia e inteligencia colectiva en torno a lo que significa tomar buenas decisiones, para quién y quién está implicado», dijo Siddarth. «Hay mucha investigación en esta área utilizando tecnologías transformadoras, particularmente IA, que es algo en lo que ambos estamos trabajando». «
Estamos trabajando con @AnthropicAI para traducir la opinión pública de los estadounidenses de a pie directamente en una nueva constitución colectiva para Claude
La IA del pueblo es realmente fantástica.
Descubre lo que hemos hecho & aprendido sobre la IA democrática.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Proyecto de Inteligencia Colectiva (@collect_intel) 17 de octubre de 2023
Como parte de este proyecto, dice Anthropic en su blog, se pidió a 1.000 miembros del público estadounidense que ayudaran a un creador de IA a elegir reglas para su chatbot. El tamaño de la muestra, según Anthropic, pretendía ser representativo de la población adulta estadounidense en términos de edad, sexo, ingresos y ubicación. Los participantes podían elegir entre una lista de reglas para la IA o crear las suyas propias.
Anthropic no respondió inmediatamente a la solicitud de comentarios de TCN.
Según Anthropic, los participantes crearon 1.117 declaraciones. Los participantes votaron más de 38.000 veces sobre cuestiones como si la IA debería discriminar por motivos de raza o preferencia sexual, y añadieron que, aunque había opiniones divergentes, existía un alto nivel de consenso en la mayoría de las afirmaciones.
Aunque el estudio intentó reunir una muestra diversa, Siddarth reconoció que los experimentos futuros deberían ir más allá de los estadounidenses ricos y conocedores de la tecnología.
«Sólo se aplica a los residentes en EE.UU., lo cual es obviamente muy limitado en términos de todas las personas del mundo», dijo. «En todo caso, muchas de las personas que desarrollan tecnología probablemente tienen valores que coinciden más con los de la gente de EE.UU. y de muchos otros países».
Siddarth señaló que el proyecto de Inteligencia Colectiva también ha colaborado con su rival OpenAI en otros proyectos de IA democrática. El proyecto de IA de la Constitución sólo se llevó a cabo utilizando los modelos de IA de Claude de Anthropics.
«Creo que por eso es una buena comparación, porque tomamos un modelo que [Anthropic] ya había entrenado sobre una constitución que los investigadores de Anthropic habían escrito y lo comparamos directamente con el mismo modelo», dijo Siddarth. «Pero con una constitución que había escrito el público».
Un hallazgo sorprendente en el experimento, dijo Siddarth, fueron varias declaraciones que también decían que el modelo de IA no debía discriminar por motivos de discapacidad. Estas declaraciones no estaban incluidas en la constitución de Anthropic.
«No creo que fuera porque quisieran que no estuvieran», dijo. «Simplemente acabaron por no hacer hincapié en ello, y se hizo mucho hincapié».
Lanzado en 2021, Anthropic es solo uno de los desarrolladores que buscan llevar al mercado una inteligencia artificial más rápida y mejor. Microsoft, Google, Meta y Amazon han invertido miles de millones en desarrolladores de IA generativa. Como resultado, 2023 ha sido un año lucrativo para los desarrolladores de IA, con Google anunciando una inversión de 400 millones de dólares en Anthropic en febrero. A esa inversión le siguió la de 4.000 millones de dólares de Amazon en Anthropic en septiembre.
A principios de año, Anthropic se unió a OpenAI, Google y Microsoft en su compromiso con el desarrollo responsable de la IA tras reunirse con el gobierno de Biden. Otras empresas que se sumaron al compromiso fueron Amazon, Meta e Inflection. NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce y Stability AI también se sumaron al compromiso en septiembre.
A pesar de las limitaciones del experimento de IA constitucional, Siddarth es optimista sobre el futuro del proyecto de Inteligencia Colectiva, la democracia en la IA y la participación del público en el desarrollo de nuevas tecnologías.
«Creo que lo fundamental es llevar a cabo más procesos como éste; aprendamos de lo que ya hemos hecho», afirma. «Estamos trabajando con grupos de la sociedad civil, con diferentes responsables políticos y con todas estas empresas diferentes para conseguir que las cosas se hagan». «
