Numa tentativa de democratizar o desenvolvimento de ferramentas de IA, o criador da Claude AI Anthropic juntou-se à organização sem fins lucrativos Collective Intelligence Project para explorar um curso diferente para o desenvolvimento de IA, pesquisando 1.000 americanos para redigir uma constituição de IA.
“A IA vai ter um impacto transformador no mundo”, disse o cofundador do Projeto de Inteligência Coletiva Divya Siddarth à TCN. “No entanto, muito poucas pessoas podem decidir exatamente como isso se parece. Queríamos criar processos para que isso deixasse de ser verdade.”
Lançado em janeiro por Siddarth – economista político e tecnólogo social – e pelo investigador, escritor e engenheiro Saffron Huang, o Projeto de Inteligência Colectiva visa promover a inteligência colectiva para o progresso coletivo. Em março, o CIP estabeleceu uma parceria com a Anthropic para a iniciativa Collective Constitutional AI, com vista a desenvolver um modelo de IA concebido com contributos externos e a explorar a forma como os processos democráticos podem influenciar o desenvolvimento da IA.
“Queríamos reunir algum do trabalho que tem sido feito no espaço da democracia, no espaço da inteligência colectiva em torno do que significa tomar boas decisões para quem e quem se envolve “, disse Siddarth. “Há muita pesquisa sobre isso com tecnologia transformadora, particularmente IA, que é algo em que ambos temos trabalhado. “
Fizemos uma parceria com @AnthropicAI para traduzir as opiniões públicas dos americanos comuns diretamente numa nova constituição colectiva para Claude
Sim! A IA do povo é, de facto, fantástica.
Saiba o que nós fizemos & descobrimos sobre a IA democrática.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) October 17, 2023
O projeto, afirmou a Anthropic num blogue, pediu a 1000 membros do público americano que ajudassem o criador de IA a escolher regras para o seu chatbot de IA. O tamanho da amostra, segundo a Anthropic, tinha como objetivo representar os adultos dos EUA em termos de idade, sexo, rendimento e localização. Os participantes podiam escolher a partir de uma lista de regras para a IA ou criar as suas próprias regras.
O Anthropic não respondeu imediatamente ao pedido de comentário do TCN.
De acordo com o Anthropic, os participantes contribuíram com 1.117 declarações. Os participantes votaram mais de 38.000 vezes em questões como se a IA deve discriminar em função da raça ou da preferência sexual, acrescentando que, apesar de existirem opiniões diferentes, houve um elevado grau de consenso na maioria das afirmações.
Embora o inquérito tenha tentado recolher uma amostra diversificada, Siddarth reconheceu que as experiências futuras devem ir além dos americanos ricos e conhecedores de tecnologia.
“Trata-se apenas de pessoas nos EUA – o que é obviamente muito limitado em termos de toda a gente no mundo”, afirmou. “Se alguma coisa, como muitas pessoas que estão a desenvolver tecnologia, provavelmente têm mais valores sobrepostos aos das pessoas nos EUA e em muitos outros lugares.”
Siddarth disse que o Projeto de Inteligência Coletiva também trabalhou com o desenvolvedor rival de IA OpenAI em outros projetos democráticos de IA. O projeto da Constituição da IA foi realizado apenas com os modelos de IA Claude da Anthropics.
“Acho que é por isso que é uma boa comparação, porque pegamos o modelo que [Anthropic] já treinou em uma constituição que os pesquisadores do Anthropic escreveram e o comparamos diretamente com o mesmo modelo”, disse Siddarth. “Mas com uma constituição que foi escrita pelo público”.
Uma descoberta surpreendente na experiência, disse Siddarth, foram as várias declarações que também diziam que o modelo de IA não deveria discriminar com base na deficiência. Essas afirmações não foram incluídas na constituição da Anthropic.
“Não acho que seja porque eles pretendiam que não estivessem lá”, disse ela. “Simplesmente não é algo que eles acabaram destacando, e isso foi significativamente enfatizado.”
Lançado em 2021, o Anthropic é apenas um dos desenvolvedores que correm para trazer inteligência artificial mais rápida e avançada para o mercado. Microsoft, Google, Meta e Amazon investiram bilhões em desenvolvedores de IA generativa. Como resultado, 2023 tem sido um ano lucrativo para os desenvolvedores de IA: em fevereiro, o Google anunciou um investimento de US $ 400 milhões na Anthropic. Esse investimento foi seguido pelo investimento de US $ 4 bilhões da Amazon na Anthropic em setembro.
No início deste ano, a Anthropic juntou-se à OpenAI, à Google e à Microsoft, comprometendo-se a trabalhar no sentido de desenvolver a IA de forma responsável após uma reunião com a Administração Biden. Outras empresas que aderiram ao compromisso foram a Amazon, a Meta e a Inflection. Em setembro, a NVIDIA, a Scale AI, a Cohere, a Adobe, a IBM, a Palantir, a Salesforce e a Stability AI também aderiram ao compromisso.
Apesar das limitações da experiência da Constitutional AI, Siddarth está otimista quanto ao futuro do Projeto de Inteligência Colectiva, à democracia na IA e à inclusão de mais contributos públicos no desenvolvimento da tecnologia emergente.
“Penso que o essencial é fazer mais destes processos; vamos aprender com o que já fizemos”, disse. “Estamos a trabalhar com grupos da sociedade civil, diferentes decisores políticos e todas estas empresas diferentes para o conseguirmos fazer. “
