Con l’obiettivo di democratizzare lo sviluppo di strumenti di IA, il produttore di IA Claude Anthropic ha collaborato con l’organizzazione no-profit Collective Intelligence Project per esplorare un percorso diverso per lo sviluppo dell’IA, intervistando 1.000 americani per redigere una costituzione dell’IA.
“L’IA avrà un impatto trasformativo sul mondo”, ha dichiarato a TCN Divya Siddarth, cofondatrice del Collective Intelligence Project. “Eppure pochissime persone hanno la capacità di decidere esattamente come sarà. Volevamo mettere in atto dei processi per far sì che questo non sia più il caso”.
Lanciato a gennaio da Siddarth – economista politico e tecnologo sociale – e Saffron Huang – ricercatrice, scrittrice e ingegnere – il Collective Intelligence Project mira a promuovere l’intelligenza collettiva al servizio del progresso collettivo. A marzo, il CIP ha collaborato con Anthropic all’iniziativa Collective Constitutional AI per sviluppare un modello di AI progettato con input esterni ed esplorare come i processi democratici possano influenzare lo sviluppo dell’AI.
“Volevamo riunire alcuni dei lavori svolti nello spazio democratico e nello spazio dell’intelligenza collettiva intorno alla questione di cosa significhi prendere buone decisioni per chi e chi è coinvolto”, ha detto Siddarth. “Sono state fatte molte ricerche su questo tema con le tecnologie trasformative, in particolare l’IA, su cui abbiamo lavorato entrambi”. “
Abbiamo lavorato con @AnthropicAI per tradurre i contributi pubblici degli americani comuni direttamente in una nuova costituzione collettiva per Claude
Sì, l’IA del popolo è fantastica.
Scoprite cosa abbiamo fatto e scoperto sull’IA democratica.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) 17 ottobre 2023
In un post sul blog, Anthropic ha chiesto a 1.000 membri del pubblico americano di aiutare lo sviluppatore di AI a scegliere le regole per il suo chatbot AI. Anthropic ha spiegato che il campione era abbastanza ampio da essere rappresentativo degli adulti americani in termini di età, sesso, reddito e posizione geografica. I partecipanti potevano scegliere da un elenco di regole per l’IA o suggerirne di proprie.
Anthropic non ha risposto immediatamente alla richiesta di commento del TCN.
Secondo Anthropic, i partecipanti hanno rilasciato 1.117 dichiarazioni. Hanno votato più di 38.000 volte su questioni come la discriminazione razziale o di genere da parte dell’IA, aggiungendo che, nonostante le diverse opinioni, c’è stato un ampio consenso sulla maggior parte delle affermazioni.
Sebbene il sondaggio abbia cercato di raccogliere un campione eterogeneo, Siddarth ha riconosciuto che gli esperimenti futuri dovrebbero guardare oltre gli americani benestanti e esperti di tecnologia.
“Si tratta solo di persone che vivono negli Stati Uniti, che ovviamente sono estremamente limitati rispetto all’intera popolazione mondiale”, ha detto Siddarth, “infatti, come molte persone che sviluppano tecnologia, probabilmente hanno valori che si sovrappongono a quelli degli americani e di molte altre persone”.
Siddarth ha detto che il progetto di intelligenza collettiva ha anche collaborato con lo sviluppatore di IA rivale OpenAI su altri progetti di IA democratica. Il progetto di costituzione dell’IA è stato realizzato solo con l’aiuto dei modelli di IA di Claude Anthropics.
“Penso che sia un buon confronto, perché stiamo prendendo il modello che [Anthropic] ha già addestrato su una costituzione che i ricercatori di Anthropic hanno progettato e lo stiamo confrontando direttamente con lo stesso modello”, ha detto Siddarth. Ma con una costituzione scritta dal pubblico”.
Secondo Siddarth, l’esperimento ha fatto una scoperta sorprendente, ovvero le varie affermazioni secondo cui il modello di IA non dovrebbe discriminare sulla base della disabilità. Queste dichiarazioni non erano incluse nella costituzione antropica.
“Non credo che, solo perché era nelle loro intenzioni, non dovrebbero essere presenti”, ha detto, “è solo che non è qualcosa su cui hanno finito per concentrarsi, e questo è ciò che è stato evidenziato in modo significativo”.
Anthropic, che verrà lanciata nel 2021, è solo uno degli sviluppatori che stanno cercando di portare sul mercato un’intelligenza artificiale più veloce e avanzata. Microsoft, Google, Meta e Amazon hanno investito miliardi negli sviluppatori di intelligenza artificiale generativa. Di conseguenza, il 2023 sarà un anno redditizio per gli sviluppatori di IA: a febbraio, Google ha annunciato un investimento di 400 milioni di dollari in Anthropic. Questo investimento è stato seguito da quello di Amazon di 4 miliardi di dollari in Anthropic a settembre.
All’inizio di quest’anno, in seguito a un incontro con l’amministrazione Biden, Anthropic si è unita a OpenAI, Google e Microsoft nell’impegnarsi per uno sviluppo responsabile dell’IA. Altre aziende si sono unite a questo impegno, tra cui Amazon, Meta e Inflection. A settembre hanno aderito a questo impegno anche NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce e Stability AI.
Nonostante l’esperienza limitata con l’IA costituzionale, Siddarth è ottimista sul futuro del progetto di intelligenza collettiva e democrazia nell’IA e vuole che il pubblico sia maggiormente coinvolto nello sviluppo di questa tecnologia emergente.
“Penso che la cosa più importante sia moltiplicare questi processi e imparare da ciò che abbiamo già fatto”, ha detto, “Stiamo lavorando con gruppi della società civile, diversi responsabili politici e tutte queste diverse aziende per far sì che questo accada”. “
