In een poging om de ontwikkeling van AI-tools te democratiseren, heeft Claude AI-maker Anthropic samengewerkt met de non-profit organisatie Collective Intelligence Project om een andere koers voor AI-ontwikkeling te verkennen, door 1.000 Amerikanen te ondervragen om een AI-grondwet op te stellen.
“AI zal een transformerende impact hebben op de wereld”, vertelde Divya Siddarth, medeoprichter van Collective Intelligence Project, aan TCN. “Toch zijn er maar heel weinig mensen die mogen beslissen hoe dat er precies uit gaat zien. We wilden processen opbouwen zodat dat niet meer zo zou zijn.”
Het Collective Intelligence Project, dat in januari werd gelanceerd door Siddarth – een politiek econoom en sociaal technoloog – en onderzoeker, schrijver en ingenieur Saffron Huang, heeft als doel collectieve intelligentie voor collectieve vooruitgang te bevorderen. In maart ging het CIP een samenwerking aan met Anthropic voor het initiatief Collective Constitutional AI om een AI-model te ontwikkelen dat is ontworpen met input van buitenaf en om te onderzoeken hoe democratische processen de ontwikkeling van AI kunnen beïnvloeden.
“We wilden een deel van het werk dat is gedaan in de democratische ruimte en in de ruimte voor collectieve intelligentie samenbrengen rond de vraag wat het betekent om goede beslissingen te nemen voor wie en wie erbij betrokken wordt,” zei Siddarth. “Daar is veel onderzoek naar gedaan met transformatieve technologie, met name AI, iets waar we allebei aan hebben gewerkt.”
We hebben samengewerkt met @AnthropicAI om publieke input van alledaagse Amerikanen direct te vertalen naar een nieuwe collectieve grondwet voor Claude
Ja! De AI van het volk is fantastisch.
Leer wat wij deden & ontdekten over democratische AI.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) October 17, 2023
Het project, zei Anthropic in een blogpost, vroeg 1.000 leden van het Amerikaanse publiek om de AI-ontwikkelaar te helpen regels te kiezen voor zijn AI-chatbot. Anthropic zei dat de steekproef zo groot was dat hij representatief was voor Amerikaanse volwassenen in leeftijd, geslacht, inkomen en locatie. Deelnemers konden kiezen uit een lijst met regels voor de AI of hun eigen regels bedenken.
Anthropic reageerde niet direct op TCN’s verzoek om commentaar.
Volgens Anthropic hebben deelnemers 1.117 uitspraken gedaan. Ze brachten meer dan 38.000 stemmen uit op vragen als of AI zou moeten discrimineren op ras of seksuele voorkeur, en voegden eraan toe dat hoewel er verschillende meningen waren, er een hoge mate van consensus was over de meeste stellingen.
Hoewel in het onderzoek werd geprobeerd om een gevarieerde steekproef te verzamelen, erkende Siddarth dat toekomstige experimenten verder moeten gaan dan tech-savvy en welvarende Amerikanen.
“Het zijn alleen mensen in de VS – dat is natuurlijk extreem beperkt in termen van iedereen in de wereld,” zei ze. “Als er iets is, zoals veel mensen die technologie ontwikkelen, hebben ze waarschijnlijk meer overlappende waarden met mensen in de VS en veel andere plaatsen.”
Siddarth zei dat het Collective Intelligence Project ook heeft samengewerkt met rivaliserende AI-ontwikkelaar OpenAI aan andere democratische AI-projecten. Het AI-grondwetproject werd alleen gedaan met behulp van de Claude AI-modellen van Anthropics.
“Ik denk dat het daarom een goede vergelijking is, omdat we het model nemen dat [Anthropic] al heeft getraind op een grondwet die Anthropic-onderzoekers hebben geschreven en het direct vergelijken met hetzelfde model,” zei Siddarth. “Maar dan met een grondwet die door het publiek is geschreven.”
Een verrassende bevinding in het experiment, zei Siddarth, waren de verschillende verklaringen die ook zeiden dat het AI-model niet mocht discrimineren op basis van handicap. Die waren niet opgenomen in de Anthropic grondwet.
“Ik denk niet omdat het hun bedoeling was dat het er niet in zou staan,” zei ze. “Het is gewoon niet iets dat ze uiteindelijk benadrukten, en dat werd aanzienlijk benadrukt.”
Anthropic, gelanceerd in 2021, is slechts een van de ontwikkelaars die racen om snellere en geavanceerdere kunstmatige intelligentie op de markt te brengen. Microsoft, Google, Meta en Amazon hebben miljarden geïnvesteerd in generatieve AI-ontwikkelaars. Als gevolg hiervan is 2023 een lucratief jaar voor AI-ontwikkelaars: in februari kondigde Google een investering van $400 miljoen in Anthropic aan. Deze investering werd in september gevolgd door de investering van 4 miljard dollar van Amazon in Anthropic.
Eerder dit jaar sloot Anthropic zich aan bij OpenAI, Google en Microsoft en beloofde na een ontmoeting met de regering Biden te werken aan een verantwoorde ontwikkeling van AI. Andere bedrijven die zich bij de belofte aansloten waren Amazon, Meta en Inflection. In september sloten NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce en Stability AI zich ook aan bij de belofte.
Ondanks de beperkingen van het Constitutional AI-experiment is Siddarth optimistisch over de toekomst van het Collective Intelligence Project, democratie in AI en wil hij meer publieke input betrekken bij de ontwikkeling van de opkomende technologie.
“Ik denk dat de kern is: laten we meer van deze processen doen; laten we leren van wat we al hebben gedaan,” zei ze. “We werken samen met groepen uit het maatschappelijk middenveld, verschillende beleidsmakers en al deze verschillende bedrijven om dat voor elkaar te krijgen.”
