Mit dem Ziel, die Entwicklung von KI-Tools zu demokratisieren, hat sich der KI-Hersteller Claude Anthropic mit der gemeinnützigen Organisation Collective Intelligence Project zusammengetan, um einen anderen Weg für die Entwicklung von KI zu erforschen, indem er 1.000 Amerikaner befragte, um eine KI-Verfassung zu verfassen.
„Die KI wird einen transformativen Einfluss auf die Welt haben“, sagte Divya Siddarth, Mitbegründer des Collective Intelligence Project, gegenüber TCN. „Dennoch haben nur sehr wenige Menschen die Möglichkeit, genau zu entscheiden, wie das aussehen wird. Wir wollten Prozesse einführen, damit dies nicht mehr der Fall ist“.
Das Projekt Kollektive Intelligenz, das im Januar von Siddarth – einem politischen Ökonomen und Sozialtechnologen – und Saffron Huang – einem Forscher, Schriftsteller und Ingenieur – ins Leben gerufen wurde, soll die kollektive Intelligenz im Dienste des kollektiven Fortschritts fördern. Im März schloss sich das CIP mit Anthropic im Rahmen der Initiative Collective Constitutional AI zusammen, um ein mit externen Beiträgen konzipiertes KI-Modell zu entwickeln und zu erforschen, wie demokratische Prozesse die Entwicklung der KI beeinflussen können.
„Wir wollten einige der Arbeiten, die im demokratischen Raum und im Raum der kollektiven Intelligenz durchgeführt wurden, um die Frage herum zusammenführen, was es bedeutet, gute Entscheidungen für wen zu treffen und wer daran beteiligt ist“, sagte Siddarth. „Hierzu wurde viel mit transformativen Technologien geforscht, insbesondere mit KI, an der wir beide gearbeitet haben. „
Wir haben mit @AnthropicAI zusammengearbeitet, um die öffentlichen Beiträge der alltäglichen Amerikaner direkt in eine neue kollektive Verfassung für Claude zu übersetzen.
Ja, die KI des Volkes ist fantastisch.
Finden Sie heraus, was wir über die demokratische KI gemacht & entdeckt haben.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) October 17, 2023
In einem Blogeintrag bat Anthropic 1.000 Mitglieder der amerikanischen Öffentlichkeit, dem KI-Entwickler bei der Auswahl der Regeln für seinen KI-Chatbot zu helfen. Anthropic erklärte, die Stichprobe sei groß genug gewesen, um hinsichtlich Alter, Geschlecht, Einkommen und Wohnort für amerikanische Erwachsene repräsentativ zu sein. Die Teilnehmer konnten aus einer Liste von Regeln für die KI auswählen oder ihre eigenen Regeln vorschlagen.
Anthropic reagierte nicht sofort auf die Bitte von TCN um einen Kommentar.
Laut Anthropic gaben die Teilnehmer 1.117 Erklärungen ab. Sie stimmten über 38.000 Mal über Fragen wie Rassen- oder Geschlechterdiskriminierung durch KI ab und fügten hinzu, dass trotz unterschiedlicher Meinungen bei den meisten Aussagen ein breiter Konsens bestand.
Obwohl die Umfrage versuchte, eine vielfältige Stichprobe zusammenzustellen, räumte Siddarth ein, dass zukünftige Experimente über die wohlhabenden und technikbegeisterten Amerikaner hinausgehen sollten.
„Es handelt sich nur um Menschen, die in den USA leben, was im Vergleich zur gesamten Weltbevölkerung natürlich äußerst begrenzt ist“, sagte sie. „Tatsächlich haben sie, wie viele Menschen, die Technologien entwickeln, wahrscheinlich Werte, die sich mit denen der Amerikaner und vieler anderer Menschen überschneiden.
Siddarth sagte, dass das Projekt für kollektive Intelligenz auch mit dem rivalisierenden KI-Entwickler OpenAI bei anderen demokratischen KI-Projekten zusammengearbeitet habe. Das KI-Verfassungsprojekt wurde nur mithilfe der KI-Modelle von Claude Anthropics realisiert.
„Ich denke, das ist der Grund, warum es ein guter Vergleich ist, denn wir nehmen das Modell, das [Anthropic] bereits auf eine Verfassung trainiert hat, die Anthropic-Forscher entworfen haben, und vergleichen es direkt mit demselben Modell“, sagte Siddarth. „Aber mit einer Verfassung, die von der Öffentlichkeit verfasst wurde.
Laut Siddarth hat das Experiment eine überraschende Entdeckung gemacht, nämlich die verschiedenen Aussagen, dass das KI-Modell nicht aufgrund einer Behinderung diskriminieren sollte. Diese Erklärungen waren in der anthropischen Verfassung nicht enthalten.
„Ich denke nicht, dass es, nur weil es ihre Absicht war, nicht darin stehen sollte“, sagte sie. „Es ist nur so, dass es nicht etwas ist, auf das sie letztendlich den Schwerpunkt gelegt haben, und das ist das, was signifikant hervorgehoben wurde.
Anthropic, das 2021 auf den Markt kommt, ist nur einer der Entwickler, die sich bemühen, eine schnellere und fortschrittlichere künstliche Intelligenz auf den Markt zu bringen. Microsoft, Google, Meta und Amazon haben Milliarden in Entwickler von generativer KI investiert. Dementsprechend ist 2023 ein lukratives Jahr für KI-Entwickler: Im Februar gab Google eine Investition von 400 Millionen US-Dollar in Anthropic bekannt. Dieser Investition folgte im September die 4-Milliarden-Dollar-Investition von Amazon in Anthropic.
Anfang des Jahres schloss sich Anthropic nach einem Treffen mit der Biden-Regierung OpenAI, Google und Microsoft an und verpflichtete sich, sich für eine verantwortungsvolle Entwicklung der KI einzusetzen. Andere Unternehmen schlossen sich diesem Engagement an, darunter Amazon, Meta und Inflection. Im September schlossen sich auch NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce und Stability AI dieser Verpflichtung an.
Trotz der begrenzten Erfahrung mit Constitutional AI ist Siddarth optimistisch, was die Zukunft des Projekts der kollektiven Intelligenz und der Demokratie in der KI angeht, und möchte, dass die Öffentlichkeit stärker an der Entwicklung dieser aufstrebenden Technologie beteiligt wird.
„Ich denke, das Wichtigste ist, diese Prozesse zu vervielfachen und aus dem zu lernen, was wir bereits getan haben“, sagte sie. „Wir arbeiten mit zivilgesellschaftlichen Gruppen, verschiedenen politischen Entscheidungsträgern und all diesen verschiedenen Unternehmen zusammen, um dies zu erreichen. „
