W dążeniu do demokratyzacji rozwoju narzędzi sztucznej inteligencji, twórca Claude AI Anthropic połączył siły z organizacją non-profit Collective Intelligence Project, aby zbadać inny kierunek rozwoju sztucznej inteligencji, przeprowadzając ankietę wśród 1000 Amerykanów w celu opracowania konstytucji sztucznej inteligencji.
„Sztuczna inteligencja będzie miała transformacyjny wpływ na świat” – powiedziała TCN Divya Siddarth, współzałożycielka Collective Intelligence Project. „Jednak bardzo niewiele osób może dokładnie zdecydować, jak to wygląda. Chcieliśmy zbudować procesy, aby nie było to już prawdą”.
Uruchomiony w styczniu przez Siddartha – ekonomistę politycznego i technologa społecznego – oraz badacza, pisarza i inżyniera Saffrona Huanga, Collective Intelligence Project ma na celu promowanie zbiorowej inteligencji na rzecz zbiorowego postępu. W marcu CIP nawiązał współpracę z Anthropic w ramach inicjatywy Collective Constitutional AI, aby opracować model sztucznej inteligencji zaprojektowany z wykorzystaniem zewnętrznych danych wejściowych i zbadać, w jaki sposób procesy demokratyczne mogą wpływać na rozwój sztucznej inteligencji.
„Chcieliśmy zebrać niektóre z prac, które zostały wykonane w przestrzeni demokracji, w przestrzeni zbiorowej inteligencji wokół tego, co to znaczy podejmować dobre decyzje dla kogo i kto jest zaangażowany” – powiedział Siddarth. „Istnieje wiele badań na ten temat z wykorzystaniem technologii transformacyjnej, w szczególności sztucznej inteligencji, nad którą oboje pracowaliśmy.”
Współpracowaliśmy z @AnthropicAI, aby przełożyć publiczne opinie zwykłych Amerykanów bezpośrednio na nową zbiorową konstytucję dla Claude
Tak! Sztuczna inteligencja ludzi jest w rzeczywistości fantastyczna.
Dowiedz się, co zrobiliśmy i co odkryliśmy na temat demokratycznej sztucznej inteligencji.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) October 17, 2023
W ramach projektu, Anthropic poinformował we wpisie na blogu, poprosił 1000 członków amerykańskiej opinii publicznej o pomoc deweloperowi AI w wyborze reguł dla jego chatbota AI. Anthropic powiedział, że wielkość próby miała na celu reprezentowanie dorosłych Amerykanów w różnym wieku, płci, dochodach i lokalizacji. Uczestnicy mogli wybierać z listy reguł dla sztucznej inteligencji lub wymyślać własne.
Anthropic nie odpowiedział od razu na prośbę TCN o komentarz.
Według Anthropic, uczestnicy złożyli 1 117 oświadczeń. Oddali ponad 38 000 głosów na pytania takie jak to, czy sztuczna inteligencja powinna dyskryminować ze względu na rasę lub preferencje seksualne, dodając, że chociaż istniały różne opinie, w większości stwierdzeń panował wysoki stopień konsensusu.
Podczas gdy ankieta próbowała zebrać zróżnicowaną wielkość próby, Siddarth przyznał, że przyszłe eksperymenty muszą wykraczać poza zaawansowanych technologicznie i zamożnych Amerykanów.
„To tylko ludzie w Stanach Zjednoczonych – to oczywiście bardzo ograniczone pod względem wszystkich na świecie” – powiedziała. „Jeśli w ogóle, jak wiele osób, które rozwijają technologię, prawdopodobnie mają więcej wartości pokrywających się z ludźmi w USA i wielu innych miejscach”.
Siddarth powiedział, że Collective Intelligence Project współpracował również z konkurencyjnym deweloperem AI OpenAI nad innymi demokratycznymi projektami AI. Projekt AI Constitution został zrealizowany wyłącznie przy użyciu modeli Claude AI firmy Anthropics.
„Myślę, że dlatego jest to dobre porównanie, ponieważ bierzemy model, który [Anthropic] już wyszkolił na konstytucji napisanej przez badaczy Anthropic i porównujemy go bezpośrednio z tym samym modelem” – powiedział Siddarth. „Ale z konstytucją napisaną przez społeczeństwo”.
Siddarth powiedział, że zaskakującym odkryciem w eksperymencie było kilka stwierdzeń, które mówiły również, że model sztucznej inteligencji nie powinien dyskryminować ze względu na niepełnosprawność. Nie zostały one uwzględnione w konstytucji Anthropic.
„Nie sądzę, że zamierzali tego tam nie umieszczać” – powiedziała. „Po prostu nie jest to coś, co ostatecznie podkreślili, a co zostało znacznie podkreślone”.
Uruchomiony w 2021 roku Anthropic jest tylko jednym z deweloperów ścigających się, aby wprowadzić na rynek szybszą i bardziej zaawansowaną sztuczną inteligencję. Microsoft, Google, Meta i Amazon zainwestowały miliardy w programistów generatywnej sztucznej inteligencji. W rezultacie rok 2023 był lukratywny dla twórców sztucznej inteligencji: w lutym Google ogłosił inwestycję w Anthropic w wysokości 400 milionów dolarów. Po tej inwestycji we wrześniu Amazon zainwestował 4 miliardy dolarów w Anthropic.
Na początku tego roku Anthropic dołączył do OpenAI, Google i Microsoft, zobowiązując się do odpowiedzialnego rozwoju sztucznej inteligencji po spotkaniu z administracją Bidena. Inne firmy, które dołączyły do tego zobowiązania to Amazon, Meta i Inflection. We wrześniu do zobowiązania dołączyły również NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce i Stability AI.
Pomimo ograniczeń w eksperymencie Constitutional AI, Siddarth jest optymistą co do przyszłości Projektu Kolektywnej Inteligencji, demokracji w sztucznej inteligencji i dąży do uwzględnienia większego wkładu publicznego w rozwój powstającej technologii.
„Myślę, że sedno tkwi w tym, aby przeprowadzać więcej takich procesów; uczmy się na podstawie tego, co już zrobiliśmy” – powiedziała. „Współpracujemy z grupami społeczeństwa obywatelskiego, różnymi decydentami, wszystkimi tymi różnymi firmami, aby to osiągnąć.”
