Ve snaze demokratizovat vývoj nástrojů umělé inteligence se společnost Anthropic, tvůrci umělé inteligence Claude, spojila s neziskovou organizací Collective Intelligence Project, aby společně prozkoumali různé cesty vývoje umělé inteligence tím, že provedou průzkum mezi 1 000 americkými průzkumu s cílem navrhnout ústavu AI.
„AI bude mít na svět transformační dopad,“ řekla TCN Divya Siddarthová, spoluzakladatelka Collective Intelligence Project, „avšak jen velmi malý počet lidí bude moci rozhodnout, jak to vlastně bude vypadat. Chceme vytvořit proces, aby se to už neopakovalo.“
Projekt Kolektivní moudrost zahájili Siddarth, politický ekonom a sociální technolog, a Saffron Wong, výzkumník, spisovatel a inženýr, v lednu letošního roku s cílem podpořit kolektivní moudrost a dosáhnout kolektivního pokroku. V březnu projekt Collective Wisdom ve spolupráci s antropologií zahájil iniciativu Collective Constitution AI Initiative, jejímž cílem je vyvinout model umělé inteligence navržený za přispění externích subjektů a prozkoumat, jak demokratický proces ovlivňuje vývoj umělé inteligence.
„Chtěli jsme dát dohromady část práce, která byla vykonána v oblasti demokracie a v oblasti kolektivní inteligence,“ říká Siddharth, „abychom prozkoumali, co to znamená dělat dobrá rozhodnutí, pro koho a kdo se na nich podílí.“ Siddharth řekl: „Existuje mnoho relevantních výzkumů v oblasti transformačních technologií, zejména umělé inteligence, a všichni na tom pracujeme.
na převedení názorů běžných Američanů přímo do nové kolektivní ústavy pro .
ANO! Lidová AI je ve skutečnosti fantastická.
Zjistěte, co jsme udělali & zjistili o demokracii AI.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_ intel) 17. října 2023
Anthropic uvedl, že velikost vzorku měla být reprezentativní pro dospělé Američany různého věku, pohlaví, příjmů a regionů. Účastníci si mohou vybrat ze seznamu pravidel AI nebo si vymyslet vlastní.
Společnost Anthropic na žádost TCN o komentář bezprostředně nereagovala.
Podle společnosti Anthropic účastníci přispěli 1 117 výroky. Ti odevzdali více než 38 000 hlasovacích lístků na otázky, jako například zda by AI měla přistupovat k rasovým nebo genderovým preferencím odlišně.
Ačkoli se průzkum snažil shromáždit různorodý vzorek, Siddharth připustil, že budoucí experimenty budou muset jít nad rámec technicky zdatných a bohatých Američanů.
„Jsou to jen Američané,“ říká, „a to je samozřejmě pro všechny na světě velmi omezené.“ Pokud něco, tak lidé jako mnozí z těch, kteří tuto technologii vyvíjejí, mohou mít více překrývajících se hodnot s lidmi v USA a na mnoha dalších místech.“
Projekt Collective Intelligence Project spolupracuje s konkurenčním vývojářem umělé inteligence OpenAI i na dalších projektech demokratické umělé inteligence, uvedl Siddharth. Projekt Ústava umělé inteligence využívá pouze model Claude AI společnosti Anthropics.
„Myslím, že právě proto je to dobré srovnání, protože bereme model, který [Anthropic] vycvičil, a dáváme ho na ústavu napsanou výzkumníky Anthropicu a porovnáváme ho přímo s tím samým modelem,“ řekl Siddarth.“ Byla však použita ústava napsaná veřejností.
Překvapivým zjištěním experimentu bylo podle Siddartha to, že v několika výrocích se také uvádělo, že modely umělé inteligence by neměly diskriminovat na základě zdravotního postižení. Ty však v antropologické ústavě obsaženy nebyly.
„Nemyslím si, že je to proto, že by to záměrně vynechali,“ řekla.“ Je to jen něco, co nakonec nezdůraznili, a přitom to bylo jasně zdůrazněno.“
Společnost Anthropic, která zahájí svou činnost v roce 2021, je jen jedním z vývojářů, kteří se předhánějí v tom, aby na trh uvedli rychlejší a pokročilejší umělou inteligenci. Společnosti Microsoft, Google, Meta a Amazon již do vývojářů generativní AI nalili miliardy dolarů. Rok 2023 bude proto pro vývojáře AI lukrativní: v únoru Google oznámil investici 400 milionů dolarů do společnosti Anthropic. V září následovala investice společnosti Amazon do společnosti Anthropic ve výši 4 miliard dolarů.
Začátkem letošního roku se Anthropic připojil k OpenAI, Googlu a Microsoftu a po setkání s Bidenovou administrativou se zavázal k odpovědnému rozvoji AI. K tomuto závazku se připojily společnosti Amazon, Meta a Inflection a v září NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce a Stability AI.
Navzdory omezením ústavního experimentu s umělou inteligencí je Siddharth optimistický ohledně budoucnosti projektu Collective Intelligence a demokracie umělé inteligence a chce do vývoje nových technologií zapojit širší veřejnost.
„Myslím, že jádrem toho všeho,“ říká, „je dělat více takové práce; učme se z práce, která již byla vykonána.“ Spolupracujeme se skupinami občanské společnosti, různými tvůrci politik a všemi těmito různými společnostmi, abychom to dokázali.“
