В стремежа си да демократизира разработването на инструменти за изкуствен интелект създателят на изкуствен интелект Клод Антропик се обедини с организацията с нестопанска цел Collective Intelligence Project, за да проучи различен курс на развитие на изкуствения интелект, като анкетира 1000 американци за изготвяне на конституция на изкуствения интелект.
„ИИ ще окаже трансформиращо въздействие върху света“, заяви пред TCN съоснователят на Collective Intelligence Project Дивия Сиддарт. „И все пак много малко хора могат да решат как точно да изглежда това. Искахме да изградим процеси, така че това вече да не е вярно.“
Стартирал през януари от Сиддарт – политикономист и социален технолог, и изследователката, писателка и инженерка Сафрон Хуанг, проектът Collective Intelligence Project има за цел да насърчава колективната интелигентност за колективен напредък. През март CIP си партнира с Anthropic за инициативата „Колективен конституционен ИИ“, за да разработи модел на ИИ, проектиран с външен принос, и да проучи как демократичните процеси могат да повлияят на развитието на ИИ.
„Искахме да съберем на едно място част от работата, която е свършена в областта на демокрацията, в областта на колективния интелект, около това какво означава да се вземат добри решения за кого и кой участва“, каза Сиддарт. „Има много изследвания по този въпрос с трансформиращите технологии, особено с ИИ, което е нещо, върху което и двамата работим.“
Съединихме се с @AnthropicAI, за да превърнем обществения принос на обикновените американци директно в нова колективна конституция за Claude
Да! Народният ИИ в действителност е фантастичен.
Научете какво направихме & открихме за демократичния ИИ.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Проект за колективен интелект (@collect_intel) Октомври 17, 2023
Проектът, който Anthropic представи в публикация в блога си, помоли 1000 представители на американската общественост да помогнат на разработчика на изкуствен интелект да избере правила за своя чатбот с изкуствен интелект. Според Anthropic извадката е имала за цел да представи пълнолетните граждани на САЩ по възраст, пол, доходи и местоположение. Участниците можеха да избират от списък с правила за ИИ или да измислят свои собствени.
Anthropic не отговори веднага на молбата на TCN за коментар.
Според Anthropic участниците са предоставили 1117 твърдения. Те са дали над 38 000 гласа по въпроси като дали ИИ трябва да дискриминира по расов признак или по сексуални предпочитания, като се добавя, че макар да е имало различни мнения, по повечето твърдения е имало висока степен на консенсус.
Въпреки че проучването се опита да събере разнообразна извадка, Сиддарт призна, че бъдещите експерименти трябва да надхвърлят технологично ориентираните и богати американци.
„Това са само хора в САЩ – това очевидно е изключително ограничено по отношение на всички по света“, каза тя. „Ако не друго, като много хора, които разработват технологии, вероятно имат по-голямо ценностно припокриване с хората в САЩ и на много други места.“
Сиддарт каза, че проектът Collective Intelligence Project е работил и с конкурентния разработчик на изкуствен интелект OpenAI по други демократични проекти за изкуствен интелект. Проектът за конституция на ИИ е осъществен само с помощта на моделите на ИИ на Клод от Anthropics.
„Мисля, че именно затова това е добро сравнение, защото ние взехме модела, който [Антропик] вече е обучил върху конституцията, която изследователите на Антропик са написали, и го сравнихме директно със същия модел“, каза Сиддарт. „Но с конституция, която е написана от обществеността.“
Изненадваща констатация в експеримента, каза Сиддарт, са няколкото изявления, в които също се казва, че моделът на ИИ не трябва да дискриминира въз основа на увреждане. Те не са били включени в конституцията на Антропика.
„Не мисля, че защото са възнамерявали да не бъдат там“, каза тя. „Просто не е нещо, което в крайна сметка са подчертали, а това беше значително подчертано“.
Стартирал през 2021 г., Anthropic е само един от разработчиците, които се надпреварват да предлагат по-бърз и по-усъвършенстван изкуствен интелект на пазара. Microsoft, Google, Meta и Amazon са инвестирали милиарди в разработчици на генеративен изкуствен интелект. В резултат на това 2023 г. е доходоносна година за разработчиците на ИИ: през февруари Google обяви инвестиция от 400 млн. долара в Anthropic. Тази инвестиция беше последвана от инвестицията на Amazon в размер на 4 млрд. долара в Anthropic през септември.
По-рано тази година Anthropic се присъедини към OpenAI, Google и Microsoft, като пое ангажимент да работи за отговорно развитие на ИИ след среща с администрацията на Байдън. Други компании, които се присъединиха към това обещание, бяха Amazon, Meta и Inflection. През септември към ангажимента се присъединиха и NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce и Stability AI.
Въпреки ограниченията в конституционния експеримент с ИИ, Сиддарт е оптимист за бъдещето на проекта Collective Intelligence, демокрацията в ИИ и се стреми да включи повече обществен принос в развитието на нововъзникващата технология.
„Мисля, че основното е да направим повече такива процеси; да се поучим от това, което вече сме направили“, каза тя. „Работим с групи на гражданското общество, различни политици, всички тези различни компании, за да постигнем това.“
