Стремясь демократизировать разработку инструментов искусственного интеллекта, компания Anthropic, создатель ИИ Claude, объединилась с некоммерческой организацией Collective Intelligence Project для поиска иного пути развития ИИ, опросив 1000 американцев для составления конституции ИИ.
«ИИ окажет преобразующее воздействие на мир», — сказала TCN соучредитель проекта «Коллективный разум» Дивия Сиддарт. «Однако очень немногие люди могут решить, как именно это будет выглядеть. Мы хотели создать такие процессы, чтобы это перестало быть правдой».
Проект «Коллективный интеллект», запущенный в январе Сиддарт — политэкономистом и социальным технологом — и исследователем, писателем и инженером Саффроном Хуангом, призван содействовать развитию коллективного интеллекта для коллективного прогресса. В марте CIP в партнерстве с компанией Anthropic выступил с инициативой «Коллективный конституционный ИИ», направленной на разработку модели ИИ, созданной с привлечением внешних источников, а также на изучение того, как демократические процессы могут повлиять на развитие ИИ.
«Мы хотели объединить некоторые наработки в области демократии и коллективного интеллекта, касающиеся того, что значит принимать правильные решения, для кого и кто в них участвует», — сказал Сиддарт. «Существует множество исследований в этой области с использованием трансформационных технологий, в частности ИИ, над чем мы оба работаем». «
Мы сотрудничаем с @AnthropicAI, чтобы перевести общественное мнение простых американцев непосредственно в новую коллективную конституцию для Claude
Да! Народный ИИ — это действительно фантастика.
Узнайте, что мы сделали & узнали о демократическом ИИ.
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
— Collective Intelligence Project (@collect_intel) October 17, 2023
В рамках этого проекта, как сообщает Anthropic в своем блоге, 1000 представителей американской общественности должны были помочь создателю ИИ выбрать правила для его чат-бота. Размер выборки, по словам Anthropic, был направлен на то, чтобы представить взрослое население США с точки зрения возраста, пола, дохода и места проживания. Участники могли выбирать из списка правил для ИИ или создавать свои собственные.
Компания Anthropic не сразу ответила на просьбу TCN о комментарии.
По данным Anthropic, участники создали 1117 высказываний. Участники проголосовали более 38 тыс. раз по таким вопросам, как, например, должен ли ИИ дискриминировать по расовому признаку или сексуальным предпочтениям, добавив, что, несмотря на наличие различных мнений, по большинству утверждений был достигнут высокий уровень консенсуса.
Хотя в ходе исследования была предпринята попытка собрать разнообразную выборку, Сиддарт признал, что будущие эксперименты должны выходить за рамки состоятельных, подкованных в области технологий американцев.
«Это касается только жителей США, что, безусловно, очень ограниченно с точки зрения всех людей в мире», — сказал он. «Если уж на то пошло, то у многих людей, разрабатывающих технологии, ценности, вероятно, в большей степени пересекаются с ценностями жителей США и многих других стран».
Сиддарт отметил, что проект «Коллективный разум» также сотрудничал с конкурирующей компанией OpenAI по другим проектам демократического ИИ. Проект «Конституция ИИ» был реализован только с помощью моделей ИИ Claude компании Anthropics.
«Я думаю, что именно поэтому это хорошее сравнение, потому что мы взяли модель, которую [Anthropic] уже обучили на конституции, которую написали исследователи Anthropic, и сравнили ее непосредственно с той же самой моделью», — сказал Сиддарт. «Но с конституцией, которая была написана общественностью».
Удивительной находкой в эксперименте, по словам Сиддарта, стали различные заявления, в которых также говорилось, что модель ИИ не должна дискриминировать по признаку инвалидности. Эти положения не были включены в конституцию Anthropic.
«Я не думаю, что это произошло потому, что они хотели, чтобы их там не было», — сказала она. «Просто в итоге они не стали акцентировать на этом внимание, и это было существенно подчеркнуто».
Запущенный в 2021 году Anthropic — лишь один из разработчиков, стремящихся вывести на рынок более быстрый и совершенный искусственный интеллект. Microsoft, Google, Meta и Amazon инвестировали миллиарды в разработчиков генеративного ИИ. В результате 2023 год стал прибыльным для разработчиков ИИ: в феврале компания Google объявила об инвестициях в Anthropic в размере 400 млн. долл. За этой инвестицией последовали инвестиции Amazon в размере 4 млрд. долл. в Anthropic в сентябре.
Ранее в этом году компания Anthropic присоединилась к OpenAI, Google и Microsoft, взяв на себя обязательства по ответственному подходу к разработке ИИ после встречи с представителями администрации Байдена. Среди других компаний, присоединившихся к этому обязательству, были Amazon, Meta и Inflection. В сентябре к этому обязательству присоединились также NVIDIA, Scale AI, Cohere, Adobe, IBM, Palantir, Salesforce и Stability AI.
Несмотря на ограничения эксперимента по созданию конституционного ИИ, Сиддарт с оптимизмом смотрит на будущее проекта «Коллективный разум», демократию в ИИ и привлечение большего числа общественности к разработке новых технологий.
«Я думаю, что главное — это проводить больше подобных процессов; давайте учиться на том, что мы уже сделали», — сказал он. Мы работаем с группами гражданского общества, различными политическими деятелями и всеми этими различными компаниями, чтобы добиться результата». «
