为了实现人工智能工具开发的民主化，克劳德人工智能公司（Claude AI）的创造者Anthropic与非营利组织 “集体智慧项目”（Collective Intelligence Project）合作，探索人工智能发展的不同道路，对1000名美国人进行调查，以起草一部人工智能宪法。
“人工智能将对世界产生变革性影响，”Collective Intelligence Project 联合创始人 Divya Siddarth 告诉 TCN。”然而，只有极少数人能决定这究竟是什么样子。我们想建立一套流程，让这种情况不再发生。”
集体智慧项目由政治经济学家、社会技术专家西达斯和研究员、作家、工程师黄红花于今年 1 月发起，旨在促进集体智慧，推动集体进步。今年3月，集体智慧项目与人类学合作，发起了集体宪法人工智能倡议，以开发一个由外部投入设计的人工智能模型，并探索民主进程如何影响人工智能的发展。
“西达斯说：”我们想把民主领域和集体智能领域所做的一些工作放在一起，探讨为谁做出好的决定意味着什么，以及谁会参与其中。”西达斯说：”在变革性技术，特别是人工智能方面，有很多相关研究，我们都在从事这方面的工作。
我们与@AnthropicAI合作，将美国普通民众的意见直接转化为克劳德的新集体宪法。
是的！事实上，人民的人工智能非常棒。
了解我们所做的& 发现的民主人工智能。
▶️https://t.co/zjnqwpLn9Z pic.twitter.com/jI9FKrrhky
– Collective Intelligence Project (@collect_intel) October 17, 2023
Anthropic公司在一篇博客文章中说，该项目要求1000名美国公众帮助人工智能开发商为其人工智能聊天机器人挑选规则。Anthropic说，样本数量旨在代表不同年龄、性别、收入和地区的美国成年人。参与者可以从人工智能的规则列表中进行选择，也可以提出自己的规则。
Anthropic 没有立即回应 TCN 的置评请求。
据 Anthropic 称，参与者贡献了 1,117 份声明。他们就人工智能是否应该区别对待种族或性别偏好等问题投出了 3.8 万多张选票。
虽然调查试图收集不同的样本量，但西达斯承认，未来的实验必须超越精通技术和富裕的美国人。
“她说：”这只是美国人–这对世界上的每个人来说显然都是极其有限的。”如果有的话，像许多正在开发技术的人，可能与美国和其他许多地方的人有更多的价值观重叠。”
西达斯说，集体智能项目还与竞争对手人工智能开发商OpenAI合作开展了其他民主人工智能项目。人工智能宪法项目只使用了Anthropics公司的克劳德人工智能模型。
“我认为这就是为什么它是一个很好的比较，因为我们把[Anthropic]已经训练好的模型放在Anthropic研究人员编写的宪法上，直接与同一个模型进行比较，”Siddarth说。”但使用的是公众编写的宪法。
西达斯说，实验中一个令人惊讶的发现是，有几份声明也表示人工智能模型不应该有基于残疾的歧视。这些内容并没有被纳入人类学宪法。
“她说：”我认为这并不是因为他们有意不把它写进去。”这只是他们最终没有强调的东西，这一点得到了明显的强调。”
Anthropic 于 2021 年推出，它只是竞相将更快、更先进的人工智能推向市场的开发商之一。微软、谷歌、Meta 和亚马逊已经向生成式人工智能开发者投入了数十亿美元。因此，2023 年对于人工智能开发者来说是利润丰厚的一年：今年 2 月，谷歌宣布向 Anthropic 投资 4 亿美元。紧接着，亚马逊又在 9 月份向 Anthropic 投资 40 亿美元。
今年早些时候，Anthropic 与 OpenAI、谷歌和微软一起，在与拜登政府会面后承诺致力于负责任地开发人工智能。加入这一承诺的还有亚马逊、Meta 和 Inflection。9 月，英伟达（NVIDIA）、Scale AI、Cohere、Adobe、IBM、Palantir、Salesforce 和 Stability AI 也加入了这一承诺。
尽管 “宪法人工智能 “实验存在局限性，但西达斯对 “集体智能项目 “的未来和人工智能的民主持乐观态度，并希望让更多公众参与到新兴技术的开发中来。
“她说：”我认为核心是让我们做更多这样的工作；让我们从已经完成的工作中学习。”我们正在与民间社会团体、不同的政策制定者、所有这些不同的公司合作，以完成这项工作。”
