周四，领先的人工智能开发商 OpenAI 推出了一项新的模型规范，许多人将其解读为允许其广受欢迎的生成式人工智能工具生成对工作不安全的成人内容，这激怒了科技界和主流媒体。
“我们相信，只要符合我们的使用政策，开发者和用户应该能够灵活地使用我们的服务，”OpenAI 写道。”我们正在探索是否可以通过 API 和 ChatGPT，负责任地提供在适合年龄的上下文中生成 NSFW 内容的功能。”
在公告中，OpenAI 还重申，其现行政策禁止 ChatGPT 提供 NSFW 内容，这些内容被描述为不适合 “在专业环境下进行对话的内容，如情色、极端血腥、污言秽语和不请自来的亵渎”。
尽管如此，OpenAI 正在考虑取消对色情内容创作的限制这一想法还是引起了人们的关注。现在回想起来，OpenAI 的一位产品负责人告诉 TCN，该公司本可以更好地解释它在 “探索 “什么。
为了加深公众对人工智能模型行为方式的讨论，我们正在分享我们的模型规范–我们塑造理想模型行为的方法。https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 2024年5月8日
。
OpenAI 模型行为产品负责人乔安娜-张（Joanna Jang）说：”我认为，根据反馈和反应，在我们分享的下一个版本中，我很想做的事情就是更准确地定义一些人对 NSFW 内容的定义和分类，”她指出，NSFW 可能意味着从书面亵渎到人工智能生成的深度伪造图像等任何内容。
至于在更宽松的立场下允许哪些具体材料，Jang 告诉 NPR，这 “取决于你对色情的定义”。
她强调，深度伪造是绝对不允许的。
“遵循适用法律和保护人们的隐私，我们认为这就够了–但我们应该清楚，我们不是为了制造人工智能深度假货或人工智能色情内容，”Jang 告诉 TCN。”当有更重要的问题需要解决时，我们甚至不应该有时间或带宽来优先考虑这些问题。”
除了屏蔽 NSFW 内容和确保合法合规外，OpenAI 模型规范还包括 ChatGPT 要遵循的其他几条规则，包括不提供危险信息、尊重创作者及其权利以及保护用户隐私。
目前，OpenAI 的 ChatGPT Plus（包括用于图像的 Dall-E 3 和用于文本的 GPT-4）不允许用户生成明显的性或血腥图像或文本。当被要求这样做时，ChatGPT 会回应说该要求违反了其服务条款。因此，Jang 指出，网络上充斥着 OpenAI 用户的抱怨，称该公司在审查他们。
“Jang说：”有很多关于审查之类的批评，很多讨论都在混淆什么是OpenAI的政策，什么实际上不是我们的政策，这不是任何人的错。”这些模型是否有这样的行为，即使它违反了指导方针？
正如 Jang 所解释的那样，OpenAI 发布该规范的目的是制定理想的模型行为，重点关注法律合规性和避免 NSFW 内容，同时提高透明度。
“我们希望为这一讨论带来更多细微差别，因为现在–在模型规范之前–就是’人工智能到底该不该压制色情内容？Jang 说。”我希望通过模型规范，我们可以真正进行这些对话。
她补充说：”同样，这也是为什么我希望自己能真正制定出[一个框架]，这样我们甚至可以早一天启动这场对话，”
。
对于心理健康专家来说，流行的人工智能平台进入色情和成人内容领域的前景令人不安。
“在性和色情成瘾领域，随着人工智能生成色情内容，我们开始看到成瘾行为的增加，”男性健康基金会（Men’s Health Foundation）的行为健康专家布兰登-辛普森（Brandon Simpson）告诉 TCN。”由于人工智能生成的色情内容创造了满足多巴胺反应所需的独特且不断增长的强度，人们正在潜入其中，用人际交往来替代它，这导致了社交焦虑、表现焦虑以及其他各种与性有关的功能障碍。”
即使 OpenAI 以及谷歌和 Meta 的其他主要生成式人工智能平台设置了防护栏，人们对人工智能生成的色情内容仍有强烈的需求，而且有无数种方法可以利用该技术来描绘毫无戒心的受害者–或者生成儿童性虐待材料（CSAM）。
“OpenAI 的一位代表后来告诉 TCN：”规范只是我们如何负责任地构建和部署人工智能的一部分。”它与我们的使用政策、我们希望人们如何使用 API 和 ChatGPT 相辅相成”–最终目的是展示透明度，并 “就如何改变和改进展开公共对话”。
OpenAI 已投入巨资改善其人工智能工具套件的隐私和安全性，包括聘请网络安全红队来查找其平台上的漏洞。今年 2 月，OpenAI 和微软宣布了一项联合行动，阻止中国和朝鲜黑客使用 ChatGPT；上个月，OpenAI 与谷歌和 Meta 共同承诺，在开发其人工智能模型时优先考虑儿童安全。
