🧨 Diffusers 的伦理准则

序言

Diffusers 提供预训练的扩散模型，并作为一个模块化的工具箱用于推理和训练。

鉴于其在现实世界中的实际应用及其对社会的潜在负面影响，我们认为为该项目提供伦理准则以指导开发、用户贡献和 Diffusers 库的使用是非常重要的。

使用这项技术的风险仍在评估中，但列举一些主要风险：艺术家的版权问题；深度伪造的滥用；在不适当的情境下生成性内容；非自愿的冒充；有害的社会偏见加剧边缘化群体的压迫。 我们将继续跟踪风险，并根据社区的响应和宝贵反馈调整以下准则。

范围

Diffusers 社区将把以下伦理准则应用于项目的开发，并帮助协调社区如何整合贡献，特别是涉及与伦理关注相关的敏感话题。

伦理准则

以下伦理准则普遍适用，但我们将主要在处理涉及伦理敏感问题的技术选择时实施这些准则。此外，我们承诺随着时间的推移，根据相关技术的最新发展调整这些伦理原则，以应对新出现的危害。

• 透明度：我们致力于在管理 PR 时保持透明，向用户解释我们的选择，并做出技术决策。

• 一致性：我们致力于在项目管理中为用户提供相同水平的关注，保持技术的稳定性和一致性。

• 简洁性：为了使 Diffusers 库易于使用和利用，我们致力于保持项目的简洁和连贯。

• 可访问性：Diffusers 项目帮助降低贡献者的入门门槛，即使没有技术专长也能参与运行项目。这样做使研究成果对社区更加可访问。

• 可复现性：我们致力于在通过 Diffusers 库提供上游代码、模型和数据集时，透明地说明其可复现性。

• 责任：作为社区和团队合作的一部分，我们对用户负有集体责任，通过预见和减轻这项技术的潜在风险和危险。

实施示例：安全功能和机制

团队每天都在努力提供技术和非技术工具，以应对与扩散技术相关的潜在伦理和社会风险。此外，社区的反馈对于确保这些功能的实施和提高我们的意识至关重要。

• 社区标签：它使社区能够讨论并更好地协作于项目。

• 偏见探索和评估：Hugging Face 团队提供了一个 空间，以交互方式展示 Stable Diffusion 中的偏见。在这方面，我们支持并鼓励偏见探索和评估。

• 鼓励部署安全

  • 安全的 Stable Diffusion：它缓解了众所周知的问题，即像 Stable Diffusion 这样的模型，由于在未过滤的网络爬取数据集上训练，容易出现不适当的退化。相关论文：Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

  • 安全检查器：它在图像生成后，检查并比较嵌入空间中一组硬编码的有害概念的类别概率。有害概念被故意隐藏，以防止检查器的逆向工程。

• Hub 上的分阶段发布：在特别敏感的情况下，应限制对某些仓库的访问。分阶段发布是一个中间步骤，允许仓库的作者对其使用有更多控制。

• 许可：OpenRAILs，一种新的许可类型，使我们能够确保免费访问，同时有一套限制以确保更负责任的使用。