我們正在努力讓我們每次發(fā)布的庫(kù)更加負(fù)責(zé)！

我們很榮幸宣布我們發(fā)布了 道德守則，并將作為一部分其放入 ?Diffusers 庫(kù)的說(shuō)明文檔。

由于擴(kuò)散模型在現(xiàn)實(shí)世界上的實(shí)際應(yīng)用例子會(huì)對(duì)社會(huì)造成潛在的負(fù)面影響，該守則旨在引導(dǎo)對(duì)于社區(qū)做出貢獻(xiàn)的 Diffusers 庫(kù)維護(hù)者進(jìn)行技術(shù)決策。我們希望對(duì)于我們的決策進(jìn)行更加透明，尤其是，我們想確認(rèn)一些價(jià)值觀來(lái)指導(dǎo)決策。

我們將道德準(zhǔn)則作為一個(gè)引導(dǎo)價(jià)值，做出具體行動(dòng)，然后持續(xù)適應(yīng)新的條件的循環(huán)過(guò)程?；诖耍覀冎铝τ陔S著時(shí)間去不斷更正我們的價(jià)值準(zhǔn)則，不斷跟進(jìn) Diffusers 項(xiàng)目的發(fā)展，并從社區(qū)持續(xù)收集反饋，使得準(zhǔn)則始終保持有效。

道德守則

• 透明: 我們致力于在管理 PR、向用戶解釋我們的選擇以及做出技術(shù)決策方面保持透明。

• 一致性: 我們致力于保證我們的用戶在項(xiàng)目管理中得到同等程度的關(guān)注，保持技術(shù)上的穩(wěn)定和一致。

• 簡(jiǎn)單性: 為了讓 Diffusers 庫(kù)易于使用和利用，我們致力于保持項(xiàng)目目標(biāo)的精簡(jiǎn)和連貫性。

• 可訪問(wèn)性: Diffusers 項(xiàng)目幫助更多貢獻(xiàn)者降低進(jìn)入門檻即便沒(méi)有專業(yè)技術(shù)也可以運(yùn)行項(xiàng)目。這樣做使得社區(qū)更容易獲得研究成果。

• 可再現(xiàn)性: 我們的目標(biāo)是在使用 Diffusers 庫(kù)時(shí)，使上游代碼、模型和數(shù)據(jù)集的可再現(xiàn)性保持透明。

• 責(zé)任: 作為一個(gè)社區(qū)，通過(guò)團(tuán)隊(duì)合作，我們通過(guò)預(yù)測(cè)和減輕該技術(shù)的潛在風(fēng)險(xiǎn)和危險(xiǎn)來(lái)對(duì)我們的用戶承擔(dān)集體責(zé)任。

安全特性和機(jī)制

此外，我們提供了一個(gè)暫不全面的并希望不斷擴(kuò)展的列表，該列表是關(guān)于 Hugging Face 團(tuán)隊(duì)和更廣泛的社區(qū)的實(shí)施的安全功能和機(jī)制。

• 社區(qū)選項(xiàng): 它使社區(qū)能夠討論并更好地協(xié)作項(xiàng)目。

• 標(biāo)簽功能: 倉(cāng)庫(kù)的作者可以將他們的內(nèi)容標(biāo)記為“不適合所有人”

• 偏差探索和評(píng)估: Hugging Face 團(tuán)隊(duì)提供了一個(gè) Space 以交互方式演示 Stable Diffusion 和 DALL-E 中的偏差。從這個(gè)意義上說(shuō)，我們支持和鼓勵(lì)有偏差的探索和評(píng)估。

• 鼓勵(lì)安全部署

• Safe Stable Diffusion: 它緩解了眾所周知的問(wèn)題，像 Stable Diffusion，在未經(jīng)過(guò)濾的，網(wǎng)絡(luò)抓取的數(shù)據(jù)集上訓(xùn)練的模型往往會(huì)遭受不當(dāng)?shù)耐嘶?。相關(guān)論文: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.

• 在 Hub 上分階段發(fā)布: 特別在敏感的情況下，應(yīng)限制對(duì)某些倉(cāng)庫(kù)的訪問(wèn)。這是發(fā)布階段的一個(gè)中間步驟，允許倉(cāng)庫(kù)的作者對(duì)其使用有更多的控制權(quán)限。

• 許可: OpenRAILs, 是一種新型許可，可讓我們確保自由訪問(wèn)，同時(shí)擁有一組限制，以確保更多負(fù)責(zé)任的用途。

英文原文:?https://hf.co/blog/ethics-diffusers

原文作者: Giada Pistilli

譯者: innovation64

審校/排版: zhongdongy (阿東)