在 Microsoft，AI 軟件的開(kāi)發(fā)遵循六項(xiàng)原則，旨在確保 AI 應(yīng)用程序能為棘手的問(wèn)題提供出色的解決方案，而不產(chǎn)生任何意外的負(fù)面影響。

公平性

AI 系統(tǒng)應(yīng)該公平對(duì)待所有人。 例如，假設(shè)你創(chuàng)建了一個(gè)機(jī)器學(xué)習(xí)模型來(lái)為銀行的貸款審批應(yīng)用程序提供支持。 模型應(yīng)該毫無(wú)偏見(jiàn)地預(yù)測(cè)貸款是否應(yīng)批準(zhǔn)或拒絕。 這種偏見(jiàn)可能基于性別、種族或其他導(dǎo)致特定申請(qǐng)人群體出現(xiàn)不公平優(yōu)勢(shì)或劣勢(shì)的因素。

Azure 機(jī)器學(xué)習(xí)能夠解釋模型和量化數(shù)據(jù)的每個(gè)特性影響模型預(yù)測(cè)的程度。 此功能可幫助數(shù)據(jù)科學(xué)家和開(kāi)發(fā)人員識(shí)別并減少模型中的偏見(jiàn)。

另一個(gè)示例是 Microsoft?通過(guò)人臉?lè)?wù)實(shí)現(xiàn)負(fù)責(zé)任的 AI，它停用了用于推斷情緒狀態(tài)和標(biāo)識(shí)屬性的人臉識(shí)別功能。 如果誤用，這些功能可能會(huì)使用戶受到成見(jiàn)、歧視或服務(wù)遭受不公平拒絕。

如需詳細(xì)了解有關(guān)公平性的注意事項(xiàng)，請(qǐng)觀看以下視頻。

可靠性和安全性

AI 系統(tǒng)應(yīng)可靠且安全地運(yùn)行。 例如，想象一個(gè)基于 AI 的自動(dòng)駕駛軟件系統(tǒng)，或是一個(gè)診斷患者癥狀并推薦處方的機(jī)器學(xué)習(xí)模型。 這些系統(tǒng)一旦出現(xiàn)不可靠性，就可能會(huì)給生命安全帶來(lái)重大風(fēng)險(xiǎn)。

基于 AI 的軟件應(yīng)用程序開(kāi)發(fā)必須經(jīng)過(guò)嚴(yán)格的測(cè)試和部署管理，以在發(fā)布前確保它們能達(dá)到預(yù)期。

如需詳細(xì)了解可靠性和安全性的注意事項(xiàng)，請(qǐng)觀看以下視頻。

隱私和安全

AI 系統(tǒng)應(yīng)該保護(hù)并尊重隱私。 AI 系統(tǒng)所基于的機(jī)器學(xué)習(xí)模型依賴于大量數(shù)據(jù)，這些數(shù)據(jù)可能包含必須保密的個(gè)人詳細(xì)信息。 即使在模型訓(xùn)練完成、系統(tǒng)投入生產(chǎn)后，也需要考慮隱私和安全性。 由于系統(tǒng)使用新數(shù)據(jù)進(jìn)行預(yù)測(cè)或執(zhí)行操作，因此數(shù)據(jù)和根據(jù)數(shù)據(jù)作出的決策都可能受到隱私或安全問(wèn)題的約束。

如需詳細(xì)了解隱私和安全的注意事項(xiàng)，請(qǐng)觀看以下視頻。

其他資源

若要詳細(xì)了解如何將負(fù)責(zé)任的 AI 原則應(yīng)用到實(shí)踐中，請(qǐng)參閱https://www.microsoft.com/ai/responsible-ai-resources。若要查看這些策略執(zhí)行情況，可以閱讀Microsoft 用于構(gòu)建負(fù)責(zé)任的 AI 系統(tǒng)的框架。