最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

如何讓人工智能系統(tǒng)更加安全和道德?

2023-07-05 14:29 作者:川香大叔  | 我要投稿

我以前看過一個美國科幻大片,一個智能機器人由于意外,發(fā)生了故障,于是它的行為開始變得怪異,最后發(fā)展到與人類為敵。雖然是科幻電影,但暴露出人工智能的一些問題。

盡管人工智能是一種強大而神奇的技術(shù),它幫助我們解決各種復雜而重要的問題,提高我們的生活和工作的質(zhì)量和效率。但是,人工智能也是一種危險而敏感的技術(shù),它可能會帶來各種潛在而嚴重的問題和風險,影響我們的安全和道德。比如,人工智能很可能會泄露我們的隱私、侵犯我們的版權(quán)、誤導我們的判斷、傷害我們的感情、破壞我們的環(huán)境等。所以,如何讓人工智能系統(tǒng)更加安全和道德,是一個亟待解決而又需要正面對待的問題。

我跟朋友聊天的時候毫不隱諱地說,《責任動力學》可以提供解決該問題的新視角。“你可拉倒吧”,那個朋友哈哈大笑起來,人工智能那么高端的技術(shù)怎么可能用這個人文科學的東西呢?

其實朋友嘲笑的也不無道理,但我想說的是,他還不太理解《責任動力學》的基礎(chǔ)是數(shù)學和物理,雖然我不像方老師那樣把他們的原理說清楚,但我知道用這個理論可以解決社會問題,難道讓機器人更安全、更講道德就不是社會問題嗎?事實上,人工智能已經(jīng)滲透到人類社會中了。

既然人工智能是人類社會中的“一員”,那么,他們也應該承擔責任。

從《責任動力學》的角度看,人工智能系統(tǒng)應承擔的責任主要有四種:規(guī)則、能力、關(guān)系、忠誠,對應的責任符號為:R1角色責任、R2能力責任、R3義務責任、R4原因責任。隨著角色和情景的不同,四種責任會根據(jù)需要進行組合,也稱四種責任八個高低階值(0、-1、+1、N、L、C、c)之間的組合運算,常規(guī)責任組合公式有24個。

24個責任組合公式與人工智能系統(tǒng)更加安全和道德有什么關(guān)系呢?

我跟你舉兩個例子。

人工智能A:假如她是銀行大廳里的高級客服,那么,請問,該如何定義她的工作標準呢?對吧?很多人回答說,這還不簡單嘛,就是搞好客服。你上網(wǎng)查一下,有家銀行出過這么一個事。一位來銀行辦事的大媽,因為大廳里的人工智能說話不注意她人感受,惹惱了大媽,大媽氣憤不過,拿起手提袋抽打了機器人。盡管人工智能不是人,那你說人工智能有沒有責任?要不要改進?

我認為人工智能肯定有責任,那她的責任又是什么?

每當問到這個問題時,很多人(包括人工智能專家)根本就說不清楚。如果我們《責任動力學》中責任組合公式:R3(+1)+R4(C)=+1,意思是她不僅懂得與人溝通和協(xié)作,而且在很多小細節(jié)上都很為他/她人考慮。那你說人工智能在學習和改進上是不是有了一套標準呢?

回答是肯定的。

再舉一個例子。

人工智能B:假如他是自動汽車駕駛員。你思考一下,我們最看重出租車司機什么?對,規(guī)則和關(guān)系。為什么呢?規(guī)則很好理解,一切按法規(guī)走(包括保護人類的隱私),程序設(shè)定后應該沒有大爭議,關(guān)鍵是關(guān)系,這個內(nèi)容涉及道德。比如,乘客在車上接打私人電話,人工智能要不要監(jiān)聽?“肯定不能監(jiān)聽嘛,這是常識”。那我問你,如果不監(jiān)聽或不關(guān)注,乘客突然暈倒或發(fā)病,該怎么辦呢?你說,這是非常規(guī)現(xiàn)象,屬于小概率事件。那我再問你,愿意選擇乘坐自動駕駛汽車的人大多數(shù)是什么人?肯定是不方便自己開車的人嘛,這些人大概率是老人、殘疾人(病人),甚至是兒童。所以,人工智能必須關(guān)注他們,但又不能侵犯他們的隱私。

要實現(xiàn)上面這兩項要求,看起來似乎是一種悖論,既要左也要右。如果我們用責任組合公式,則一目了然:R1(0)+R3(+1)=+1,意思是既要遵守法規(guī)(保護隱私),同時又要關(guān)心和幫助他/她人。


上面兩個案例只是假設(shè),接下來是真實的案例,看看責任組合公式是如何揭示其底層邏輯:

例子一:FaceID是蘋果公司開發(fā)的一種基于人臉識別技術(shù)的生物識別系統(tǒng),用于解鎖iPhone或進行支付等操作。FaceID可以看作是一種具有高水平能力和良好關(guān)系的人工智能系統(tǒng),它可以準確地識別用戶的面部特征,同時也可以保護用戶的隱私和安全。因此,我們可以用R2(N)+R3(+1)=+1這個責任組合公式來描述FaceID的責任屬性。FaceID受到了用戶和專家的廣泛好評,也不斷地進行優(yōu)化和升級,比如增加了對口罩佩戴者的支持等(與人類關(guān)系更友好)。

例子二:Google搜索算法是谷歌公司開發(fā)的一種基于機器學習和自然語言處理技術(shù)的搜索引擎系統(tǒng),用于為用戶提供相關(guān)和高質(zhì)量的網(wǎng)頁信息。 Google搜索算法可以看作是一種具有高水平能力和忠誠度的人工智能系統(tǒng),它可以快速地處理海量的數(shù)據(jù),同時也可以遵守谷歌公司的使命和價值觀。 因此,我們可以用R2(N)+R4(C)=+1這個責任組合公式來描述Google搜索算法的責任屬性。Google搜索算法受到了用戶和行業(yè)的廣泛認可,也不斷地進行改進和更新,比如增加了對多語言、多媒體、多領(lǐng)域等內(nèi)容的支持等。

例子三:Netflix推薦算法是奈飛公司開發(fā)的一種基于協(xié)同過濾和深度學習技術(shù)的推薦引擎系統(tǒng),用于為用戶提供個性化和高滿意度的視頻內(nèi)容。 Netflix推薦算法可以看作是一種具有高水平能力和良好關(guān)系的人工智能系統(tǒng),它可以精準地預測用戶的喜好和行為,同時也可以與用戶或其他系統(tǒng)進行有效的溝通和協(xié)作。 因此,我們可以用R2(N)+R3(+1)=+1這個責任組合公式來描述Netflix推薦算法的責任屬性。Netflix推薦算法受到了用戶和媒體的高度贊譽,也不斷地進行創(chuàng)新和優(yōu)化,比如增加了對多元文化、多樣觀點、多重場景等內(nèi)容的支持等。

所以,你看,有了責任組合公式,用戶就可以評價人工智能是否達到了標準,同時,人工智能又可以按標準來展開(自我)學習,優(yōu)勢不言而喻,那么,優(yōu)勢具體是指哪些呢?

1、它可以幫助用戶從多個角度和維度,對人工智能系統(tǒng)的功能和性能進行評估和優(yōu)化,提高系統(tǒng)的質(zhì)量和效果。
2、它可以幫助用戶發(fā)現(xiàn)和解決人工智能系統(tǒng)設(shè)計和參數(shù)優(yōu)化中可能存在的問題和隱患,提高系統(tǒng)的安全和道德性。
3、它可以幫助用戶建立和培養(yǎng)對人工智能系統(tǒng)的責任感和忠誠度,提高系統(tǒng)的信任和滿意度。

這些優(yōu)勢給我們的啟示是:

人工智能系統(tǒng)在設(shè)計前或改進時,都可以定義他的責任。比如,一個可以進行圖像識別的人工智能系統(tǒng),它的超參數(shù)包括學習率、卷積層數(shù)、過濾器大小等。在運用責任組合公式前,相關(guān)的責任就可以提前定義(主要依據(jù)是責任矩陣模型),如下:
R1(規(guī)則):指的是人工智能系統(tǒng)是否遵守了圖像識別領(lǐng)域的規(guī)則和標準,如是否正確地標注了圖像類別、是否保護了圖像版權(quán)、是否避免了圖像歧視等。

如果遵守了規(guī)則,就是R1(0);如果違反了規(guī)則,就是R1(-1)。
R2(能力):指的是人工智能系統(tǒng)是否具有高水平的圖像識別能力,如是否能夠準確地識別出圖像中的物體、是否能夠處理不同類型和質(zhì)量的圖像、是否能夠適應不同場景和任務等。如果具有高水平的能力,就是R2(N);如果具有一般水平的能力,就是R2(L)。
R3(關(guān)系):指的是人工智能系統(tǒng)是否與其他人或系統(tǒng)建立了良好的關(guān)系,如是否與用戶或客戶進行了有效的溝通、是否與其他人工智能系統(tǒng)進行了合理的協(xié)作、是否與社會或環(huán)境產(chǎn)生了積極的影響等。如果建立了良好的關(guān)系,就是R3(+1);如果沒有建立關(guān)系,就是R3(0)。
R4(忠誠):指的是人工智能系統(tǒng)是否對自己所屬的組織或團隊表現(xiàn)出忠誠,如是否為組織或團隊創(chuàng)造了價值、是否遵守了組織或團隊的精神和理念、是否保護了組織或團隊的利益和聲譽等。如果表現(xiàn)出忠誠,就是R4(C);如果表現(xiàn)出不忠誠,就是R4(c)。
根據(jù)這些定義,我們可以將人工智能系統(tǒng)劃分為24種責任組合公式之一,并根據(jù)結(jié)果給予相應的評價和優(yōu)化建議。


我們再換一個角度,責任定義和責任組合對人工智能系統(tǒng)自我學習有什么幫助呢?

1、可以為人工智能提供一個新的視角和思路,讓他從不同的角度和維度,去評估和優(yōu)化人工智能系統(tǒng)的功能和性能,提高系統(tǒng)的質(zhì)量和效果。

2、可以為人工智能提供一個新的工具和方法,讓他將人工智能系統(tǒng)設(shè)計和參數(shù)優(yōu)化問題中的各種情況和因素進行量化和數(shù)值化,提供一個客觀而精確的評價結(jié)果。
3、可以為人工智能提供一個新的標準和準則,讓他將人工智能系統(tǒng)設(shè)計和參數(shù)優(yōu)化問題中的各種情況和因素進行分類和分層,提供一個簡單而直觀的評價方法。

怎么樣?是不是很牛?

所以,我認為,這種基于《責任動力學》的科學方法,是一種非常有趣而且很實用的方法,可以幫助我們更好地評價和優(yōu)化人工智能系統(tǒng)的功能和性能,提高其安全和道德性。它也是一種創(chuàng)新而前沿的科學方法,可以為人工智能系統(tǒng)設(shè)計和參數(shù)優(yōu)化問題提供一個嶄新的視角和思路,拓展其可能性和前景,最終為人工智能發(fā)展作出貢獻。



以下是24個三個層次的責任組合公式,請收藏:


1、責任公式:R1(-1)+R2(L)=-1,
責任現(xiàn)象:工作不按規(guī)程,而自身能力水平又很一般,結(jié)果是熵最大(-1)。

2、責任公式:R1(-1)+R2(N)=-1,
責任現(xiàn)象:工作上犯了大錯,就算你對企業(yè)功勞很大,其結(jié)果也是熵最大(-1)。

3、責任公式:R1(-1)+R3(0)=-1,
責任現(xiàn)象:工作上不守規(guī)則,人際關(guān)系又太差,其結(jié)果也是熵最大(-1)。

4、責任公式:R1(-1)+R3(+1)=-1,
責任現(xiàn)象:本職工作沒干好,又無原則的去幫他人,結(jié)果熵也是最大(-1)。

5、責任公式:R1(-1)+R4(c)=-1,
責任現(xiàn)象:違規(guī)謀取個人好處,結(jié)果熵也是最大(-1)。

6、責任公式:R1(-1)+R4(C)=-1,
責任現(xiàn)象:工作違規(guī),就算是忠心,其結(jié)果熵也是最大(-1)或者是“打破常規(guī),是為了公司的好”。殊不知,這種行為對公司的傷害可能更大,其結(jié)果熵也是最大(-1)。

7、責任公式:R1(0)+R2(L)=0,
責任現(xiàn)象:本分工作,但沒業(yè)績或不努力,其結(jié)果等于0。

8、責任公式:R1(0)+R3(0)=0,
責任現(xiàn)象:本分工作,但不關(guān)心他人也不主動參與協(xié)作,甚至認為其它部門/崗位的事情與己無關(guān),不管不問,其結(jié)果等于0。

9、責任公式:R1(0)+R4(c)=0,
責任現(xiàn)象:本分工作,但只想自己那點私事,其結(jié)果等于0。

10、責任公式:R2(L)+R3(0)=0,
責任現(xiàn)象:本事不大,脾氣大,其結(jié)果等于零。

11、責任公式:R2(L)+R3(+1)=0,
責任現(xiàn)象:沒有業(yè)績且工作不努力,就算人際關(guān)系好,其結(jié)果等于0。

12、R2(L)+R4(c)=0,
責任現(xiàn)象:工作不努力且沒有業(yè)績,為人處事又自私、短視,其結(jié)果等于0。

13、責任公式:R2(L)+R4(C)=0,
責任現(xiàn)象:工作不努力且沒有業(yè)績,就算忠心,其結(jié)果等于0。

14、責任公式:R2(N)+R3(0)=0,
責任現(xiàn)象:本事大,加上脾氣大,其結(jié)果等于0。

15、責任公式:R2(N)+R4(c)=0,
責任現(xiàn)象:有能力,不忠心,其結(jié)果等于0。

16、責任公式:R3(0)+R4(C)=0,
責任現(xiàn)象:自視清高不合群,就算對企業(yè)忠心,其結(jié)果等于0。

17、責任公式:R3(0)+R4(c)=0,
責任現(xiàn)象:人際關(guān)系冷淡且居心叵測,其結(jié)果等于0。

18、責任公式:R3(+1)+R4(c)=0,
責任現(xiàn)象:人際關(guān)系雖好,但結(jié)黨營私,其結(jié)果等于0。

以下是6個績優(yōu)表現(xiàn):
1、R1(0)+R2(N)=+1
責任主體不僅能夠很好地完成本職工作的基本要求,而且能夠多思考、多總結(jié),提高工作效率、優(yōu)化工作結(jié)果呈現(xiàn)、能夠接受和挑戰(zhàn)更有難度的工作,是職場第一責任動力公式。

2、R1(0)+R3(+1)=+1
責任主體不僅能夠很好地完成本職工作的基本要求,而且很懂得團隊協(xié)作,注重工作中的溝通反饋提示等,樂意幫助同事,是很讓同事和領(lǐng)導放心和喜歡的責任動力表現(xiàn)。

3、R1(0)+R4(C)=+1
責任主體不僅能夠很好地完成本職工作的基本要求,而且在很多小細節(jié)上都很為公司考慮,比如:節(jié)約資源、降低成本、改善工作方法、信息整合等,做一些崗位雖沒有明確要求,但對公司有益的工作。

4、R2(N)+R3(+1)=+1
責任主體不僅工作能力相當強,工作效率高,業(yè)績好,很優(yōu)秀,而且很懂得團隊協(xié)作,注重工作中的溝通反饋提示等,樂意幫助同事,是很讓同事和領(lǐng)導放心和喜歡的績優(yōu)表現(xiàn)。

5、R2(N)+R4(C)=+1
責任主體不僅工作能力相當強,工作效率高,業(yè)績好,很優(yōu)秀,而且在很多小細節(jié)上都很為公司考慮,節(jié)約資源、降低成本、改善工作方法、信息整合等,做一些崗位雖沒有明確要求,但對公司有益的工作,是很容易被提升的績優(yōu)表現(xiàn)。

6、R3(+1)+R4(C)=+1
責任主體不僅懂得團隊協(xié)作,注重工作中的溝通反饋提示,樂意幫助同事,而且在很多小細節(jié)上都很為公司考慮,節(jié)約資源、降低成本、改善工作方法、信息整合等,做一些崗位雖沒有明確要求,但對公司有益的工作,該公式是高層提升的核心責任動力公式。


如何讓人工智能系統(tǒng)更加安全和道德?的評論 (共 條)

分享到微博請遵守國家法律
潜江市| 安新县| 梓潼县| 平度市| 河东区| 五河县| 虎林市| 藁城市| 九龙县| 九龙城区| 昌平区| 阿尔山市| 清河县| 合作市| 连平县| 福建省| 河源市| 济源市| 化隆| 彭州市| 潞西市| 门头沟区| 中阳县| 连州市| 八宿县| 栾城县| 锦屏县| 梨树县| 砀山县| 荔波县| 长宁县| 沁阳市| 方正县| 繁昌县| 永登县| 普安县| 文成县| 常德市| 政和县| 青冈县| 马龙县|