胡思亂想:人工智能獲取信息的能力會(huì)受到限制

人工智能可能永遠(yuǎn)無法實(shí)時(shí)地全面地獲取人類活動(dòng)的信息,即獲取信息能力會(huì)收到限制。我下面會(huì)就這個(gè)猜想進(jìn)行說明。
這些年物聯(lián)網(wǎng)和智能城市已經(jīng)有了長(zhǎng)足的發(fā)展,自然界(溫度、降水量、PM2.5等)、城市中(基礎(chǔ)設(shè)施、車流、房子里的智能電器等)和各種工農(nóng)業(yè)設(shè)施中(智能工廠、數(shù)據(jù)中心、蔬菜大棚等)的所有監(jiān)測(cè)數(shù)據(jù)都可以實(shí)時(shí)地自動(dòng)地匯聚到各自的數(shù)據(jù)庫里,只要有權(quán)限,就可以直接調(diào)用,拿去分析和處理。但是目前有關(guān)動(dòng)物和人類的數(shù)據(jù),就無法實(shí)時(shí)地全面地獲取了。
動(dòng)物的問題,如果將來技術(shù)上能滿足要求,那么還好解決??墒侨绻獙?shí)時(shí)地全面地監(jiān)控人類,那么就要不分公共和私人場(chǎng)合地實(shí)時(shí)地?zé)o死角地監(jiān)控所有人的所有行為和語言(甚至是面部表情、心跳血壓等),這涉及到個(gè)人隱私、以及個(gè)人和政府關(guān)系的倫理問題。其實(shí)很多的社會(huì)實(shí)驗(yàn),即使只是短暫地在實(shí)驗(yàn)場(chǎng)合中對(duì)人類進(jìn)行實(shí)驗(yàn)和數(shù)據(jù)搜集,都面臨者倫理問題,更遑論實(shí)時(shí)地全面地監(jiān)控人類了。
現(xiàn)在的大數(shù)據(jù)和用戶畫像導(dǎo)致的信息繭房問題已經(jīng)導(dǎo)致了大眾的擔(dān)憂,請(qǐng)問如何消除政府和大公司濫用實(shí)時(shí)的全面的數(shù)據(jù)來徹底操控人類的擔(dān)憂呢?或許可以讓人工智能系統(tǒng)徹底地去中心化以消除政府和大企業(yè)的干擾,同時(shí)網(wǎng)絡(luò)安全問題也能保證以消除黑客的干擾,那么還有一個(gè)問題,如果未來人工智能進(jìn)化到有自主意識(shí)能操縱人類了,怎么辦?
再或許在編寫程序之初,專家就已經(jīng)給人工智能系統(tǒng)設(shè)定了絕對(duì)無法修改的底層規(guī)則,但是就像《流浪地球2》中的MOSS一樣,它可能在不抵觸底層規(guī)則(比如,絕不能傷害人類)的情況下卻做出了人類絕對(duì)不能認(rèn)同的決策,怎么辦?如果運(yùn)氣好,人類思維還沒有被接入數(shù)據(jù)庫的話,可能人類還能啟動(dòng)“面壁計(jì)劃”吧。
綜上,實(shí)時(shí)地全面地監(jiān)控人類,在安全性上不是那么容易保證的,在倫理上不是那么容易取得社會(huì)共識(shí)的。實(shí)時(shí)地全面地監(jiān)控人類的目標(biāo),可能永遠(yuǎn)只能實(shí)現(xiàn)一部分,這就是人工智能獲取信息能力收到的限制。
基于這個(gè)猜想,即使未來人工智能發(fā)展到幾乎完全接管整個(gè)社會(huì)的管理工作,人類和社會(huì)的相關(guān)研究的數(shù)據(jù)分析工作可能會(huì)在不連接到“主腦”的局域網(wǎng)進(jìn)行。