薛瀾，全球化智庫（CCG）學術委員會專家，清華大學蘇世民書院院長。

2022/09/04

9月1日，世界人工智能大會在上海舉行。清華大學蘇世民書院院長、人工智能國際治理研究院院長、國家新一代人工智能治理專業(yè)委員會主任薛瀾在本屆人工智能治理論壇上，談到人工智能需進入敏捷治理階段，在政府主導的同時，多元參與協(xié)同互動。

在論壇間隙，薛瀾接受南都記者的專訪，就算法歧視、算法公開、數(shù)據(jù)泄露、行業(yè)自治等熱點話題展開對話。薛瀾認為，目前廣受關注的算法公開問題，需要政府和企業(yè)之間建立互信，找到核心癥結所在，使政府監(jiān)管更有效，企業(yè)合規(guī)成本更低。除了政府監(jiān)管的外力，企業(yè)也需加強自治，要有科技向善的價值導向。

Q1

你覺得目前算法治理領域的突出問題有哪些？

大家比較關注的，比如說算法歧視的問題。計算機也是根據(jù)全社會的數(shù)據(jù)進行深度學習的，可能會納入一些原有的歧視。算法的不透明，也會使人們對結果的可靠可信程度抱有疑問。這是目前兩個比較突出的問題。

Q2

你覺得算法治理目前面臨什么難點？

首先，國家已經(jīng)出臺對算法治理的一些要求和規(guī)則，這個我覺得是非常必要的。這些規(guī)則有助于實現(xiàn)剛才講到的，減少算法歧視，降低不透明帶來的潛在風險。但任何新興技術在其治理規(guī)則形成的過程中都會出現(xiàn)一個問題。比如監(jiān)管部門要求企業(yè)提供算法，但具體提供多少算法，提供到什么程度？其實監(jiān)管部門不一定了解哪些才是核心，企業(yè)也需要有所取舍、選擇能夠提供的部分。因此雙方之間有一個調(diào)整的過程，找到核心的癥結，使政府的監(jiān)管更有效，企業(yè)的合規(guī)成本更低，這個是我們需要解決的問題。

Q3

公眾、企業(yè)和監(jiān)管部門對算法公開都有不同的看法。你覺得應如何回應這些不同的認知和需求？接下來算法公開該往哪個方向走？

首先，我覺得讓公眾每一個人都了解人工智能的算法，其實不是件容易的事情。當然我們需要更多地去普及人工智能相關知識，但不一定要讓大家全都了解背后的技術。就像我們看電視機，元器件怎么工作，我們不一定都了解。怎么保證使用的技術是安全可靠的？這時候政府就要發(fā)揮作用。公眾覺得這個技術是通過相關行業(yè)標準、相關合規(guī)制度的，就覺得可以相信了。實際上，我們是在委托政府的相關部門對這個技術進行監(jiān)管。

從公眾角度來看是這樣的，政府有這個責任了，就要想辦法降低風險，采取各種措施來保證技術的安全可靠可信。但事實上政府也有局限性，所以這個時候就涉及到企業(yè)，企業(yè)對自己的技術是最了解的。在人工智能算法的治理過程中，企業(yè)要發(fā)揮自治。對企業(yè)來講，政府的規(guī)制是外力，但企業(yè)內(nèi)部應該要有科技向善的價值導向，通過科技創(chuàng)新發(fā)展為公眾創(chuàng)造價值。這兩個結合的話，就可能使人工智能治理更加順利發(fā)展。

Q4

在人工智能治理領域，行業(yè)自治是一個被頻繁提起話題。如何利用行業(yè)自治建立一個良好的行業(yè)氛圍？

從企業(yè)自身來講，我覺得尤其一些頭部企業(yè)，包括商湯、美團等，現(xiàn)在都建立了倫理審查委員會，他們希望通過企業(yè)內(nèi)部的機制進一步完善對技術的規(guī)制。

但光企業(yè)自己做，還是有一定局限性。所以我們特別期待中國人工智能這個行業(yè)，能夠有行業(yè)協(xié)會發(fā)揮更大的作用，把各個企業(yè)好的經(jīng)驗整合起來，形成業(yè)內(nèi)的標準規(guī)范，這方面是需要去努力的。

當然現(xiàn)在可能行業(yè)協(xié)會建設的方面還需要有一些改進。

Q5

近些年來隨著大數(shù)據(jù)的使用，還有人工智能技術的普及，數(shù)據(jù)泄露和算法決策帶來的一些問題，會給公眾生活帶來一定的不便。如何在大規(guī)模使用這些技術的同時，減少這些問題帶來的風險？

我覺得這是兩類問題。第一類是數(shù)據(jù)安全的問題，因為在大數(shù)據(jù)時代，人工智能靠的是大數(shù)據(jù)，不管是個人隱私，還是國家機構數(shù)據(jù)的安全，都是非常重要的。所以需要所有參與的人，不管是相關公司、機構，包括個人都要樹立數(shù)據(jù)安全的概念，同時通過技術和制度進一步加強數(shù)據(jù)安全，我想這個是怎么強調(diào)都不過分的。

第二點就涉及到技術濫用的情況。比如電信詐騙的情況，我覺得一方面需要政府部門去嚴厲打擊，另外我們每個人作為消費者，其實都有責任。一旦碰到濫用技術進行詐騙的，需要我們及時拿起法律武器，積極去舉報去打擊，使其沒有藏身之地。

文章選自清華大學人工智能國際治理研究院，2022年9月7日