2020年9月14日，北京智源人工智能研究院（以下簡稱“智源研究院”）聯(lián)合北京大學人工智能研究院、清華大學人工智能研究院、清華大學人工智能國際治理研究院、中科院自動化所、中科院計算所、中科院心理所等高校院所，以及小米、曠視、奇虎360、好未來、愛學習、極客邦、新一代人工智能產(chǎn)業(yè)技術創(chuàng)新戰(zhàn)略聯(lián)盟等人工智能企業(yè)和聯(lián)盟組織，共同發(fā)布了我國首個針對兒童的人工智能發(fā)展原則《面向兒童的人工智能北京共識》。

當前，隨著算法、算力、數(shù)據(jù)等關鍵要素的積累和突破，人工智能正在加速拓展更多應用場景，不斷向各領域溢出滲透，帶動人類社會全面進入智能時代。作為一種深刻改變世界的顛覆性技術，人工智能的研發(fā)和應用為社會的發(fā)展帶來全新的機遇與挑戰(zhàn)。如同傳統(tǒng)倫理規(guī)范是人類文明數(shù)千年發(fā)展的穩(wěn)定器，人工智能方面的倫理與規(guī)范將是未來智能社會有序展開的重要基石。

智源研究院常務副院長曹崗介紹道，作為支持北京國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設的重要舉措，2019年5月25日，智源研究院聯(lián)合北京大學、清華大學、中科院自動化所、中科院計算所、新一代人工智能產(chǎn)業(yè)技術創(chuàng)新戰(zhàn)略聯(lián)盟等單位，共同發(fā)布了《人工智能北京共識》，為規(guī)范和引領人工智能健康發(fā)展提供了“北京方案”，也是北京作為首個國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設的代表性貢獻之一。共識發(fā)布一年多來，已在疫情防控、安防等熱點領域進行試點示范，對于實現(xiàn)北京人工智能“自律”“善治”“有序”起到了重要作用。

智源研究院人工智能倫理與可持續(xù)發(fā)展研究中心主任曾毅博士指出，在宏觀人工智能倫理原則的前提下，探索實現(xiàn)人工智能倫理原則在細分領域、針對特定群體的落地技術與實踐方法，持續(xù)推動人工智能治理工作，已經(jīng)成為我國人工智能創(chuàng)新與治理的當務之急。

曾毅解釋說，近年來隨著在線課程、游戲娛樂和社交軟件等產(chǎn)品的日益普及，兒童能夠接觸并使用的人工智能的場景越來越多。作為特別需要關愛的群體，兒童在接受使用AI產(chǎn)品與解決方案時，存在一定的特殊性與被動性，可選擇能力差，對風險和隱患識別的能力嚴重不足。此外，當下諸多人工智能產(chǎn)品在開發(fā)、使用和售后服務方面，針對數(shù)據(jù)保護、授權范圍、隱私安全等問題的重視程度仍有待提升，對用戶群體尤其是兒童用戶的關愛與考慮不足，將對其健康成長產(chǎn)生一定程度的負面影響。在全球范圍內(nèi)，目前非常缺乏與兒童有關的人工智能倫理原則，因此有必要針對兒童這一特殊群體接觸使用的人工智能技術產(chǎn)品加以倫理研究和規(guī)制，幫助相關企業(yè)避免潛在風險、以保障未成年人的健康成長。

為有效降低人工智能技術與產(chǎn)品對兒童產(chǎn)生的不利影響，智源研究院組織專家制定了《面向兒童的人工智能北京共識》。作為我國首個針對兒童的人工智能發(fā)展原則，《面向兒童的人工智能北京共識》是《人工智能北京共識》針對兒童群體的實施細則，涵蓋了“以兒童為中心”“保護兒童權利”“承擔責任”和“多方治理”四大主題，共包括19條細化原則，呼吁社會各界高度重視人工智能對兒童的影響，人工智能的發(fā)展應保護和促進兒童的權益，避免剝奪和損害兒童的權利，助力實現(xiàn)兒童健康成長。

目前，《面向兒童的人工智能北京共識》已得到中科院幼兒園、北京大學附屬小學、好未來、愛學習、極客邦、童行學院等教育機構的支持，將與這些機構深度協(xié)作探索共識落地和未來的不斷演進。未來智源研究院希望在相關機構的支持下，推動《面向兒童的人工智能北京共識》在其他幼兒園、中小學，以及社會教育機構中的落地實施，為推動兒童及青少年的健康發(fā)展提供重要支撐。作為初步的探索與實施工作，好未來、愛學習、極客邦、童行學院等教育機構和曠視、奇虎360、小米等人工智能企業(yè)已經(jīng)表示要借助“人工智能與兒童”工作組，結合自身AI產(chǎn)品與業(yè)務積極踐行《面向兒童的人工智能北京共識》。

為更高效匯集智力資源，持續(xù)推動面向可持續(xù)發(fā)展人工智能，智源研究院發(fā)起成立國際組織“面向可持續(xù)發(fā)展的人工智能協(xié)作網(wǎng)絡”，目前劍橋大學、新加坡管理大學、聯(lián)合國機器人與人工智能中心等機構已經(jīng)加入，共匯聚來自15個國家的專家學者。作為協(xié)作網(wǎng)絡的重要組成部分，在本次發(fā)布會中，智源研究院也成立“人工智能與兒童”工作組，第一批工作組的成員由來自小米、曠視等人工智能企業(yè)的代表，以及好未來、極客邦等智能教育企業(yè)的代表組成。聯(lián)合國兒童基金會駐華辦事處代表將任工作組觀察員。

據(jù)曾毅博士介紹，面向可持續(xù)發(fā)展的人工智能協(xié)作網(wǎng)絡“人工智能與兒童工作組”的下一步工作計劃將包括（1）將組織工作組梳理面向兒童的人工智能案例，分析人工智能技術如何善用，并同時避免誤用和濫用；（2）將通過工作組幫助中國和全球的人工智能企業(yè)以技術落地的方式促進人工智能保護兒童權益，助力兒童發(fā)展；(3) 為國內(nèi)和全球的相關政策制定提供有益參考；（4）與全世界其他相關機構分享經(jīng)驗，共享成果，以促進全球范圍內(nèi)人工智能助力兒童的健康成長。

針對《面向兒童的人工智能北京共識》，聯(lián)合國技術顧問、人工智能主任Danit Gal表示：“這是中國人工智能發(fā)展軌跡中的一份關鍵文件，也是中國在論述如何利用人工智能的力量造福全人類中受歡迎的補充。國際間在兒童與人工智能相關的研發(fā)、設計、使用與共存方面的努力會因為有了中國的參與而變得更加有效?，F(xiàn)在，我們比以往任何時候都更加必須團結一致，以確保人工智能符合所有人的道德和安全要求，而中國在使人工智能成為全球共享的現(xiàn)實中可以發(fā)揮重要作用?！?br/>

麻省理工大學、阿西洛瑪人工智能原則發(fā)起者Max Tegmark教授說：“兒童在很多方面都是易被人工智能系統(tǒng)操縱和利用的最弱勢的群體，因此也應得到最強有力的保護。《面向兒童的人工智能北京共識》是人工智能倫理界受歡迎的貢獻。”

本次發(fā)布會最后，由曾毅主任主持，好未來副總裁李非、小米AI生態(tài)副總裁周力恒、曠視人工智能治理研究院院長徐云程、愛學習教育集團AI Lab主任王建超、中科院幼兒園園長王春菊、童行學院創(chuàng)始人郝景芳、牛津大學政策學者謝旻希、聯(lián)合國大學澳門研究院院長黃京波等人圍繞“發(fā)展面向兒童的人工智能”的話題，分享了自己的行業(yè)經(jīng)歷及專業(yè)性意見，探討共識的技術和社會落地，并共同呼吁教育、科研、產(chǎn)業(yè)界協(xié)同創(chuàng)新，通過人工智能助力下一代健康成長。

《面向兒童的人工智能北京共識》中文版：

https://www.baai.ac.cn/ai-for-children-cn.html

《面向兒童的人工智能北京共識》英文版：

https://www.baai.ac.cn/ai-for-children.html

關于我們

北京智源人工智能研究院（Beijing Academy of Artificial Intelligence，簡稱BAAI）成立于2018年11月，是在科技部和北京市委市政府的指導和支持下，由北京市科委和海淀區(qū)政府推動成立的新型研發(fā)機構。