BAAI:智源人工智能前沿報(bào)告(235頁)
2021 年對(duì)于人工智能技術(shù)和產(chǎn)業(yè),依舊是不平凡的一年。隨著算力、數(shù)據(jù)、算法等要素逐漸 齊備,先進(jìn)的算法結(jié)構(gòu)不斷涌現(xiàn),各個(gè)研究方向研究成果不斷突破,成熟的 AI 技術(shù)逐漸向代 碼庫、平臺(tái)和系統(tǒng)發(fā)展,實(shí)現(xiàn)產(chǎn)業(yè)和商業(yè)層面的落地應(yīng)用,推動(dòng)人工智能發(fā)展邁向新的階段
本報(bào)告總結(jié) 2021 年人工智能前沿科技主要趨勢如下:
1. 信息模型、具身模型和腦模擬機(jī)器人的結(jié)合將誕生超級(jí)人工智能。
2. 系統(tǒng)研究超大規(guī)模智能模型發(fā)展和影響的新興領(lǐng)域已經(jīng)形成,超大規(guī)模預(yù)訓(xùn)練模型研發(fā)競 賽進(jìn)入白熱化階段,多模態(tài)預(yù)訓(xùn)練模型成為下一個(gè)大模型重點(diǎn)發(fā)展領(lǐng)域。?
3. Transformer 成為計(jì)算機(jī)視覺領(lǐng)域的重要網(wǎng)絡(luò)架構(gòu),并開始向強(qiáng)化學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)等 領(lǐng)域滲透。
4. 加速方法創(chuàng)新提升了超大參數(shù)規(guī)模模型的訓(xùn)練效率,催生更大規(guī)模參數(shù)的巨型模型。
5. Prompt Tuning 成為自然語言處理領(lǐng)域預(yù)訓(xùn)練語言模型新型訓(xùn)練范式,預(yù)訓(xùn)練語言模型 發(fā)展的新路線是提升訓(xùn)練和推理的效率。
6. 遮蓋圖像建模、非 Transformer 架構(gòu)、神經(jīng)輻射場等技術(shù)快速發(fā)展,成為計(jì)算機(jī)視覺的 熱點(diǎn)研究領(lǐng)域;脈沖視覺領(lǐng)域發(fā)展,將開辟機(jī)器視覺新路線。
7. 生物神經(jīng)元與芯片結(jié)合成為類腦芯片的研究熱點(diǎn)。
8. 高性能、低能耗 AI 芯片不斷涌現(xiàn)的同時(shí),由 AI 輔助設(shè)計(jì)成為芯片發(fā)展新趨勢;存算一 體 AI 芯片設(shè)計(jì)、應(yīng)用步伐加快。
9. Web 模型成為新型信息搜索范式的核心支撐,預(yù)訓(xùn)練語言模型助力信息檢索性能提升。
10. 借鑒腦神經(jīng)和認(rèn)知科學(xué)研究成為啟發(fā)類腦智能研究的重要來源。
11. 無線高帶寬、微創(chuàng)、結(jié)合 AI 算法等成為腦機(jī)接口的發(fā)展重點(diǎn)。
12.傳統(tǒng)科研領(lǐng)域成為人工智能發(fā)展的“新戰(zhàn)場”,人工智能在輔助基礎(chǔ)和應(yīng)用科學(xué)研究的同 時(shí),也提升了智能產(chǎn)品和服務(wù)的性能。
13. 強(qiáng)化學(xué)習(xí)環(huán)境成為發(fā)展泛化性更強(qiáng)、適應(yīng)復(fù)雜環(huán)境智能體的重要支撐,而提升訓(xùn)練效率成 為強(qiáng)化學(xué)習(xí)領(lǐng)域的研究重點(diǎn)。
14. 因果推斷在經(jīng)濟(jì)學(xué)、社會(huì)學(xué)研究中實(shí)現(xiàn)突破。
15. 基于超大規(guī)模預(yù)訓(xùn)練模型的平臺(tái)和系統(tǒng)成為研發(fā)機(jī)構(gòu)和企業(yè)的發(fā)展思路。
16. 面向更為復(fù)雜任務(wù)和需求的基準(zhǔn)測試和數(shù)據(jù)集不斷涌現(xiàn)。
17. AI 為人類科學(xué)家提供領(lǐng)域數(shù)據(jù)集,助力基礎(chǔ)科學(xué)研究。?
18. AI 算力成為超算性能比拼的“新擂臺(tái)”
若需獲取本篇完整版資源,請(qǐng)關(guān)注公眾號(hào):俠說。太俠已集合超1.5萬份報(bào)告或方案,覆蓋各行各業(yè),助攻職場,培養(yǎng)格局,增大視野。
報(bào)告節(jié)選內(nèi)容如下:
【報(bào)告完整版】公眾號(hào)《俠說》;俠說智庫官網(wǎng):www.guotaixia.com