北京時(shí)間2023年3月11日9：00，大學(xué)沙龍第177期：馬毅--關(guān)于簡(jiǎn)約和自洽的原則：從人工智能到自然智能。

01.講座內(nèi)容

從神經(jīng)網(wǎng)絡(luò)和智能研究近70年的演進(jìn)歷程中，我們回顧過(guò)去10年深度網(wǎng)絡(luò)和人工智能的革命。從早期深度學(xué)習(xí)在判別任務(wù)（如語(yǔ)音識(shí)別和圖像分類(lèi)）中的成功到最近對(duì)生成任務(wù)（如圖像生成和 ChatGPT）的關(guān)注，我們研究了當(dāng)前人工智能方法成功背后的原因。

隨著當(dāng)前實(shí)踐的局限性越來(lái)越明顯，我們提出了一個(gè)新的理論框架，它既可以統(tǒng)一判別模型和生成模型的當(dāng)前實(shí)踐，又可以對(duì)現(xiàn)有的人工深度神經(jīng)網(wǎng)絡(luò)提供嚴(yán)格的數(shù)學(xué)解釋。流行的深度網(wǎng)絡(luò)（例如，ResNet、CNN?或?Transformer）的架構(gòu)和運(yùn)算符都可以推導(dǎo)為展開(kāi)優(yōu)化方案，用于優(yōu)化對(duì)感到世界所獲習(xí)得表示的信息增益。為了確保優(yōu)化表示的正確性或一致性，我們認(rèn)為有必要通過(guò)“閉環(huán)”反饋和博弈來(lái)增加自我糾正和自我批評(píng)機(jī)制。這自然會(huì)導(dǎo)致一個(gè)統(tǒng)一的計(jì)算框架，稱(chēng)為壓縮閉環(huán)轉(zhuǎn)錄，它集成了信息論、控制/博弈論、稀疏編碼和優(yōu)化的基本思想。我們認(rèn)為，壓縮閉環(huán)轉(zhuǎn)錄是一種通用的學(xué)習(xí)框架，可作為所有自主智能系統(tǒng)（無(wú)論是人工的還是自然的）的基本學(xué)習(xí)單元。

02.演講嘉賓

主講人

馬毅：香港大學(xué)數(shù)據(jù)科學(xué)研究院首任院長(zhǎng)，加州大學(xué)伯克利分校電子工程與計(jì)算機(jī)科學(xué)系教授。IEEE、ACM 和 SIAM會(huì)士。清華大學(xué)自動(dòng)化和應(yīng)用數(shù)學(xué)雙學(xué)士，加州大學(xué)伯克利分校電子工程和數(shù)學(xué)雙碩士、電子工程博士。研究興趣包括計(jì)算機(jī)視覺(jué)、高維數(shù)據(jù)分析和集成智能系統(tǒng)。曾任微軟亞洲研究院視覺(jué)計(jì)算組首席研究員和負(fù)責(zé)人，上海科技大學(xué)信息科學(xué)與技術(shù)學(xué)院執(zhí)行院長(zhǎng)。發(fā)表期刊論文60余篇，會(huì)議論文120篇，合著計(jì)算機(jī)視覺(jué)、廣義PCA、高維數(shù)據(jù)分析方面教材三部。

主持人

呂旭東：加州理工學(xué)院博士后研究員，Taihill Venture?創(chuàng)業(yè)合伙人。加州大學(xué)伯克利分校博士，北京大學(xué)物理學(xué)和經(jīng)濟(jì)學(xué)學(xué)士。

百度直播鏈接?：

https://live.baidu.com/m/media/pclive/pchome/live.html?room_id=8108349995&source=h5pre

整理/zm 審/青鴦 編/angel