圖靈Java架構(gòu)班第六期

download：https://www.51xuebc.com/thread-575-1-1.html

月7日，國(guó)際人工智能頂會(huì)CVPR 2023舉行的第一屆大模型應(yīng)戰(zhàn)賽（CVPR 2023 Workshop on Foundation Model:1st foundation model challenge）落下帷幕，本次競(jìng)賽吸收了來(lái)自全球著-名高校和知名企業(yè)的1024名參賽者。經(jīng)過(guò)為期2個(gè)月的劇烈角逐，天翼云AI團(tuán)隊(duì)（隊(duì)名CTRL）在多任務(wù)大模型賽道中表現(xiàn)出色，榮獲本屆大賽冠軍。

CVPR會(huì)議是由IEEE主辦的關(guān)于計(jì)算機(jī)視覺(jué)和形式辨認(rèn)的國(guó)際學(xué)術(shù)會(huì)議，收錄了該范疇最新的研討成果和技術(shù)開(kāi)展，是全球計(jì)算機(jī)視覺(jué)三大頂-級(jí)會(huì)議之一。??

傳統(tǒng)的視覺(jué)模型消費(fèi)流程通常采用單任務(wù)，從零開(kāi)端鍛煉，各個(gè)任務(wù)之間無(wú)法互相自創(chuàng)。由于單任務(wù)數(shù)據(jù)有限，招致模型的實(shí)踐效果過(guò)于依賴任務(wù)數(shù)據(jù)散布，通常關(guān)于不同場(chǎng)景的泛化效果不佳。

近年來(lái)，大數(shù)據(jù)預(yù)鍛煉技術(shù)疾速開(kāi)展，經(jīng)過(guò)應(yīng)用大量數(shù)據(jù)學(xué)習(xí)通用學(xué)問(wèn)并將其遷移到下游任務(wù)中的辦法，實(shí)質(zhì)上完成了不同任務(wù)之間的互相自創(chuàng)?；诤Ａ繑?shù)據(jù)取得的預(yù)鍛煉模型具有較好的學(xué)問(wèn)完備性，即便在下游任務(wù)中運(yùn)用少量數(shù)據(jù)停止微調(diào)，依然可以取得良好的效果。但是，基于預(yù)鍛煉+下游任務(wù)微調(diào)的模型消費(fèi)流程需求為每個(gè)任務(wù)單獨(dú)鍛煉模型，這在研發(fā)上耗費(fèi)了大量資源。相比之下，多任務(wù)鍛煉計(jì)劃經(jīng)過(guò)運(yùn)用多個(gè)任務(wù)的數(shù)據(jù)鍛煉一個(gè)功用強(qiáng)大的通用模型，能夠直接應(yīng)用于處置多個(gè)任務(wù)，從而有效進(jìn)步模型消費(fèi)效率和泛化才能。

在本次競(jìng)賽中，參賽者需求運(yùn)用單一模型同時(shí)完成交通場(chǎng)景下的分類(lèi)、檢測(cè)和分割三個(gè)代表性任務(wù)的結(jié)合鍛煉。天翼云AI團(tuán)隊(duì)在模型設(shè)計(jì)方面憑仗豐厚的算法開(kāi)發(fā)經(jīng)歷，選擇了參數(shù)量?jī)H為第2名60%的預(yù)鍛煉模型，用更少的參數(shù)卻取得了更高的精度。

為理解決多任務(wù)鍛煉中各分支損失函數(shù)和梯度不分歧招致收斂遲緩的問(wèn)題，天翼云AI團(tuán)隊(duì)采用了損失平衡和梯度尺度統(tǒng)一的辦法，以此來(lái)均衡各任務(wù)分支的損失函數(shù)，并使梯度具有分歧的尺度，從而進(jìn)步模型的鍛煉效率和收斂速度。此外，天翼云AI團(tuán)隊(duì)還經(jīng)過(guò)精心設(shè)計(jì)的任務(wù)專屬特征金字塔和留意力機(jī)制，使各分支任務(wù)可以應(yīng)用主干網(wǎng)絡(luò)中對(duì)本身任務(wù)更有效的特征，進(jìn)一步提升了整體模型的精度和性能。

經(jīng)過(guò)以上模型設(shè)計(jì)和鍛煉戰(zhàn)略，天翼云AI團(tuán)隊(duì)在競(jìng)賽中獲得了優(yōu)良成果，充沛展現(xiàn)了在圖像、音頻及多模態(tài)范疇的深沉積聚和持續(xù)創(chuàng)新才能。將來(lái)，天翼云將繼續(xù)在寬廣的人工智能范疇停止創(chuàng)新和探究，以更先進(jìn)的技術(shù)和杰出的成果惠及更多用戶，為千行百業(yè)的數(shù)字化開(kāi)展提供支撐。