深度學(xué)習(xí)【kaggle】k12主題-內(nèi)容檢索大賽
目的:fusion前學(xué)習(xí)單模態(tài)表征
目標(biāo)函數(shù):similarity function,使得對齊圖文有更高的相似分?jǐn)?shù)
:對應(yīng)的[CLS] embedding 經(jīng)過softmax normalization得到256d的向量
特點(diǎn):受MoCo啟發(fā),用2個隊(duì)列存儲最近的M個圖文對(本文M=65536),標(biāo)準(zhǔn)化后的特
標(biāo)簽: