Transformer為什么會(huì)比CNN好
2023-02-09 21:51 作者:Siyuejiang | 我要投稿


transformer VS CNN
transformer效果更好
CNN適用監(jiān)督學(xué)習(xí),用海量數(shù)據(jù)的時(shí)候,適配能力沒有那么好
transformer參數(shù)可以動(dòng)態(tài),CNN參數(shù)會(huì)fix
- 動(dòng)態(tài)參數(shù)
- close loop
attention 關(guān)注feature之間的關(guān)系,interest point是關(guān)注更突出的

數(shù)據(jù)絕對(duì)value不重要,相互關(guān)系比較重要
不僅關(guān)注local,關(guān)注global
一開始就是全局的,corner point之間的聯(lián)系
層級(jí)結(jié)構(gòu)視覺transformer,對(duì)目標(biāo)檢測(cè)結(jié)構(gòu)更友好
標(biāo)簽: