什么是 BERT?【知多少】

什么是BERT?
圖像由像素組成,像素由RGB數(shù)值表示
為什么是向量?
詞語(yǔ)的意義之間是由關(guān)聯(lián)的
距離可以表示詞與詞之間的關(guān)系
這些向量如何得到的?
Bert幫我們找到詞語(yǔ)位置
Encoder能夠?qū)⒄Z(yǔ)言的意義很好的抽離出來
那么直接將這部分獨(dú)立出來

能夠?qū)φZ(yǔ)言表示
Bert有遮擋的訓(xùn)練
Bert來判斷這句話是什么
語(yǔ)境做出預(yù)測(cè)
上下文關(guān)系做好理解
標(biāo)簽: