【王樹森】機(jī)器學(xué)習(xí)ML 聯(lián)邦學(xué)習(xí) Transformer


設(shè)計(jì)聯(lián)邦學(xué)習(xí)一定要減少通訊次數(shù),難點(diǎn)主要集中在2和3,首先是worker不穩(wěn)定,不能和server時(shí)刻保持穩(wěn)定聯(lián)系,模型參數(shù)大也不現(xiàn)實(shí)。還有就是通訊成本高
標(biāo)簽:
設(shè)計(jì)聯(lián)邦學(xué)習(xí)一定要減少通訊次數(shù),難點(diǎn)主要集中在2和3,首先是worker不穩(wěn)定,不能和server時(shí)刻保持穩(wěn)定聯(lián)系,模型參數(shù)大也不現(xiàn)實(shí)。還有就是通訊成本高