2月21日，達(dá)摩院聯(lián)合高德發(fā)布業(yè)界首個多模態(tài)地理文本預(yù)訓(xùn)練模型MGeo，其可充分理解地圖上的每一個元素，并精準(zhǔn)完成地圖搜索、地理位置分析等任務(wù)。MGeo是阿里通義模型系列旗下的新模型，目前已在魔搭社區(qū)開放（https://modelscope.cn/models/damo/mgeo_backbone_chinese_base/summary）。

地理文本信息處理是導(dǎo)航軟件、物流以及零售等行業(yè)的基礎(chǔ)。然而，目前傳統(tǒng)地理文本AI算法對于地理信息的理解仍局限在經(jīng)緯度以及經(jīng)緯度的遠(yuǎn)近上，無法像人類一樣理解地圖上的元素，該方法難以精準(zhǔn)表示景區(qū)、園區(qū)、商業(yè)街等大型地理實(shí)體的具體形狀，以及不同地圖元素之間復(fù)雜的臨近、包含等關(guān)系。

針對上述問題，達(dá)摩院聯(lián)合高德提出地理文本多模態(tài)模型，使用對抗MLM預(yù)訓(xùn)練、句子對預(yù)訓(xùn)練及多模態(tài)預(yù)訓(xùn)練三大技術(shù)，并用多任務(wù)預(yù)訓(xùn)練將這三種預(yù)訓(xùn)練任務(wù)進(jìn)行動態(tài)組合，最終訓(xùn)練得到適合于多類地理文本任務(wù)的預(yù)訓(xùn)練底座MGeo。該模型擁有豐富的地理知識，能像人類一樣跨模態(tài)理解地圖與地理文本的信息，相關(guān)研究成果已被EMNLP、AAAI等國際頂級會議收錄。

MGeo像人類一樣具備跨模態(tài)理解能力，可識別地圖元素之間的位置關(guān)系

據(jù)悉，高德基于MGeo研發(fā)了全新的模型，不僅顯著提高泛化語義的表示能力，還可準(zhǔn)確識別不同地圖元素之間的位置關(guān)系，有效提升用戶的搜索體驗(yàn)。例如，當(dāng)用戶在杭州輸入“星光薈對面中國美術(shù)”時，MGeo能根據(jù)位置關(guān)系準(zhǔn)確定位到中國美術(shù)學(xué)院象山校區(qū)，而傳統(tǒng)BERT模型則給出了錯誤定位結(jié)果；此外，在用戶書寫有誤的情況下，該模型也能匹配正確的結(jié)果。該能力已逐步在高德灰度上線。

在四平市搜索“傭兵小區(qū)”，高德可準(zhǔn)確定位“擁軍社區(qū)”

達(dá)摩院語言技術(shù)實(shí)驗(yàn)室負(fù)責(zé)人黃非表示：“地理信息與AI的融合已是業(yè)界公認(rèn)的趨勢，但傳統(tǒng)AI比如文本處理在地理信息應(yīng)用場景中有一定局限性 ，我們需要讓AI學(xué)習(xí)人類對于空間信息的理解范式，例如，通過地圖中的地理實(shí)體以及他們之間的關(guān)系來判定地理文本中各個元素的歸屬以及指向?！?/span>

作為最早投入預(yù)訓(xùn)練語言模型研究的團(tuán)隊(duì)之一，達(dá)摩院研發(fā)了阿里通義AliceMind，該體系涵蓋預(yù)訓(xùn)練模型、多語言預(yù)訓(xùn)練模型、超大中文預(yù)訓(xùn)練模型等，具備閱讀理解、機(jī)器翻譯、對話問答、文檔處理等多種能力，該模型體系已斬獲36項(xiàng)國際賽事冠軍。