近期，中國工業(yè)互聯(lián)網(wǎng)研究院（簡稱“工聯(lián)院”）針對人工智能大模型在中文工業(yè)領(lǐng)域的知識問答能力進行系統(tǒng)性評測。結(jié)果顯示，百度文心一言表現(xiàn)超過GPT3.5，綜合評價指數(shù)在國內(nèi)排名第一。

工聯(lián)院本次評測選取了工業(yè)領(lǐng)域典型的八大行業(yè)。百度文心一言在??電子設(shè)備、??裝備、???鋼鐵、采礦、電力、石化、建材等七大行業(yè)均獲國內(nèi)第一。

五大院士，八大IEEE Fellow，共十三位頂級專家構(gòu)成了專家委員會。評測對象涵蓋GPT4、GPT3.5、文心一言、ChatGLM等國內(nèi)外具有代表性的頭部大模型。評估結(jié)果選取性能前六名的模型進行公布。

百度文心一言在國內(nèi)“最懂工業(yè)”

本次工業(yè)知識問答測試主要分為客觀題與主觀題兩大類，總計超過1100個問題。主觀題主要考察四大維度：基礎(chǔ)能力、語句能力、概括能力和邏輯能力。

評測結(jié)果顯示，GPT4表現(xiàn)最佳。國內(nèi)頭部大模型表現(xiàn)亮眼，整體與GPT3.5相當。其中百度文心一言表現(xiàn)超過GPT3.5，在國內(nèi)大模型中排名第一。

在客觀題環(huán)節(jié)，評測結(jié)果顯示，GPT4與文心一言表現(xiàn)好于其他大模型。但評測結(jié)果也同時指出，大模型普遍準確率有較大的提升空間。

主觀題方面，國內(nèi)大模型的基礎(chǔ)能力、語句能力與GPT4接近，概括能力、邏輯能力與GPT4有一定差距。

在大模型的自我認知能力和污染問題分析能力上，GPT4相較于其他大模型表現(xiàn)出更好的能力。

大模型發(fā)展新熱點：豐富特定行業(yè)專業(yè)知識

雖然國內(nèi)大模型在本次評測表現(xiàn)較好，甚至在部分行業(yè)趕超GPT3.5，但工聯(lián)院評測報告也指出，國內(nèi)外通用大模型在工業(yè)知識問答領(lǐng)域探索仍處于初級階段，國內(nèi)大模型與GPT4有差距，比如行業(yè)間的泛化能力有待加強。

實際上，工聯(lián)院評測報告揭示出通用大模型落地垂直行業(yè)的痛點，缺乏特定行業(yè)的專業(yè)知識。

關(guān)于解決難題的方法，工聯(lián)院評測報告給出的建議是，進一步豐富相關(guān)專業(yè)領(lǐng)域的數(shù)據(jù)訓(xùn)練集，進一步進行專業(yè)化的微調(diào)。

當前，國內(nèi)科技公司紛紛加強與工業(yè)企業(yè)合作，期望通過在實際場景中探索應(yīng)用大模型，彌補差距，趕超GPT4.0。

比如在本次評測中位居國內(nèi)模型第一的百度文心一言，與南方電網(wǎng)電力調(diào)度控制中心在電力調(diào)度場景探索使用調(diào)度AI大模型。在汽車行業(yè)，長安汽車基于百度文心大模型正在開發(fā)生成式人工智能產(chǎn)品，賦能一款量產(chǎn)車型，實現(xiàn)提升用戶體驗的目標。除了能源、汽車制造，百度智能云還在建筑、采礦、物流、紡織等領(lǐng)域，探索使用大模型提升運營效率和用戶體驗效果。

通過在實際場景的探索應(yīng)用，科技公司可以積攢更多的行業(yè)Know-how，擴展相關(guān)領(lǐng)域的數(shù)據(jù)訓(xùn)練集。這種外部真實反饋有助驅(qū)動大模型更加快速的實現(xiàn)迭代升級。

未來，工聯(lián)院將持續(xù)開展通用大模型在工業(yè)領(lǐng)域更多維度的性能評測，包括但不限于大模型的魯棒性、安全性以及人類大價值觀等。