前言

2023年是當(dāng)之無愧的“大模型之年”，據(jù)瑞銀集團的一份報告顯示，ChatGPT推出僅僅兩個月后，月活用戶已經(jīng)突破了1億，成為史上用戶增長速度最快的消費級應(yīng)用程序。

在炙熱的大模型賽道里，基于中文大模型的發(fā)布也是層出不窮，相較于通用大模型的“大而全”，冪律聯(lián)合智譜AI此次聯(lián)合發(fā)布基于中文千億大模型的法律垂直大模型——PowerLawGLM，聚焦于法律細(xì)分領(lǐng)域，針對中文法律場景的應(yīng)用效果具有獨特優(yōu)勢，具備豐富的法律知識和法律語言理解能力。

一、“法律垂直大模型”的誕生

通用大模型是具有強大語言理解能力和生成能力的人工智能模型，但由于專業(yè)知識及數(shù)據(jù)的欠缺，將通用大模型直接應(yīng)用在法律領(lǐng)域，往往存在著嚴(yán)重的效果問題，例如法律知識錯誤、專業(yè)引用偏差、法律體系差異等問題。比如前段時間美國律師使用ChatGPT來提交法庭簡報，結(jié)果引用的6個案例都是ChatGPT編造的虛假案例，這種“人工智能幻覺”現(xiàn)象在法律場景屢見不鮮，也說明了目前通用大模型難以保證法律專業(yè)層面的真實性、正確性。

冪律智能自2017年成立以來即深耕于法律+AI領(lǐng)域，基于領(lǐng)先的法律AI能力，向企業(yè)提供智能合同產(chǎn)品，并且深度參與了清華大學(xué)自然語言處理實驗室的OpenCLaP、LawFormer等法律大模型的研發(fā)及應(yīng)用。而智譜AI作為領(lǐng)先的通用大模型廠商，法律領(lǐng)域是其大模型迭代及布局的重要方向，基于雙方達成的戰(zhàn)略合作，在法律大模型上展開深度合作，來加快推動大模型在法律行業(yè)應(yīng)用落地及商業(yè)化。

自2023年初雙方成立聯(lián)合項目組，啟動法律大模型研發(fā)以來，經(jīng)過千億規(guī)模的基座模型增量訓(xùn)練、對話層監(jiān)督微調(diào)、應(yīng)用層工程優(yōu)化，推出了基于中文千億大模型的法律垂直大模型——PowerLawGLM。?

二、“PowerLawGLM”的打造

PowerLawGLM法律大模型，基于智譜目前效果最好的ChatGLM 130B通用千億對話大模型進行聯(lián)合研發(fā)。在2022年11月斯坦福大學(xué)基礎(chǔ)模型中心對全球 30 個大模型的評測結(jié)果中，GLM-130B 是亞洲唯一入選的Top10大模型。

?

訓(xùn)練法律垂直大模型第一步——基座層：閱讀大量法律文本。

通用大模型在法律場景的應(yīng)用效果問題，最基礎(chǔ)的原因在于基座大模型沒有經(jīng)過大量高質(zhì)量專業(yè)法律文本數(shù)據(jù)的訓(xùn)練。雙方基于ChatGLM130B的基座大模型GLM 130B，經(jīng)過了多輪多次高質(zhì)量法律文本數(shù)據(jù)（裁判文書、法律法規(guī)、法律知識問答等）清洗及模型增量訓(xùn)練，得到法律版基座大模型LawGLM 130B。

訓(xùn)練法律垂直大模型第二步——對話層：與法律對話場景對齊，具備法律場景的對話能力。

LawGLM 130B基座模型具備了文本生成能力，但在法律對話能力上存在欠缺，因此需要利用大量的法律領(lǐng)域?qū)υ挃?shù)據(jù)進行監(jiān)督微調(diào)。雙方利用了近百萬對高質(zhì)量法律知識問題數(shù)據(jù)，來訓(xùn)練得到PowerLawGLM beta版，此時，它已經(jīng)初步具備了法律場景的端到端生成式對話能力以及獨特的回答習(xí)慣。

訓(xùn)練法律垂直大模型第三步——應(yīng)用層：保證輸出結(jié)果質(zhì)量和可靠性。

法律問答的很多場景都有其特殊性，對于結(jié)果準(zhǔn)確性的要求、可解釋性的要求較高，直接大模型來端到端生成回答，會面臨很多效果問題，例如引用失效法律、杜撰法條案例、與法律人處理邏輯不一致等等。因此冪律設(shè)計了一系列通用型及場景特定型的工程化優(yōu)化方案，來提升法律問答的有法可依和引用法條內(nèi)容的準(zhǔn)確性，最終提升法律問答的專業(yè)性和可靠性。

通過以上三層結(jié)構(gòu)，在基座層、對話層、應(yīng)用層上提升了大模型對法律專業(yè)文本的理解、推理與生成能力：

??理解能力：理解復(fù)雜的法律文本，包括各種法律條款、判例、合同和其他法律文件。

??推理能力：從法律文本中推斷出潛在的問題，提供可能的解決方案，或者預(yù)測出可能的法律后果。

??生成能力：回答法律問題，為用戶提供咨詢，甚至幫助起草法律文件。它還可以進行法律對話，幫助用戶理解復(fù)雜的法律問題。

三、“PowerLawGLM”的實際能力

為了測試PowerLawGLM與通用大模型之間的效果對比，冪律的法律團隊收集了互聯(lián)網(wǎng)上法律相關(guān)的Top100高頻問題，進行了不同模型的效果人工評測，并且從法律專業(yè)人員的角度，與ChatGPT等典型的通用大模型進行的效果對比。評測的維度包括：對問題點的把握是否準(zhǔn)確、對問題所含信息的分析是否全面準(zhǔn)確、答案的操作可行性強弱、答案的法律專業(yè)性程度、法律依據(jù)有無，以及準(zhǔn)確性全面性程度。最終的評測結(jié)果顯示，100個問題的最優(yōu)答案中，PowerLawGLM接近70%是最優(yōu)答案，并且在操作可行性、法律專業(yè)性等方面差異顯著。

如圖所示，以下是部分ChatGPT和PowerLawGLM的回答：

1.針對某一法律問題的咨詢：

?

?

ChatGPT對于彩禮問題的回答

?

PowerLawGLM對同一問題給出的回答

在此法律問題上，ChatGPT沒有對能否請求對方返還彩禮進行正面解答，也沒有對彩禮問題從法律角度進行分析并給出相關(guān)法律依據(jù)；而PowerLawGLM則對此問題進行了明確回答，對題目進行分析并給出了相關(guān)法律依據(jù)。

2.關(guān)于買賣合同的起草：

?

ChatGPT對于合同起草的回答

?

PowerLawGLM關(guān)于合同起草的回答

如圖所示，ChatGPT起草的合同較為簡略，整體合同格式及條款表述與一份真實可用的合同差距較大，經(jīng)常出現(xiàn)引用失效法律、條款缺失、信息不完備等問題；而PowerLawGLM將用戶提問中的主體、標(biāo)的物、單價、訴訟法院等信息準(zhǔn)確無誤的體現(xiàn)在合同正文中，并且合同條款的完整性、專業(yè)性差異顯著。

四、基于PowerLawGLM大模型的對話產(chǎn)品ChatMe正式上線

基于PowerLawGLM大模型的能力，冪律打造了法律對話產(chǎn)品ChatMe，現(xiàn)已正式上線，首批開放50個內(nèi)測名額，掃碼文末二維碼即可直接預(yù)約報名體驗。

ChatMe的功能和特點：

??合同咨詢：ChatMe擁有豐富的合同知識數(shù)據(jù)，能夠回答諸如“合同租期期限”等合同知識問題。

??合同起草：貼近中文合同起草場景，模版起草、條款組合起草、端對端生成起草等多種解決方案，讓生成的合同質(zhì)量更高。

??合同信息抽?。耗軌蜃R別合同中的關(guān)鍵信息進行提取，如主體信息，合同總金額等等。

??合同審查：能夠針對合同條款的風(fēng)險點給出相關(guān)建議，提示風(fēng)險。

??通用法律咨詢：提供具有專業(yè)法律依據(jù)的法律咨詢服務(wù)。

未來，冪律智能將持續(xù)專注法律垂直大模型的技術(shù)提升和落地應(yīng)用，將法律大模型能力深度融入智能合同管理產(chǎn)品MeFlow及智能合同審查產(chǎn)品MeCheck中。同時，冪律將面向企業(yè)客戶開放能力接口，企業(yè)可以將法律大模型能力快速接入現(xiàn)有業(yè)務(wù)流與系統(tǒng)中，帶來顯著效率提升。

冪律也會不斷更新和改進模型，面向不斷變化的法律知識和應(yīng)用進行針對性的效果優(yōu)化，進一步提升PowerLawGLM大模型的進化能力。

?