冪律智能聯合智譜AI發布法律垂直大模型PowerLawGLM觀點
2023-06-28 17:19
2023 年是當之無愧的“大模型之年”，據瑞銀集團的一份報告顯示，ChatGPT 推出僅僅兩個月后，月活用戶已經突破了 1 億，成為史上用戶增長速度最快的消費級應用程序。
前言
2023 年是當之無愧的“大模型之年”，據瑞銀集團的一份報告顯示，ChatGPT 推出僅僅兩個月后，月活用戶已經突破了 1 億，成為史上用戶增長速度最快的消費級應用程序。
在炙熱的大模型賽道里，基于中文大模型的發布也是層出不窮，相較于通用大模型的“大而全”，冪律聯合智譜 AI 此次聯合發布基于中文千億大模型的法律垂直大模型 ——PowerLawGLM，聚焦于法律細分領域，針對中文法律場景的應用效果具有獨特優勢，具備豐富的法律知識和法律語言理解能力。
一、“法律垂直大模型”的誕生
通用大模型是具有強大語言理解能力和生成能力的人工智能模型，但由于專業知識及數據的欠缺，將通用大模型直接應用在法律領域，往往存在著嚴重的效果問題，例如法律知識錯誤、專業引用偏差、法律體系差異等問題。比如前段時間美國律師使用 ChatGPT 來提交法庭簡報，結果引用的 6 個案例都是 ChatGPT 編造的虛假案例，這種“人工智能幻覺”現象在法律場景屢見不鮮，也說明了目前通用大模型難以保證法律專業層面的真實性、正確性。
冪律智能自 2017 年成立以來即深耕于法律 + AI 領域，基于領先的法律 AI 能力，向企業提供智能合同產品，并且深度參與了清華大學自然語言處理實驗室的 OpenCLaP、LawFormer 等法律大模型的研發及應用。而智譜 AI 作為領先的通用大模型廠商，法律領域是其大模型迭代及布局的重要方向，基于雙方達成的戰略合作，在法律大模型上展開深度合作，來加快推動大模型在法律行業應用落地及商業化。
自 2023 年初雙方成立聯合項目組，啟動法律大模型研發以來，經過千億規模的基座模型增量訓練、對話層監督微調、應用層工程優化，推出了基于中文千億大模型的法律垂直大模型 ——PowerLawGLM。
二、“PowerLawGLM”的打造
PowerLawGLM 法律大模型，基于智譜目前效果最好的 ChatGLM 130B 通用千億對話大模型進行聯合研發。在 2022 年 11 月斯坦福大學基礎模型中心對全球 30 個大模型的評測結果中，GLM-130B 是亞洲唯一入選的 Top10 大模型。
訓練法律垂直大模型第一步 —— 基座層：閱讀大量法律文本。
通用大模型在法律場景的應用效果問題，最基礎的原因在于基座大模型沒有經過大量高質量專業法律文本數據的訓練。雙方基于 ChatGLM130B 的基座大模型 GLM 130B，經過了多輪多次高質量法律文本數據（裁判文書、法律法規、法律知識問答等）清洗及模型增量訓練，得到法律版基座大模型 LawGLM 130B。
訓練法律垂直大模型第二步 —— 對話層：與法律對話場景對齊，具備法律場景的對話能力。
LawGLM 130B 基座模型具備了文本生成能力，但在法律對話能力上存在欠缺，因此需要利用大量的法律領域對話數據進行監督微調。雙方利用了近百萬對高質量法律知識問題數據，來訓練得到 PowerLawGLM beta 版，此時，它已經初步具備了法律場景的端到端生成式對話能力以及獨特的回答習慣。
訓練法律垂直大模型第三步 —— 應用層：保證輸出結果質量和可靠性。
法律問答的很多場景都有其特殊性，對于結果準確性的要求、可解釋性的要求較高，直接大模型來端到端生成回答，會面臨很多效果問題，例如引用失效法律、杜撰法條案例、與法律人處理邏輯不一致等等。因此冪律設計了一系列通用型及場景特定型的工程化優化方案，來提升法律問答的有法可依和引用法條內容的準確性，最終提升法律問答的專業性和可靠性。
通過以上三層結構，在基座層、對話層、應用層上提升了大模型對法律專業文本的理解、推理與生成能力：
﹒理解能力：理解復雜的法律文本，包括各種法律條款、判例、合同和其他法律文件。
﹒推理能力：從法律文本中推斷出潛在的問題，提供可能的解決方案，或者預測出可能的法律后果。
﹒生成能力：回答法律問題，為用戶提供咨詢，甚至幫助起草法律文件。它還可以進行法律對話，幫助用戶理解復雜的法律問題。
三、“PowerLawGLM”的實際能力
為了測試 PowerLawGLM 與通用大模型之間的效果對比，冪律的法律團隊收集了互聯網上法律相關的 Top100 高頻問題，進行了不同模型的效果人工評測，并且從法律專業人員的角度，與 ChatGPT 等典型的通用大模型進行的效果對比。評測的維度包括：對問題點的把握是否準確、對問題所含信息的分析是否全面準確、答案的操作可行性強弱、答案的法律專業性程度、法律依據有無，以及準確性全面性程度。最終的評測結果顯示，100 個問題的最優答案中，PowerLawGLM 接近 70% 是最優答案，并且在操作可行性、法律專業性等方面差異顯著。
如圖所示，以下是部分 ChatGPT 和 PowerLawGLM 的回答：
1.針對某一法律問題的咨詢：
ChatGPT 對于彩禮問題的回答
PowerLawGLM 對同一問題給出的回答
在此法律問題上，ChatGPT 沒有對能否請求對方返還彩禮進行正面解答，也沒有對彩禮問題從法律角度進行分析并給出相關法律依據；而 PowerLawGLM 則對此問題進行了明確回答，對題目進行分析并給出了相關法律依據。
2.關于買賣合同的起草：
ChatGPT 對于合同起草的回答
PowerLawGLM 關于合同起草的回答
如圖所示，ChatGPT 起草的合同較為簡略，整體合同格式及條款表述與一份真實可用的合同差距較大，經常出現引用失效法律、條款缺失、信息不完備等問題；而 PowerLawGLM 將用戶提問中的主體、標的物、單價、訴訟法院等信息準確無誤的體現在合同正文中，并且合同條款的完整性、專業性差異顯著。
四、基于 PowerLawGLM 大模型的對話產品 ChatMe 正式上線
基于 PowerLawGLM 大模型的能力，冪律打造了法律對話產品 ChatMe，現已正式上線，首批開放 50 個內測名額，掃碼文末二維碼即可直接預約報名體驗。
ChatMe 的功能和特點：
﹒合同咨詢：ChatMe 擁有豐富的合同知識數據，能夠回答諸如“合同租期期限”等合同知識問題。
﹒合同起草：貼近中文合同起草場景，模版起草、條款組合起草、端對端生成起草等多種解決方案，讓生成的合同質量更高。
﹒合同信息抽?。耗軌蜃R別合同中的關鍵信息進行提取，如主體信息，合同總金額等等。
﹒合同審查：能夠針對合同條款的風險點給出相關建議，提示風險。
﹒通用法律咨詢：提供具有專業法律依據的法律咨詢服務。
未來，冪律智能將持續專注法律垂直大模型的技術提升和落地應用，將法律大模型能力深度融入智能合同管理產品 MeFlow 及智能合同審查產品 MeCheck 中。同時，冪律將面向企業客戶開放能力接口，企業可以將法律大模型能力快速接入現有業務流與系統中，帶來顯著效率提升。
冪律也會不斷更新和改進模型，面向不斷變化的法律知識和應用進行針對性的效果優化，進一步提升 PowerLawGLM 大模型的進化能力。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
