Kimi公司大語言推理系統(tǒng)專利獲授權(quán) 月之暗面大語言推理系統(tǒng)專利獲授權(quán)觀點
2025-03-04 10:59
天眼查財產(chǎn)線索信息顯示，近日，Kimi關(guān)聯(lián)公司北京月之暗面科技有限公司申請的“一種大語言推理系統(tǒng)及方法”專利獲授權(quán)。
天眼查財產(chǎn)線索信息顯示，近日，Kimi關(guān)聯(lián)公司北京月之暗面科技有限公司申請的“一種大語言推理系統(tǒng)及方法”專利獲授權(quán)。
摘要顯示，該發(fā)明公開了一種大語言推理系統(tǒng)，包括：至少一個預填充計算單元，至少一個生成計算單元及緩存單元；至少一個預填充計算單元，用于根據(jù)當前推理請求及歷史推理資源進行預填充，得到當前推理數(shù)據(jù)，發(fā)送當前推理數(shù)據(jù)至生成計算單元和緩存單元；至少一個生成計算單元，用于接收當前推理數(shù)據(jù)，并采用預設的大語言模型根據(jù)當前推理數(shù)據(jù)生成當前結(jié)果字，根據(jù)當前結(jié)果字生成當前推理結(jié)果發(fā)送至緩存單元，輸出當前結(jié)果字至用戶端；緩存單元，用于根據(jù)當前推理請求，保存當前推理數(shù)據(jù)，當前推理請求及當前推理結(jié)果。該本發(fā)明提供的技術(shù)方案，可以減少推理過程中的計算量，提高推理結(jié)果自然語言的流暢性與連續(xù)性。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控熑危?br>
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。
