湖南師范大學(xué)劉雙龍獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉湖南師范大學(xué)申請的專利基于逐列最大化剪枝的LSTM硬件加速器獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN120297353B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-22發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202510788755.0,技術(shù)領(lǐng)域涉及:G06N3/082;該發(fā)明授權(quán)基于逐列最大化剪枝的LSTM硬件加速器是由劉雙龍;龔源昊;沈萬;周博通;馬嘉琦設(shè)計研發(fā)完成,并于2025-06-13向國家知識產(chǎn)權(quán)局提交的專利申請。
本基于逐列最大化剪枝的LSTM硬件加速器在說明書摘要公布了:本發(fā)明公開了一種基于逐列最大化剪枝的LSTM硬件加速器,包括向量處理單元、矩陣向量計算核、并行輸入串行輸出的移位寄存器、權(quán)重存儲模塊和激活函數(shù)模塊;向量處理單元將輸入向量和隱藏層輸出向量編碼為稀疏向量,并用AIDX表示其中非零元素的位置編碼;權(quán)重存儲模塊根據(jù)AIDX并行地從片上存儲器發(fā)送匹配的非零權(quán)重參數(shù);矩陣向量計算核使用稀疏向量的非零元素和權(quán)重存儲模塊索引的非零權(quán)重參數(shù)進(jìn)行矩陣計算;移位寄存器緩存矩陣向量計算核的計算結(jié)果,并以串行方式傳輸至激活函數(shù)模塊;激活函數(shù)模塊負(fù)責(zé)計算sigmoid、tanh函數(shù)和逐元素運(yùn)算。本發(fā)明能確保剪枝后的稀疏矩陣結(jié)構(gòu)規(guī)則分布與硬件并行計算特性匹配,提升資源利用率。
本發(fā)明授權(quán)基于逐列最大化剪枝的LSTM硬件加速器在權(quán)利要求書中公布了:1.一種基于逐列最大化剪枝的LSTM硬件加速器,其特征在于,包括:向量處理單元、矩陣向量計算核、并行輸入串行輸出的移位寄存器、權(quán)重存儲模塊和激活函數(shù)模塊; 所述向量處理單元用于:將輸入向量和隱藏層輸出向量編碼為稀疏向量和,并用AIDX表示稀疏向量非零元素的位置編碼; 所述權(quán)重存儲模塊用于:根據(jù)位置編碼AIDX并行地從片上存儲器發(fā)送匹配的非零權(quán)重參數(shù); 所述矩陣向量計算核用于:使用向量處理單元傳輸?shù)南∈柘蛄康姆橇阍睾蜋?quán)重存儲模塊索引的非零權(quán)重參數(shù)進(jìn)行矩陣計算; 所述移位寄存器用于:緩存矩陣向量計算核的計算結(jié)果,并以串行方式傳輸至激活函數(shù)模塊; 所述激活函數(shù)模塊負(fù)責(zé)計算sigmoid、tanh函數(shù)和逐元素運(yùn)算; 所述LSTM硬件加速器用于實(shí)現(xiàn)基于逐列最大化剪枝的LSTM加速方法,所述LSTM加速方法包括: 步驟1,針對LSTM包括的各權(quán)重矩陣,根據(jù)其對LSTM精度的敏感度分類為敏感型和非敏感型; 步驟2,對敏感型和非敏感型權(quán)重矩陣設(shè)置不同的稀疏度組合值,按照各稀疏度組合值對LSTM各權(quán)重矩陣進(jìn)行逐列最大化剪枝,然后根據(jù)對應(yīng)剪枝后的LSTM精度確定獲得最優(yōu)的稀疏度組合值; 步驟2.1,將敏感型和非敏感型權(quán)重矩陣的稀疏度、設(shè)置在預(yù)設(shè)低水平,將當(dāng)前最大的整體稀疏度預(yù)設(shè)為0; 步驟2.2,以當(dāng)前稀疏度對LSTM的每個非敏感型權(quán)重矩陣進(jìn)行逐列剪枝,以當(dāng)前稀疏度對LSTM的每個敏感型權(quán)重矩陣進(jìn)行逐列剪枝; 步驟2.3,對剪枝后的LSTM進(jìn)行訓(xùn)練并計算LSTM的模型精度和整體稀疏度; 步驟2.4,判斷是否滿足且,其中為預(yù)訓(xùn)練模型精度,為模型精度的可接受閾值; 若滿足則將當(dāng)前稀疏度組合作為當(dāng)前最優(yōu)的稀疏度組合,并將當(dāng)前賦值給; 步驟2.5,將當(dāng)前稀疏度增加間隔α,若增加后仍小于100%,則返回執(zhí)行步驟2.2,否則執(zhí)行步驟2.6; 步驟2.6,將當(dāng)前稀疏度增加間隔α,若增加后仍小于100%,將稀疏度設(shè)置回預(yù)設(shè)低水平則返回執(zhí)行步驟2.2,否則執(zhí)行步驟2.7; 步驟2.7,輸出當(dāng)前最優(yōu)的稀疏度組合; 步驟3,按照最優(yōu)的稀疏度組合值對LSTM各權(quán)重矩陣進(jìn)行逐列最大化剪枝,實(shí)現(xiàn)LSTM加速。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人湖南師范大學(xué),其通訊地址為:410081 湖南省長沙市岳麓區(qū)麓山路36號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 西安艾潤物聯(lián)網(wǎng)技術(shù)服務(wù)有限責(zé)任公司王林祥獲國家專利權(quán)
- 阿里巴巴集團(tuán)控股有限公司鄭衛(wèi)東獲國家專利權(quán)
- 蘇州紐威閥門股份有限公司涂楠獲國家專利權(quán)
- 東京毅力科創(chuàng)株式會社中澤貴士獲國家專利權(quán)
- 阿里巴巴集團(tuán)控股有限公司賈晨曦獲國家專利權(quán)
- 上海拓牛智能科技有限公司沈泉獲國家專利權(quán)
- 上海新微技術(shù)研發(fā)中心有限公司吳炫燁獲國家專利權(quán)
- 南京國電南自維美德自動化有限公司丁俊健獲國家專利權(quán)
- OPPO廣東移動通信有限公司劉佳獲國家專利權(quán)
- 臺州職業(yè)技術(shù)學(xué)院何建慧獲國家專利權(quán)


熱門推薦
- 華為技術(shù)有限公司何伯勇獲國家專利權(quán)
- 四川中科朗星光電科技有限公司楊博獲國家專利權(quán)
- 南京南瑞繼保電氣有限公司王凱獲國家專利權(quán)
- 斕帛職業(yè)培訓(xùn)學(xué)校(桐鄉(xiāng))有限公司沈衛(wèi)國獲國家專利權(quán)
- 東風(fēng)商用車有限公司孟繁思獲國家專利權(quán)
- 深圳壹賬通智能科技有限公司郭凌峰獲國家專利權(quán)
- 三星顯示有限公司鄭胤宰獲國家專利權(quán)
- 賽靈思公司B·S·馬丁獲國家專利權(quán)
- 交互數(shù)字VC控股法國公司J.里卡德獲國家專利權(quán)
- 凌衛(wèi)東獲國家專利權(quán)