買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉上海壁仞科技股份有限公司申請的專利一種基于專家并行的張量確定方法、設(shè)備及存儲介質(zhì)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN120278237B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-08-26發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202510765512.5，技術(shù)領(lǐng)域涉及：G06N3/098；該發(fā)明授權(quán)一種基于專家并行的張量確定方法、設(shè)備及存儲介質(zhì)是由請求不公布姓名設(shè)計研發(fā)完成，并于2025-06-09向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種基于專家并行的張量確定方法、設(shè)備及存儲介質(zhì)在說明書摘要公布了：本申請實施例提供了一種基于專家并行的張量確定方法、設(shè)備及存儲介質(zhì)，涉及人工智能芯片技術(shù)領(lǐng)域，該方法包括：在輸入張量的隱藏層維度，將輸入張量拆分為N個子張量；將N個子張量分配到N個計算單元各自部署的專家子網(wǎng)絡(luò)并行計算。由于每個專家子網(wǎng)絡(luò)是通過相應(yīng)的第一權(quán)重參數(shù)對分配的子張量進(jìn)行計算，因此，專家子網(wǎng)絡(luò)的第一權(quán)重參數(shù)與分配的子張量在形狀上是需要適配的；基于此，針對第一權(quán)重參數(shù)中與子張量的隱藏層維度關(guān)聯(lián)的目標(biāo)維度，將該目標(biāo)維度的長度設(shè)置為子張量的隱藏層維度的長度，這樣減小了第一權(quán)重參數(shù)在目標(biāo)維度的長度，即減少專家子網(wǎng)絡(luò)的權(quán)重參數(shù)本身需要占用的顯存空間，從而降低顯存的存儲壓力。

本發(fā)明授權(quán)一種基于專家并行的張量確定方法、設(shè)備及存儲介質(zhì)在權(quán)利要求書中公布了：1.一種基于專家并行的張量確定方法，其特征在于，包括： 在輸入張量的隱藏層維度，將所述輸入張量拆分為N個子張量，N大于1；所述輸入張量為以下任意一項：文本數(shù)據(jù)、語音數(shù)據(jù)、圖像數(shù)據(jù)； 將所述N個子張量分配到N個計算單元各自部署的專家子網(wǎng)絡(luò)；每個所述專家子網(wǎng)絡(luò)包含相應(yīng)的第一權(quán)重參數(shù)，每個所述第一權(quán)重參數(shù)的形狀包含與所述隱藏層維度關(guān)聯(lián)的目標(biāo)維度；每個所述專家子網(wǎng)絡(luò)分配的子張量在所述隱藏層維度的長度，與每個所述專家子網(wǎng)絡(luò)的第一權(quán)重參數(shù)在所述目標(biāo)維度的長度相等； 通過N個專家子網(wǎng)絡(luò)，基于各自的第一權(quán)重參數(shù)并行對所述N個子張量進(jìn)行計算，獲得相應(yīng)的子計算結(jié)果； 基于獲得的N個子計算結(jié)果，獲得輸出張量； 在模型訓(xùn)練過程中，通過負(fù)載均衡損失更新每個專家子網(wǎng)絡(luò)的第一權(quán)重參數(shù)在目標(biāo)維度的長度，直到任意兩個專家子網(wǎng)絡(luò)的第一權(quán)重參數(shù)在目標(biāo)維度的長度的差值在預(yù)設(shè)閾值內(nèi)。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人上海壁仞科技股份有限公司，其通訊地址為：201114 上海市閔行區(qū)陳行公路2388號16幢13層1302室；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。