騰訊科技(深圳)有限公司弓靜獲國(guó)家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉騰訊科技(深圳)有限公司申請(qǐng)的專利數(shù)據(jù)處理方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)獲國(guó)家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN115292044B 。
龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-08-15發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為:202210951128.0,技術(shù)領(lǐng)域涉及:G06F9/50;該發(fā)明授權(quán)數(shù)據(jù)處理方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)是由弓靜設(shè)計(jì)研發(fā)完成,并于2022-08-09向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。
本數(shù)據(jù)處理方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)在說(shuō)明書摘要公布了:本申請(qǐng)實(shí)施例提供了一種數(shù)據(jù)處理方法、裝置、電子設(shè)備以及存儲(chǔ)介質(zhì),涉及人工智能技術(shù)領(lǐng)域。數(shù)據(jù)處理方法包括:獲取訓(xùn)練樣本集,并確定用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的至少兩個(gè)節(jié)點(diǎn);根據(jù)節(jié)點(diǎn)數(shù)量將訓(xùn)練樣本集劃分為多個(gè)樣本子集,并將各樣本子集分別發(fā)送至各節(jié)點(diǎn)中,通過(guò)各節(jié)點(diǎn)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練;通過(guò)各節(jié)點(diǎn)中的控制器控制各GPU之間進(jìn)行交互通信,以對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行參數(shù)更新;每個(gè)節(jié)點(diǎn)的控制器用于執(zhí)行如下步驟:根據(jù)節(jié)點(diǎn)數(shù)量和GPU數(shù)量,確定第一通信指示信息和第二通信指示信息;將第一通信指示信息和第二通信指示信息發(fā)送至節(jié)點(diǎn)對(duì)應(yīng)的GPU,以使各節(jié)點(diǎn)的GPU根據(jù)第一通信指示信息和第二通信指示信息進(jìn)行通信。可以實(shí)現(xiàn)訓(xùn)練設(shè)備的動(dòng)態(tài)擴(kuò)縮容。
本發(fā)明授權(quán)數(shù)據(jù)處理方法、裝置、電子設(shè)備及存儲(chǔ)介質(zhì)在權(quán)利要求書中公布了:1.一種數(shù)據(jù)處理方法,其特征在于,所述方法包括: 獲取訓(xùn)練樣本集,并確定用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的至少兩個(gè)節(jié)點(diǎn);其中,每一所述節(jié)點(diǎn)中包括控制器和至少兩個(gè)圖形處理器GPU; 根據(jù)節(jié)點(diǎn)數(shù)量將所述訓(xùn)練樣本集劃分為多個(gè)樣本子集,并將各所述樣本子集分別發(fā)送至各所述節(jié)點(diǎn),通過(guò)各所述節(jié)點(diǎn)對(duì)所述神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練; 基于預(yù)設(shè)的融合規(guī)則信息構(gòu)建通信框架靜態(tài)圖;其中,所述融合規(guī)則信息用于指示不同的梯度進(jìn)行融合; 基于所述通信框架靜態(tài)圖和待融合的各初始梯度確定梯度融合方式; 將所述梯度融合方式以及梯度融合閾值發(fā)送至各所述節(jié)點(diǎn)的控制器; 通過(guò)各所述節(jié)點(diǎn)中的所述控制器控制各所述GPU之間進(jìn)行交互通信,以對(duì)所述神經(jīng)網(wǎng)絡(luò)進(jìn)行參數(shù)更新; 其中,每個(gè)節(jié)點(diǎn)的控制器用于執(zhí)行如下步驟: 將所述梯度融合方式以及所述梯度融合閾值發(fā)送至所述節(jié)點(diǎn)的各GPU; 接收協(xié)商請(qǐng)求;所述協(xié)商請(qǐng)求用于使所述節(jié)點(diǎn)的各GPU分別生成初始梯度,并根據(jù)所述梯度融合方式對(duì)所述初始梯度進(jìn)行融合,若融合梯度的信息量達(dá)到所述梯度融合閾值,則將所述融合梯度作為目標(biāo)梯度;其中,所述初始梯度包括各所述GPU針對(duì)神經(jīng)網(wǎng)絡(luò)各個(gè)部分權(quán)重參數(shù)生成的梯度; 根據(jù)所述節(jié)點(diǎn)數(shù)量和GPU數(shù)量,確定第一通信指示信息和第二通信指示信息;其中,所述第一通信指示信息用于指示不同節(jié)點(diǎn)的GPU之間進(jìn)行通信;所述第二通信指示信息用于指示同一節(jié)點(diǎn)內(nèi)部的不同GPU之間進(jìn)行通信; 將所述第一通信指示信息和所述第二通信指示信息發(fā)送至所述節(jié)點(diǎn)的各GPU,以使各所述節(jié)點(diǎn)的各所述GPU基于所述第一通信指示信息和所述第二通信指示信息建立通信,并針對(duì)所述目標(biāo)梯度進(jìn)行交互傳輸。
如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請(qǐng)人或?qū)@麢?quán)人騰訊科技(深圳)有限公司,其通訊地址為:518000 廣東省深圳市南山區(qū)高新區(qū)科技中一路騰訊大廈35層;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開(kāi)、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 矽力杰半導(dǎo)體技術(shù)(杭州)有限公司鄧建獲國(guó)家專利權(quán)
- 貝伊材料有限責(zé)任公司雷·F·斯圖爾特獲國(guó)家專利權(quán)
- 深圳市林上科技有限公司張庸夫獲國(guó)家專利權(quán)
- 北京九強(qiáng)生物技術(shù)股份有限公司龔俊獲國(guó)家專利權(quán)
- JT國(guó)際公司克勞德·佐米尼獲國(guó)家專利權(quán)
- 北京時(shí)代全芯存儲(chǔ)技術(shù)股份有限公司劉峻志獲國(guó)家專利權(quán)
- 無(wú)錫小天鵝通用電器有限公司包軍獲國(guó)家專利權(quán)
- 蕪湖美的廚衛(wèi)電器制造有限公司易青偉獲國(guó)家專利權(quán)
- 三星電子株式會(huì)社李世煥獲國(guó)家專利權(quán)
- 廣東輝杰智能科技股份有限公司沈紫輝獲國(guó)家專利權(quán)


熱門推薦
- 晶澳(邢臺(tái))太陽(yáng)能有限公司趙佳獲國(guó)家專利權(quán)
- 杭州維斯博醫(yī)療科技有限公司袁洪文獲國(guó)家專利權(quán)
- 馬林克羅特醫(yī)療產(chǎn)品知識(shí)產(chǎn)權(quán)公司J·阿克獲國(guó)家專利權(quán)
- 蘇州星諾奇科技股份有限公司李蒙獲國(guó)家專利權(quán)
- 杭州涂鴉信息技術(shù)有限公司廖建興獲國(guó)家專利權(quán)
- 現(xiàn)代自動(dòng)車株式會(huì)社金云泰獲國(guó)家專利權(quán)
- 海信(山東)冰箱有限公司李利云獲國(guó)家專利權(quán)
- 中興通訊股份有限公司李劍俠獲國(guó)家專利權(quán)
- 無(wú)錫中感微電子股份有限公司徐斌獲國(guó)家專利權(quán)
- 山東菁華環(huán)境科技有限公司吳志海獲國(guó)家專利權(quán)