蘇州元腦智能科技有限公司孟秋獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網獲悉蘇州元腦智能科技有限公司申請的專利任務執(zhí)行方法、電子設備、介質、程序產品獲國家發(fā)明授權專利權,本發(fā)明授權專利權由國家知識產權局授予,授權公告號為:CN120276833B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發(fā)布的發(fā)明授權授權公告中獲悉:該發(fā)明授權的專利申請?zhí)?專利號為:202510773133.0,技術領域涉及:G06F9/48;該發(fā)明授權任務執(zhí)行方法、電子設備、介質、程序產品是由孟秋;羅建剛;趙旭東;吳韶華設計研發(fā)完成,并于2025-06-11向國家知識產權局提交的專利申請。
本任務執(zhí)行方法、電子設備、介質、程序產品在說明書摘要公布了:本發(fā)明提供了一種任務執(zhí)行方法、電子設備、介質、程序產品,涉及人工智能技術領域。該任務執(zhí)行方法包括:響應于接收到多個推理請求,將基于多個推理請求生成的多個推理任務劃分為N個批次,其中,各推理任務包括擬依次執(zhí)行的計算子任務和后處理子任務;依次執(zhí)行N個批次的推理任務,得到任務執(zhí)行結果,其中,執(zhí)行第n批次的推理任務包括:向計算單元發(fā)送第n批次計算子任務;在計算單元執(zhí)行完第n批次計算子任務的情況下,向計算單元發(fā)送第n+1批次計算子任務以及在計算單元執(zhí)行第n+1批次計算子任務的過程中,同步執(zhí)行第n批次后處理子任務。該任務執(zhí)行方法可以提高計算資源利用率。
本發(fā)明授權任務執(zhí)行方法、電子設備、介質、程序產品在權利要求書中公布了:1.一種任務執(zhí)行方法,其特征在于,所述方法包括: 響應于接收到多個推理請求,將基于所述多個推理請求生成的多個推理任務劃分為N個批次,其中,各所述推理任務包括擬依次執(zhí)行的計算子任務和后處理子任務,N為大于2的整數(shù);所述推理任務用于指示:調用預定語言模型基于所述推理請求中攜帶的請求數(shù)據進行語義推理生成語義推理結果; 依次執(zhí)行N個批次的推理任務,得到任務執(zhí)行結果,其中,執(zhí)行第n批次的推理任務包括: 通過執(zhí)行第n批次前處理子任務,調用預定語言模型中的嵌入層對第n批次請求數(shù)據進行編碼處理,生成基礎詞向量,其中,所述第n批次請求數(shù)據攜帶于針對第n批次推理任務的推理請求中; 向計算單元發(fā)送第n批次計算子任務,以便所述計算單元通過執(zhí)行所述第n批次計算子任務調用所述預定語言模型中的注意力層和映射層,對所述基礎詞向量進行處理,生成多個候選詞向量以及所述多個候選詞向量各自的概率分布; 在所述計算單元執(zhí)行完所述第n批次計算子任務的情況下,向所述計算單元發(fā)送第n+1批次計算子任務以及在所述計算單元執(zhí)行所述第n+1批次計算子任務的過程中,同步執(zhí)行第n批次后處理子任務,n=1,…,N-2。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯(lián)系本專利的申請人或專利權人蘇州元腦智能科技有限公司,其通訊地址為:215000 江蘇省蘇州市吳中經濟開發(fā)區(qū)綜保區(qū)經一路1號8幢;或者聯(lián)系龍圖騰網官方客服,聯(lián)系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數(shù)據和信息,力求客觀、公正,但并不保證數(shù)據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。