上海壁仞科技股份有限公司請求不公布姓名獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉上海壁仞科技股份有限公司申請的專利芯片執行算子的性能預測方法、裝置、電子設備和介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120162236B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510648305.1,技術領域涉及:G06F11/34;該發明授權芯片執行算子的性能預測方法、裝置、電子設備和介質是由請求不公布姓名設計研發完成,并于2025-05-20向國家知識產權局提交的專利申請。
本芯片執行算子的性能預測方法、裝置、電子設備和介質在說明書摘要公布了:本發明提供一種芯片執行算子的性能預測方法、裝置、電子設備和介質,涉及人工智能芯片技術領域,包括:獲取參考芯片執行當前算子的實際執行時長,以及參考芯片中各個核心部件的實際利用率;基于參考芯片中各個核心部件的實際利用率、實際執行時長和參考芯片中各個核心部件的硬件配置規格,確定參考芯片中各個核心部件的實際工作負載;基于參考芯片中各個核心部件的實際工作負載和目標芯片中各個核心部件的硬件配置規格,確定目標芯片執行當前算子時各個核心部件的預測占用時長;確定目標芯片執行當前算子的預測執行時長。本發明提供的方法和裝置,實現了在沒有真正執行或仿真的情況下準確預測算子在未知芯片上的執行性能。
本發明授權芯片執行算子的性能預測方法、裝置、電子設備和介質在權利要求書中公布了:1.一種芯片執行算子的性能預測方法,其特征在于,包括: 獲取參考芯片執行當前算子的實際執行時長,以及所述參考芯片中各個核心部件的實際利用率; 在所述核心部件為張量核的情況下,獲取所述參考芯片執行所述當前算子的實際時鐘頻率,以及所述參考芯片的峰值頻率;基于所述張量核的實際利用率、所述實際時鐘頻率、所述峰值頻率、所述實際執行時長和所述張量核的硬件配置規格,確定所述張量核的實際工作負載; 在所述核心部件為全局內存的情況下,基于所述全局內存的實際利用率、所述實際執行時長和所述全局內存的硬件配置規格,確定所述全局內存的實際工作負載; 在所述核心部件為向量核的情況下,獲取所述核心部件的各個運算類型的指令執行次數;基于各個運算類型的指令執行次數,以及所述參考芯片中每個線程束執行每個運算類型的指令的操作數,確定所述核心部件執行各個運算類型的實際工作負載; 基于所述參考芯片中各個核心部件的實際工作負載和目標芯片中各個核心部件的硬件配置規格,確定所述目標芯片執行所述當前算子時各個核心部件的預測占用時長;所述目標芯片與所述參考芯片具有相同種類的核心部件; 基于所述目標芯片執行所述當前算子時各個核心部件的預測占用時長,以及所述目標芯片的預測利用率,確定所述目標芯片執行所述當前算子的預測執行時長; 所述目標芯片的預測利用率是基于如下步驟確定的: 在所述當前算子的性能受到張量核的計算能力限制或全局內存的帶寬限制的情況下,將所述參考芯片執行當前算子時張量核的實際利用率和全局內存的實際利用率中的最大值,確定為所述目標芯片的預測利用率; 在所述當前算子的性能受到向量核的計算能力限制的情況下,將所述參考芯片執行當前算子時向量核的實際利用率和向量核的預測利用率上限的最小值中的最大值,確定為所述目標芯片的預測利用率;所述向量核的預測利用率上限的最小值是基于經驗確定的。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人上海壁仞科技股份有限公司,其通訊地址為:201114 上海市閔行區陳行公路2388號16幢13層1302室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。