騰訊科技(深圳)有限公司陳聰捷獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉騰訊科技(深圳)有限公司申請的專利資源分配方法、裝置、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN112035266B 。
龍圖騰網通過國家知識產權局官網在2025-08-12發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202011108222.7,技術領域涉及:G06F9/50;該發明授權資源分配方法、裝置、設備及存儲介質是由陳聰捷設計研發完成,并于2020-10-16向國家知識產權局提交的專利申請。
本資源分配方法、裝置、設備及存儲介質在說明書摘要公布了:本申請涉及一種資源分配方法、裝置、設備及存儲介質。該方法包括:獲取多個模型服務的三元組中模型實例數量與每個模型實例對應的計算資源利用率的預設關系、計算資源利用率閾值;根據該預設關系以及計算資源利用率閾值,確定每個模型服務的目標模型實例數量;將每個模型服務的目標模型實例數量對應的計算資源利用率的值作為每個模型服務的每個目標模型實例對應的目標計算資源利用率;獲取每個模型服務的每個目標模型實例對應的目標顯存資源利用率;基于每個目標模型實例對應的目標計算資源利用率和每個目標模型實例對應的目標顯存資源利用率,將每個模型服務的目標模型實例分配至對應的GPU。可以有效提高GPU的資源利用率。
本發明授權資源分配方法、裝置、設備及存儲介質在權利要求書中公布了:1.一種資源分配方法,其特征在于,包括: 獲取多個模型服務的三元組中模型實例數量與每個模型實例對應的計算資源利用率的預設關系、計算資源利用率閾值; 使每個模型服務的預設關系中的模型實例數量從小到大遍歷正整數,得到每個模型服務對應的初始模型實例數量;其中,所述初始模型實例數量對應的計算資源利用率的值小于或等于所述計算資源利用率閾值;每個模型服務的預設關系為每個模型服務的三元組中模型實例數量與每個模型實例對應的計算資源利用率的預設關系,所述預設關系為反比關系; 將每個模型服務對應的初始模型實例數量中的一個初始模型實例數量,作為每個模型服務的目標模型實例數量; 將每個模型服務的目標模型實例數量對應的計算資源利用率的值作為每個模型服務的每個目標模型實例對應的目標計算資源利用率; 獲取每個模型服務的每個目標模型實例對應的目標顯存資源利用率; 基于每個目標模型實例對應的目標計算資源利用率和每個目標模型實例對應的目標顯存資源利用率,將每個模型服務的目標模型實例分配至對應的GPU。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人騰訊科技(深圳)有限公司,其通訊地址為:518057 廣東省深圳市南山區高新區科技中一路騰訊大廈35層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。