之江實驗室薛鐳獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉之江實驗室申請的專利一種面向大模型訓練的在線自動調優編譯系統及方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120087455B 。
龍圖騰網通過國家知識產權局官網在2025-08-15發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510571510.2,技術領域涉及:G06N3/10;該發明授權一種面向大模型訓練的在線自動調優編譯系統及方法是由薛鐳;黃崇棟;蘇志毅;薛輝設計研發完成,并于2025-05-06向國家知識產權局提交的專利申請。
本一種面向大模型訓練的在線自動調優編譯系統及方法在說明書摘要公布了:本發明公開了一種面向大模型訓練的在線自動調優編譯系統及方法,屬于計算框架編程與編譯器領域。系統包括自動調優客戶端、自動調優服務器端、配置管理器、Triton算子注冊器、通信管理器、自動調優調度器和數據采集器。本發明通過在線搜索大模型訓練過程中融合算子的最優超參配置,提升融合算子的計算性能,進而提升大模型訓練過程中利用GPU硬件資源的效率;本發明的在線自動調優編譯系統提供了搜索更大的超參空間,針對大模型訓練過程中端到端性能,快速查找融合算子的最優超參配置。
本發明授權一種面向大模型訓練的在線自動調優編譯系統及方法在權利要求書中公布了:1.一種面向大模型訓練的在線自動調優編譯系統,其特征在于,包括自動調優客戶端、自動調優服務器端、配置管理器、Triton算子注冊器、通信管理器、自動調優調度器和數據采集器; 所述數據采集器,用于采集大模型訓練過程中的性能指標數據作為優化目標; 所述自動調優客戶端,用于在大模型訓練啟動以后,負責將數據采集器采集的性能指標數據并調用通信管理器發送給自動調優服務器端; 所述自動調優服務器端,用于在收到自動調優客戶端自動調優的請求后,根據不同的調優策略初始化超參空間,并根據自動調優客戶端反饋的性能指標數據,調整下一輪迭代訓練所需的超參配置作為更新后的超參配置并調用通信管理器發送給自動調優客戶端; 所述配置管理器,用于向用戶提供啟動在線自動調優的開關,并將自動調優客戶端接收的更新后的超參配置配置到大模型框架中的Triton融合算子中; 所述Triton算子注冊器,用于將Triton融合算子注冊到大模型訓練框架,并接收更新的超參配置; 所述通信管理器,用于負責采用通訊協議實現自動調優客戶端與自動調優服務器端之間的數據傳輸; 所述自動調優調度器,用于將超參配置傳遞給集群中參與大模型訓練的多個GPU服務器。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人之江實驗室,其通訊地址為:311121 浙江省杭州市余杭區中泰街道科創大道之江實驗室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。