西安圣瞳科技有限公司高圣哲獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網獲悉西安圣瞳科技有限公司申請的專利一種面向人工智能大模型高效訓練的并行策略搜索方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN120012879B 。
龍圖騰網通過國家知識產權局官網在2025-08-19發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510488064.9,技術領域涉及:G06N3/098;該發明授權一種面向人工智能大模型高效訓練的并行策略搜索方法是由高圣哲;顏宇甲;趙恒星;袁智設計研發完成,并于2025-04-18向國家知識產權局提交的專利申請。
本一種面向人工智能大模型高效訓練的并行策略搜索方法在說明書摘要公布了:本發明公開了一種面向人工智能大模型高效訓練的并行策略搜索方法,涉及人工智能技術領域,包括,通過訓練NeRF模型,生成三維硬件拓撲場;解析待訓練大模型的計算圖,將算子節點映射至三維硬件拓撲場中,生成標注計算圖;基于標注計算圖構建混合整數規劃模型,輸出候選策略集合;將候選策略集合輸入雙層策略網絡,輸出并行策略集合;在模擬器中加載三維硬件拓撲場,對并行策略集合進行驗證和調整,輸出最優策略;部署最優策略至真實集群,觸發重新篩選策略。本發明基于神經輻射場建模物理級硬件通信場,融合混合整數規劃與深度強化學習,實現并行策略全局?局部協同優化,實現訓練效率、顯存利用率與系統魯棒性的多目標平衡。
本發明授權一種面向人工智能大模型高效訓練的并行策略搜索方法在權利要求書中公布了:1.一種面向人工智能大模型高效訓練的并行策略搜索方法,其特征在于:包括, 輸入集群的物理拓撲參數,通過多視角帶寬與延遲數據訓練NeRF模型,生成包含帶寬密度和通信衰減系數的三維硬件拓撲場; 解析待訓練大模型的計算圖,將算子節點映射至三維硬件拓撲場中,根據算子節點所屬的帶寬密度和通信衰減系數,為每個算子節點標注動態通信代價標簽,生成標注計算圖; 基于標注計算圖構建混合整數規劃模型是通過目標函數融合計算時間、通信時間及約束條件,通過量子退火算法枚舉流水線階段劃分與數據并行分片策略,輸出滿足通信場約束的候選策略集合; 將候選策略集合輸入雙層策略網絡,輸出包含全局調度框架與局部自適應規則的并行策略集合是通過Transformer編碼器對標注計算圖的時空特征進行全局注意力建模生成初步調度策略,元胞自動機網絡基于相鄰節點狀態執行局部規則調整,Transformer編碼器和元胞自動機網絡通過可微分接口聯合優化; 在模擬器中加載三維硬件拓撲場,對并行策略集合進行驗證和調整,輸出最優策略; 部署最優策略至真實集群并采集訓練數據,反饋更新NeRF模型,觸發混合整數規劃模型重新篩選策略; 所述訓練數據分為兩路反饋,第一路輸入NeRF模型,增量更新三維硬件拓撲場參數,第二路輸入雙層策略網絡,通過對比模擬預測值與實測值的偏差,調整Transformer注意力機制對硬件場特征的依賴權重,并進化元胞自動機的局部規則庫。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人西安圣瞳科技有限公司,其通訊地址為:710000 陜西省西安市高新區錦業路69號創業研發園C區1號瞪羚谷A308室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。