蘇州元腦智能科技有限公司王曉飛獲國家專利權
買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！
龍圖騰網獲悉蘇州元腦智能科技有限公司申請的專利模型推理方法、電子設備及存儲介質獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN120450057B 。
龍圖騰網通過國家知識產權局官網在2025-09-02發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510953795.6，技術領域涉及：G06N5/04；該發明授權模型推理方法、電子設備及存儲介質是由王曉飛;魏健設計研發完成，并于2025-07-10向國家知識產權局提交的專利申請。
本模型推理方法、電子設備及存儲介質在說明書摘要公布了：本申請公開了一種模型推理方法、電子設備及存儲介質，涉及計算機技術領域，方法包括：獲取待處理數據；對待處理數據進行預填充處理，將預填充處理生成的鍵值緩存保存至第一緩沖區，并向第二緩沖區傳輸該鍵值緩存；第一緩沖區屬于預填充節點對應的連接器，第二緩沖區屬于解碼節點對應的連接器；從第二緩沖區加載鍵值緩存，并進行解碼處理；在解碼處理的過程中，監控解碼節點內的圖形處理器的內存利用率，根據內存利用率，調整鍵值緩存的存放位置；其中，解碼節點設置有計算快速鏈接內存，上述存放位置包括該計算快速鏈接內存與圖形處理器的內存；輸出解碼處理結果。通過本申請提供的方案，可以有效保障解碼效率，進而保障模型推理過程有效運行。
本發明授權模型推理方法、電子設備及存儲介質在權利要求書中公布了：1.一種模型推理方法，其特征在于，所述方法包括： 獲取待處理數據； 對所述待處理數據進行預填充處理，將預填充處理生成的鍵值緩存保存至第一緩沖區，并向第二緩沖區傳輸所述鍵值緩存；所述第一緩沖區屬于預填充節點對應的連接器，所述第二緩沖區屬于解碼節點對應的連接器； 從所述第二緩沖區加載所述鍵值緩存，并基于加載的鍵值緩存進行解碼處理；在解碼處理的過程中，監控所述解碼節點內的圖形處理器的內存利用率，根據所述內存利用率，調整所述鍵值緩存的存放位置；所述解碼節點設置有計算快速鏈接內存，所述存放位置包括所述計算快速鏈接內存與所述圖形處理器的內存； 輸出解碼處理結果。
如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人蘇州元腦智能科技有限公司，其通訊地址為：215000 江蘇省蘇州市吳中經濟開發區綜保區經一路1號8幢；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
免責聲明
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
開放平臺
擔保交易
惠及多方
會員特惠
專屬平臺
適合多方
數據共享
功能齊全
皖公網安備 34010402703815號