一種卷積神經網絡的數據調度方法、系統及計算機設備技術方案

本發明專利技術實施例公開了一種卷積神經網絡的數據調度方法、系統及計算機設備，該方法包括：將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像數據和第二目標圖像數據；將所述第一目標圖像數據載入第一數據緩沖模塊，計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算的過程中，將所述第二目標圖像數據載入第二數據緩沖模塊；所述計算單元得到計算結果后將所述計算結果上傳到外部存儲。本發明專利技術實施例可以減少處理圖像數據時所需的存儲空間以及圖像數據的載入和上傳時間。

Data scheduling method, system and computer equipment of convolution neural network

The embodiment of the invention discloses a data scheduling method, a convolutional neural network system and computer equipment, the method includes: the image data into N image data, wherein N is an integer greater than 1, including the first target image data and image data of the second target N target image data; the first image data loading the first data buffer module, calculation unit reads the first stored data buffer module of the first image data after convolution calculation; the storage unit reads the first data buffer module of the first image data after convolution calculation in the calculation, the the second image data loading second data buffer module; the calculation unit and the results after the calculation results uploaded to the external storage. The embodiment of the invention can reduce the storage space needed for processing the image data, and the loading and uploading time of the image data.

【技術實現步驟摘要】
一種卷積神經網絡的數據調度方法、系統及計算機設備
本專利技術涉及卷積神經網絡
，尤其涉及一種卷積神經網絡的數據調度方法、系統及計算機設備。
技術介紹
卷積神經網絡(ConvolutionalNeuralNetwork,CNN)是一種常見的深度學習架構，受生物自然視覺認知機制啟發而來。20世紀90年代，LeCunetal等人發表論文，確立了CNN的現代架構。CNN能夠得出原始圖像的有效表征，這使得CNN能夠直接從原始像素中，經過極少的預處理，識別視覺上面的規律。然而，由于當時缺乏大規模訓練數據，計算機的計算能力也跟不上，CNN對于復雜問題的處理結果并不理想。進入二十一世紀，隨著計算機能力的大幅度提升，以及大數據的廣泛應用，CNN的應用能力取得了重大突破，同時，CNN的平臺也從中央處理器(CentralProcessingUnit,CPU)擴展到了圖形處理器(GraphicProcessingUnit,GPU)、現場可編程門級陣列(Field-ProgrammableGateArray,FPGA)以及專用集成電路(ApplicationSpecificIntegratedCircuit，ASIC)。常見的CNN的組成部分有：卷積層、池化層、全連接層。卷積神經網絡的硬件實現設計中，常見的是采用通用的計算單元來計算卷積，需要針對每個計算單元設計一塊存儲空間，用來存儲數據和權重參數。存儲空間大小由數據大小來決定。隨著CNN模型復雜程度的提高，存儲空間的限制問題越來越突出，限制了計算單元的增加，從而限制了計算能力的提高。另外，這種設計對數據的帶寬要求也比較高，每次都必須把數據全部載入才能開始計算，而且還需要保存中間數據。
技術實現思路
本專利技術實施例提供了一種卷積神經網絡的數據調度方法、系統及計算機設備，用于減少處理圖像數據時所需的存儲空間以及圖像數據的載入和上傳時間。一方面本專利技術實施例還提供了一種卷積神經網絡的數據調度方法，包括：將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像數據和第二目標圖像數據，所述第一目標圖像數據和所述第二目標圖像數據為相鄰的所述目標圖像數據；將所述第一目標圖像數據載入第一數據緩沖模塊，計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算的過程中，將所述第二目標圖像數據載入第二數據緩沖模塊；所述計算單元得到計算結果后將所述計算結果上傳到外部存儲。在一個可選的實現方式中，所述將圖像數據分成N個目標圖像數據包括：將所述圖像數據分成所述N個所需存儲空間相等的所述目標圖像數據；所述將所述第一目標圖像數據載入第一數據緩沖模塊包括：為所述第一數據緩沖模塊和第二數據緩沖模塊分配與所述目標圖像數據所需存儲空間相等的存儲空間，將所述第一目標圖像數據載入所述第一數據緩沖模塊。在一個可選的實現方式中，所述計算單元得到計算結果后將所述計算結果上傳到外部存儲包括：所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算，得到所述計算結果后將所述計算結果上傳到所述外部存儲；或者，所述計算單元將計算出的計算結果存儲到緩存中，若所述緩存中存儲的所述計算結果的數據量達到預設條件，則上傳到所述外部存儲。在一個可選的實現方式中，所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數后進行卷積計算包括：所述計算單元從緩存中讀取所述圖像數據的權重參數以及讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后，進行卷積計算，得到計算結果，將所述計算結果存儲到所述緩存。在一個可選的實現方式中，在所述將所述圖像數據分成N個所述目標圖像數據之前，所述方法還包括：根據緩存當前可用的存儲空間以及計算單元的數量，確定第一數據緩沖模塊和第二數據緩沖模塊可分配的最大存儲空間，所述第一數據緩沖模塊和所述第二數據緩沖模塊可分配的最大存儲空間相同；所述將圖像數據分成N個目標圖像數據包括：確定若將所述圖像數據分成所述N個數據量相等的所述目標圖像數據后，所述第一目標圖像數據所需的存儲空間是否小于或等于所述第一數據緩沖模塊可分配的最大存儲空間；若是，將所述圖像數據分成所述N個所述目標圖像數據。二方面本專利技術實施例還提供了一種卷積神經網絡的數據調度系統，包括：劃分模塊，用于將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像和第二目標圖像，所述第一目標圖像數據和所述第二目標圖像數據為相鄰的所述目標圖像數據；載入模塊，用于將所述第一目標圖像數據載入第一數據緩沖模塊；在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算的過程中，將所述第二目標圖像數據載入第二數據緩沖模塊；計算單元，用于讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；第一數據緩沖模塊，用于存儲所述第一目標圖像數據；第二數據緩沖模塊，用于存儲所述第二目標圖像數據；上傳模塊，用于將所述計算單元得到的計算結果上傳到外部存儲。在一個可選的實現方式中，所述劃分模塊，具體用于將所述圖像數據分成所述N個數據量相等的所述目標圖像數據；所述載入模塊，具體用于為所述第一數據緩沖模塊和第二數據緩沖模塊分配與所述目標圖像數據所需存儲空間相等的存儲空間，將所述第一目標圖像數據載入所述第一數據緩沖模塊。在一個可選的實現方式中，所述上傳模塊，具體用于在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算，得到所述計算結果后，將所述計算結果上傳到所述外部存儲；或者，具體用于在所述計算單元存儲到緩存中的計算結果的數據量達到預設條件后，將所述計算結果上傳到所述外部存儲。在一個可選的實現方式中，所述計算單元，具體用于從緩存中讀取所述圖像數據的權重參數以及讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后，進行卷積計算，得到計算結果，將所述計算結果存儲到所述緩存。在一個可選的實現方式中，所述系統還包括：確定模塊，用于根據緩存當前可用的存儲空間以及計算單元的數量，確定第一數據緩沖模塊和第二數據緩沖模塊可分配的最大存儲空間，所述第一數據緩沖模塊和所述第二數據緩沖模塊可分配的最大存儲空間相同；確定若將所述圖像數據分成所述N個數據量相等的所述目標圖像數據后，所述第一目標圖像數據所需的存儲空間是否小于或等于所述第一數據緩沖模塊可分配的最大存儲空間；所述劃分模塊，還用于在所述確定模塊確定所述第一目標圖像數據所需的存儲空間小于或等于所述第一數據緩沖模塊可分配的最大存儲空間后，將所述圖像數據分成所述N個所述目標圖像數據。三方面本專利技術實施例還提供了一種計算機設備，包括：存儲器，存儲可執行指令以及圖像數據；一個或多個處理器，與存儲器通信以執行可執行指令從而完成以下操作：將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像數據和第二目標圖像數據，所述第一目標圖像數據和所述第二目標圖像數據為相鄰的目標圖像數據；將所述第一目標圖像數據載入第一數據緩沖模塊，計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；在所述計算單元讀本文檔來自技高網...

【技術保護點】
一種卷積神經網絡的數據調度方法，其特征在于，包括：將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像數據和第二目標圖像數據，所述第一目標圖像數據和所述第二目標圖像數據為相鄰的所述目標圖像數據；將所述第一目標圖像數據載入第一數據緩沖模塊，計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算的過程中，將所述第二目標圖像數據載入第二數據緩沖模塊；所述計算單元得到計算結果后將所述計算結果上傳到外部存儲。

【技術特征摘要】
1.一種卷積神經網絡的數據調度方法，其特征在于，包括：將圖像數據分成N個目標圖像數據，所述N為大于1的整數，所述N個目標圖像數據中包含第一目標圖像數據和第二目標圖像數據，所述第一目標圖像數據和所述第二目標圖像數據為相鄰的所述目標圖像數據；將所述第一目標圖像數據載入第一數據緩沖模塊，計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算；在所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算的過程中，將所述第二目標圖像數據載入第二數據緩沖模塊；所述計算單元得到計算結果后將所述計算結果上傳到外部存儲。2.根據權利要求1所述方法，所述將圖像數據分成N個目標圖像數據包括：將所述圖像數據分成所述N個所需存儲空間相等的所述目標圖像數據；所述將所述第一目標圖像數據載入第一數據緩沖模塊包括：為所述第一數據緩沖模塊和第二數據緩沖模塊分配與所述目標圖像數據所需存儲空間相等的存儲空間，將所述第一目標圖像數據載入所述第一數據緩沖模塊。3.根據權利要求1或2所述方法，所述計算單元得到計算結果后將所述計算結果上傳到外部存儲包括：所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后進行卷積計算，得到所述計算結果后將所述計算結果上傳到所述外部存儲；或者，所述計算單元將計算出的計算結果存儲到緩存中，若所述緩存中存儲的所述計算結果的數據量達到預設條件，則上傳到所述外部存儲。4.根據權利要求1所述方法，所述計算單元讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數后進行卷積計算包括：所述計算單元從緩存中讀取所述圖像數據的權重參數以及讀取所述第一數據緩沖模塊存儲的所述第一目標圖像數據后，進行卷積計算，得到計算結果，將所述計算結果存儲到所述緩存。5.根據權利要求1所述方法，在所述將所述圖像數據分成N個所述目標圖像數據之前，所述方法還包括：根據緩存當前可用的存儲空間以及計算單元的數量，確定第一數據緩沖模塊和第二數據緩沖模塊可分配的最大存儲空間，所述第一數據緩沖模塊和所述第二數據緩沖模塊可分配的最大存儲空間相同；所述將圖像數據分成N個目標圖像數據包括：確定若將所述圖像數據分成所述N個數據量相等的所述目標圖像數據后，所述第一目標圖像數據所需的存儲空間是否小于或等于所述第一數據緩沖模塊可分配的最大存儲空間；若是，將所述圖像數據分成所述N個所述目標圖像數據。6.一種卷積神經網絡...

【專利技術屬性】
技術研發人員：蔣文，
申請(專利權)人：深圳云天勵飛技術有限公司，
類型：發明
國別省市：廣東,44