【技術實現步驟摘要】
本專利技術屬于人工智能目標檢測,尤其涉及一種基于輕量化類腦目標檢測模型的目標檢測方法及設備。
技術介紹
1、大量的試驗表明,相對于經典的網絡模型,融合了生物學機制的類腦神經網絡模型往往具有更強的性能。然而,考慮到網絡模型的參數多、運算量大,為了提高模型的運算速度,網絡模型的輕量化部署的需求越來越迫切,各種針對神經網絡的壓縮方法涌現出來,例如:量化、蒸餾、剪枝等。其中剪枝技術因為其對網絡結構影響較小,且壓縮效果明顯的優點而備受青睞。當前主流的剪枝方法只是針對傳統的神經網絡模型,并不適用于更先進的仿視覺皮層的類腦目標檢測模型;因此,如何對現有的目標檢測模型進行優化及輕量化部署,使其擁有更高的性能指標成為目標檢測領域需要研究的問題。
技術實現思路
1、鑒于上述的分析,本專利技術旨在提供一種基于輕量化類腦目標檢測模型的目標檢測方法及設備,用于解決現有技術中的目標檢測方法計算量大,且在噪聲干擾下目標檢測性能受限的問題。
2、本專利技術的目的主要是通過以下技術方案實現的:
3、一方面,本專利技術提供了一種基于輕量化類腦目標檢測模型的目標檢測方法及設備,該方法包括:
4、構建并訓練得到類腦目標檢測模型;
5、對所述類腦目標檢測模型的卷積層及其相鄰層構建耦合關系矩陣;
6、基于所述耦合關系矩陣,對所述卷積層及其相鄰層通過參數組進行剪枝以實現層間自解耦;
7、對自解耦后的所述類腦目標檢測模型進行微調訓練,得到輕量化類腦目標檢測模
8、將待檢測的圖像輸入所述輕量化類腦目標檢測模型,識別得到檢測目標。
9、進一步的,所述對所述類腦目標檢測模型的卷積層及其相鄰層構建耦合關系矩陣,包括:
10、將所述卷積層和卷積層的前一層分別拆解為輸入和輸出;
11、對所述卷積層的前一層的輸入和卷積層輸出通過遞歸的連通分量搜索,構建得到耦合關系矩陣;表示為:
12、
13、其中,符號表示網絡連接,表示卷積層的前一層的輸入,表示卷積層的輸出。
14、進一步的,所述類腦目標檢測模型中不包含注意力層;則基于稀疏因子對所述類腦目標檢測模型進行稀疏化訓練;并基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝。
15、進一步的,基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝,包括:
16、根據稀疏化訓練后稀疏因子的值,按預設的比例得到稀疏因子的剪枝閾值;
17、刪除低于剪枝閾值的稀疏因子對應的所述卷積層和卷積層的前一層的輸入和輸出參數組。
18、進一步的,所述類腦目標檢測模型的卷積層包括bn層;
19、所述基于稀疏因子對所述類腦目標檢測模型進行稀疏化訓練,包括:
20、將所述卷積層中bn層的比例因子γ作為通道稀疏因子;
21、利用下述損失函數進行迭代訓練,得到輕量化類腦目標檢測模型:
22、
23、其中,(x,y)表示訓練輸入的特征圖和預測目標,w表示可訓練的權重,表示模型的正常訓練損失,g(·)為比例因子的稀疏性引起的懲罰,λ為平衡因子。
24、進一步的,所述類腦目標檢測模型中包含注意力層,則基于所述耦合關系矩陣,對所述卷積層及其相鄰層按預設的剪枝比例通過參數組進行剪枝;所述類腦目標檢測模型包括:
25、仿初級視覺網絡模塊,用于獲取待檢測圖像的多個不同尺寸的仿初級視覺特征圖及對應的仿初級視覺感興趣特征圖;
26、骨干網絡模塊,用于基于多個不同尺寸的仿初級視覺特征圖,通過通道聚合和特征提取,得到多個對應尺寸的骨干特征圖;
27、目標檢測模塊,用于基于多個所述骨干特征圖和對應尺寸的仿初級視覺感興趣特征圖進行通道聚合,得到多個對應尺寸的目標特征圖;并融合多個所述目標特征圖得到目標檢測結果。
28、進一步的,所述仿初級視覺網絡模塊包括n+1個仿初級視覺特征提取網絡,所述仿初級視覺特征提取網絡包括串行設置的仿初級視覺皮層模塊、repblock模塊和ca注意力層;
29、所述仿初級視覺皮層模塊包括并行設置的voneblock層和conv層,以及用于對所述voneblock層和conv層的輸出進行融合的特征融合層;
30、通過對所述voneblock層和conv層進行不同的參數設置,對接收到的圖像進行不同程度的壓縮和特征提取,以得到不同尺寸的仿初級視覺特征圖。
31、進一步的,所述骨干網絡模塊包括依次連接的n個特征圖壓縮提取模塊,上一層特征壓縮提取模塊中的ca注意力層提取得到的特征圖為下一層特征壓縮提取模塊中conv層的輸入;且每個所述特征圖壓縮提取模塊均包括concat層,所述concat層用于基于仿初級視覺特征圖進行通道聚合。
32、進一步的,所述目標檢測模塊包括目標特征圖提取模塊和detect模塊;
33、所述目標特征圖提取模塊包括依次設置的n-1個fpn模塊和n-1個特征聚合模塊,用于基于多個所述仿初級視覺感興趣特征圖和骨干特征圖生成多個目標特征圖;所述fpn模塊包括依次連接的conv層、upsample層、concat層和repblock層;所述特征聚合模塊包括依次連接的conv層、concat層和repblock層;
34、所述detect模塊用于融合多個不同尺寸的目標特征圖,進行目標分類和坐標定位,得到目標檢測結果。
35、另一方面,還包括一種計算機設備,所述設備包括至少一個處理器,以及至少一個與所述處理器通信連接的存儲器;所述存儲器存儲有可被所述處理器執行的指令,所述指令用于被所述處理器執行以實現前述的基于輕量化類腦目標檢測模型的目標檢測。
36、本技術方案的有益效果:
37、1.本專利技術對類腦目標檢測模型構建層間耦合矩陣,并基于耦合矩陣進行剪枝實現自解藕,即通過自解耦機制實現了類腦目標檢測模型的輕量化;通過本專利技術的方法對對類腦目標檢測模型進行剪枝,經過測試驗證,相較于原版模型,剪枝后的模型參數規模由7.97m降低至4.59m,相對降低百分比為42.21%,而經過微調后的模型檢測性能(map)僅僅下降了1.12%,取得了顯著的效果。
38、2.本專利技術的目標檢測系統采用了多級仿初級視覺皮層模塊,通過調節仿初級視覺皮層模塊的卷積核等參數,得到不同尺寸的仿初級視覺特征圖;且在骨干網絡模塊中增加通道聚合層,將仿初級視覺皮層模塊輸出的特征圖融入骨干網絡中,增加了骨干網絡中仿初級視覺皮層的有益信息,即更擬人類視覺機制處理的特征信息,具有更高的抗噪聲干擾能力。
39、3.本專利技術還將仿初級視覺皮層的有益信息遠距離跨層輸送到目標檢測模塊的末端,避免了網絡模型末端的信息衰減帶來的性能影響,保證了仿初級視覺皮層的有益信息在整個網絡模型的信息有效性,進一步保證仿視覺皮層模塊效果的持續性。提本文檔來自技高網...
【技術保護點】
1.基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,包括:
2.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述對所述類腦目標檢測模型的卷積層及其相鄰層構建耦合關系矩陣,包括:
3.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型中不包含注意力層;則基于稀疏因子對所述類腦目標檢測模型進行稀疏化訓練;并基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝。
4.根據權利要求3所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝,包括:
5.根據權利要求3所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型的卷積層包括BN層;
6.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型中包含注意力層,則基于所述耦合關系矩陣,對所述卷積層及其相鄰層按預設的剪枝比例通過參
7.根據權利要求6所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述仿初級視覺網絡模塊包括n+1個仿初級視覺特征提取網絡,所述仿初級視覺特征提取網絡包括串行設置的仿初級視覺皮層模塊、RepBlock模塊和CA注意力層;
8.根據權利要求7所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述骨干網絡模塊包括依次連接的n個特征圖壓縮提取模塊,上一層特征壓縮提取模塊中的CA注意力層提取得到的特征圖為下一層特征壓縮提取模塊中Conv層的輸入;且每個所述特征圖壓縮提取模塊均包括Concat層,所述Concat層用于基于仿初級視覺特征圖進行通道聚合。
9.根據權利要求8所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述目標檢測模塊包括目標特征圖提取模塊和Detect模塊;
10.一種計算機設備,其特征在于,包括至少一個處理器,以及至少一個與所述處理器通信連接的存儲器;所述存儲器存儲有可被所述處理器執行的指令,所述指令用于被所述處理器執行以實現權利要求1-9任一項所述的基于輕量化類腦目標檢測模型的目標檢測。
...【技術特征摘要】
1.基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,包括:
2.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述對所述類腦目標檢測模型的卷積層及其相鄰層構建耦合關系矩陣,包括:
3.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型中不包含注意力層;則基于稀疏因子對所述類腦目標檢測模型進行稀疏化訓練;并基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝。
4.根據權利要求3所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,基于所述耦合關系矩陣,對稀疏化訓練后小于剪枝閾值的稀疏因子對應的參數組進行剪枝,包括:
5.根據權利要求3所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型的卷積層包括bn層;
6.根據權利要求1所述的基于輕量化類腦目標檢測模型的目標檢測方法,其特征在于,所述類腦目標檢測模型中包含注意力層,則基于所述耦合關系矩陣,對所述卷積層及其相鄰層按預設的剪枝比例通過參數組進行剪枝;所述類腦...
【專利技術屬性】
技術研發人員:趙小川,王子徹,史津竹,樊迪,王秉旭,劉全攀,陳路豪,李權,
申請(專利權)人:中國兵器工業計算機應用技術研究所,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。