基于多特征融合和深度學習網絡提取的手寫數字識別方法技術

本發明專利技術公開了基于多特征融合和深度學習網絡提取的手寫數字識別方法。該方法包括：讀入手寫數字的圖像數據，對數據進行向量化預處理；對處理后的數據采用主成分分析（PCA）技術和方向梯度直方圖（HOG）技術進行多特征融合，構造淺層復合特征；對多特征融合后的數據采用深度棧式稀疏自編碼（SAE）的模型進行二次特征提取，構造深度學習網絡，對淺層復合特征進行高層、深度學習和加工；采用Softmax分類器測試分類效果。本發明專利技術采用多特征融合的方法，融合PCA技術和HOG技術，構造出淺層復合特征，再采用SAE模型進行二次特征提取，構造深度學習網絡，得到更簡潔高效的特征樣本，最后Softmax分類器測試分類效果，能將手寫數字的識別準確率提高至99.2%。

Handwritten numeral recognition method based on multi feature fusion and depth learning network extraction

The invention discloses a handwritten numeral recognition method based on multiple feature fusion and depth learning network extraction. The method includes: reading handwritten digital image data preprocessing, vector data; using principal component analysis of the processed data (PCA) technology and the direction of the gradient histogram (HOG) technology for multi feature fusion, composite structure characteristics of shallow; the multi feature fusion data using sparse encoding from stack depth (SAE) the model of feature extraction for two times, to construct deep learning network, high-level, deep learning and processing of the composite characteristics of shallow layer; a Softmax classifier is used to test the effect of classification. The invention adopts the method of multi feature fusion, the fusion of PCA technology and HOG technology, constructs the composite characteristics of shallow layer, and then using the SAE model for the two feature extraction, construction of deep learning network, get more concise and efficient feature samples, finally Softmax classifier to test the effect of classification, recognition of handwritten digit accuracy can be increased to 99.2%.

【技術實現步驟摘要】
基于多特征融合和深度學習網絡提取的手寫數字識別方法
本專利技術涉及手寫數字識別
，具體涉及基于多特征融合和深度學習網絡提取的手寫數字識別方法。
技術介紹
手寫數字識別在學科上屬于模式識別和人工智能的范疇，是光學字符識別技術的一個分支，主要研究如何利用電子計算機自動辨認手寫的阿拉伯數字。隨著經濟的飛速發展，逐漸信息化的社會在各個方面都要與數字打交道，一個準確率高的手寫數字的識別方法在此時就顯得尤為重要。雖然手寫數字的類別只有10種，且其識別已經研究了很長時間，并取得很大的進展，但是如今的手寫數字的識別精度還有需進一步提高。
技術實現思路
本專利技術針對現有技術的不足，提供基于多特征融合和深度學習網絡提取的手寫數字識別方法，具體技術方案如下。基于多特征融合和深度學習網絡提取的手寫數字識別方法，其包括如下步驟：步驟1：讀入手寫數字的圖像數據，對數據進行向量化預處理；步驟2：對上一步驟的輸出數據采用主成分分析(PCA)技術和方向梯度直方圖(HOG)技術進行多特征融合，構造淺層復合特征；步驟3：對多特征融合后的數據采用深度棧式稀疏自編碼(SAE)的模型進行二次特征提取，構造深度學習網絡，對淺層復合特征進行高層、深度學習和加工；步驟4：采用Softmax分類器分類并將分類結果進行顯示，該過程即實現了對手寫數字的識別。進一步地，所述主成分分析的實現過程具體如下：(1)為使原數據A的均方誤差最小，向量的均值應為零，即數據應以原點作為中心，因此現將原數據A以平均值為中心移到原點得到數據X：(2)協方差用于衡量兩個變量的總體誤差，而方差是兩個變量相同的特殊情況下的協方差，計算X的協方差無偏估計矩陣Y：由于兩個變量相同，此Y也是方差無偏估計矩陣，n為手寫數字圖像的像素個數；(3)計算協方差矩陣Y的特征值D和單位正交特征向量V，再讓特征值D由大到小進行排序；(4)對應特征值的排序將特征向量排序后，即可得到變換矩陣v，令X乘以變化矩陣v即可得到已排序的投影數據Z，其中，第一個對應的就是第一主成分，第二個對應的就是次主成分，以此類推；(5)λi是協方差矩陣，也是方差矩陣的第i個主元的特征值；計算第i個主元的方差貢獻率：而R個主元的累計方差貢獻率為：求得累計方差貢獻率超過99％的主成分數目R，然后在已排序的投影數據Z中取前R維，并將結果記為矩陣B。進一步地，所述方向梯度直方圖(HOG)技術的實現過程具體如下：(1)將圖像灰度化；(2)采用Gamma校正法對輸入圖像進行顏色空間的歸一化，調節圖像的對比度，降低圖像局部的陰影和光照變化所造成的影響，同時抑制噪音的干擾；(3)將圖像劃分為單元格(cell)，每2x2個像素點組成一個單元格；(4)計算圖像每個像素的梯度，捕獲輪廓信息：Gx(x,y)＝H(x+1,y)-H(x-1,y)⑤Gy(x,y)＝H(x,y+1)-H(x,y-1)⑥Gx(x,y),Gy(x,y),H(x,y)分別代表像素點(x,y)處的水平方向梯度，垂直方向梯度，和像素值；像素點(x,y)處的梯度幅值G(x,y)和梯度方向α(x,y)分別為：梯度方向采用無符號的形式，并將0～180分成9等分；圖像中每個單元格的梯度方向都分成9個方向塊，使用單元格中的梯度方向和大小對9個方向進行加權投影，最后，每個單元格產生9維的特征向量；(5)將每2x2個單元格組成一個塊，一個塊內所有單元格的特征描述符串聯起來后歸一化，便得到該塊的HOG特征；HOG結構采用矩形HOG結構；(6)將圖像所有塊的HOG特征串聯起來就可得到圖像的HOG特征，并將該HOG特征記為v；(7)將特征進行歸一化，對特征提取后的特征向量進行特征變換，v←v/255⑨其中，ε＝10-8，上標T向量的轉置；經過多特征融合后構造淺層復合特征數據。進一步地，步驟3具體是：經過多特征融合后構造的淺層復合特征數據采用深度棧式自編碼模型，構造深度學習網絡，對淺層復合特征進行高層、深度學習和加工：其中自編碼網絡是由原始的BP神經網絡演化而來，與BP神經網絡不同的是，在自編碼網絡中是用從特征空間的輸入來衡量與輸出空間的誤差，代價函數為：其中，||·||2表示二范數，hθ(·)和θ分別表示自編碼神經網絡的輸出與連接參數；利用最優化算法，不斷迭代減小代價函數值，從而最終得到了一個能從原始數據中自主學習特征的一個特征提取的神經網絡；而在隱層神經元個數很多的時候，需要對一些激活度不高的神經元進行抑制，從而達到用更低維的向量表達高維向量的要求，這樣加上稀疏性抑制后的自編碼網絡稱之為稀疏自編碼，而由多層稀疏自編碼器組成的網絡則稱之為棧式自編碼神經網絡。與現有技術相比，本專利技術具有如下優點和技術效果：本專利技術采用多特征融合的方法，融合PCA技術和HOG技術，構造出淺層復合特征，再采用SAE模型進行二次特征提取，構造深度學習網絡，得到更簡潔高效的特征樣本，最后Softmax分類器測試分類效果，能將手寫數字的識別準確率進一步提高。附圖說明圖1是實例的一種基于多特征融合和深度學習網絡提取的手寫數字識別方法流程示意圖。圖2是實例中多特征融合過程示意圖。圖3是實例中的梯度方向量化圖。圖4是實例中HOG描述向量化示意圖。圖5是實例中自編碼神經網絡原理圖。圖6是實例中一些待識別手寫數字的圖像。具體實施方式以下結合附圖和實例對本專利技術的具體實施作進一步說明，但本專利技術的實施和保護不限于此，需指出的是，以下若有未特別詳細說明之過程或變量(符號)，均是本領域技術人員可參照現有技術實現的或理解的。如圖1所示，本實例的一種基于多特征融合和深度學習網絡提取的手寫數字識別方法，首先要將手寫數字的圖像數據(如圖6)讀入，并在步驟010中進行數據預處理，即將圖像數據向量化。在步驟010處預處理后的數據將進入步驟020進行多特征融合，如圖2所示，數據將會在步驟021中采用主成分分析(PCA)技術，在步驟022處采用方向梯度直方圖(HOG)技術處理，步驟021和步驟022處理后的數據在步驟023中融合后進入步驟030。作為舉例，其中PCA技術的實現過程具體如下：(1)為了讓原數據A的均方誤差最小，向量的均值應為零，即數據應以原點作為中心，因此現將原數據A以平均值為中心移到原點得到數據X：(2)協方差用于衡量兩個變量的總體誤差，而方差是兩個變量相同的特殊情況下的協方差。計算X的協方差無偏估計矩陣Y：由于兩個變量相同，此Y也是方差無偏估計矩陣，n為手寫數字圖像的像素個數。(3)計算協方差矩陣Y的特征值D和單位正交特征向量V，再讓特征值D由大到小進行排序。(4)對應特征值的排序將特征向量排序后，即可得到變換矩陣v，令X乘以變換矩陣v即可以得到已排序的投影數據Z，其中，第一個對應的就是第一主成分，第二個對應的就是次主成分，以此類推。(5)λi是協方差矩陣，也是方差矩陣的第i個主元的特征值。計算第i個主元的方差貢獻率：而R個主元的累計方差貢獻率為：求得累計方差貢獻率超過99％的主成分數目R，然后在已排序的投影數據Z中取前R維，并將結果記為矩陣B。作為舉例，HOG技術的實現過程具體如下：(1)將圖像灰度化。(2)采用Gamma校正法對輸入圖像進行顏色空間的歸一化，調節圖像的對比度，降低圖像局部的陰影和光照變化所造成的影響，同時抑制噪音的干擾。(本文檔來自技高網...

【技術保護點】
基于多特征融合和深度學習網絡提取的手寫數字識別方法，其特征在于包括如下步驟：步驟1：讀入手寫數字的圖像數據，對數據進行向量化預處理；步驟2：對上一步驟的輸出數據采用主成分分析(PCA)技術和方向梯度直方圖(HOG)技術進行多特征融合，構造淺層復合特征；步驟3：對多特征融合后的數據采用深度棧式稀疏自編碼(SAE)的模型進行二次特征提取，構造深度學習網絡，對淺層復合特征進行高層、深度學習和加工；步驟4：采用Softmax分類器分類并將分類結果進行顯示，該過程即實現了對手寫數字的識別。

【技術特征摘要】
1.基于多特征融合和深度學習網絡提取的手寫數字識別方法，其特征在于包括如下步驟：步驟1：讀入手寫數字的圖像數據，對數據進行向量化預處理；步驟2：對上一步驟的輸出數據采用主成分分析(PCA)技術和方向梯度直方圖(HOG)技術進行多特征融合，構造淺層復合特征；步驟3：對多特征融合后的數據采用深度棧式稀疏自編碼(SAE)的模型進行二次特征提取，構造深度學習網絡，對淺層復合特征進行高層、深度學習和加工；步驟4：采用Softmax分類器分類并將分類結果進行顯示，該過程即實現了對手寫數字的識別。2.根據權利要求1所述的基于多特征融合和深度學習網絡提取的手寫數字識別方法，其特征在于所述主成分分析的實現過程具體如下：(1)為使原數據A的均方誤差最小，向量的均值應為零，即數據應以原點作為中心，因此現將原數據A以平均值為中心移到原點得到數據X：(2)協方差用于衡量兩個變量的總體誤差，而方差是兩個變量相同的特殊情況下的協方差，計算X的協方差無偏估計矩陣Y：由于兩個變量相同，此Y也是方差無偏估計矩陣，n為手寫數字圖像的像素個數；(3)計算協方差矩陣Y的特征值D和單位正交特征向量V，再讓特征值D由大到小進行排序；(4)對應特征值的排序將特征向量排序后，即可得到變換矩陣v，令X乘以變化矩陣v即可得到已排序的投影數據Z，其中，第一個對應的就是第一主成分，第二個對應的就是次主成分，以此類推；(5)λi是協方差矩陣，也是方差矩陣的第i個主元的特征值；計算第i個主元的方差貢獻率：而R個主元的累計方差貢獻率為：求得累計方差貢獻率超過99％的主成分數目R，然后在已排序的投影數據Z中取前R維，并將結果記為矩陣B。3.根據權利要求1所述的基于多特征融合和深度學習網絡提取的手寫數字識別方法，其特征在于所述方向梯度直方圖(HOG)技術的實現過程具體如下：(1)將圖像灰度化；(2)采用Gamma校正法對輸入圖像進行顏色空間的歸一化，調節圖像的對比度，降低圖像局部的陰影和光照變化所造成的影響，同時抑制噪音的干擾；(3)將圖像劃分為單...

【專利技術屬性】
技術研發人員：李鄉儒，
申請(專利權)人：華南師范大學，
類型：發明
國別省市：廣東,44