【技術實現步驟摘要】
本專利技術屬于圖像處理,具體涉及一種基于遷移學習的半監督高分辨率遙感圖像變化檢測方法。
技術介紹
1、遙感圖像變化檢測在土地利用監測、城市規劃、自然災害監測等中應用廣泛。隨著深度學習技術在圖像處理分析領域的深入,現有的遙感圖像變化檢測主要集中在全監督深度神經網絡模型上,需要大量標注樣本來支撐網絡模型的訓練過程。而不同領域的遙感圖變化檢測需求中所檢測的變化地物存在一定差異,導致不同領域需要大量不同的標注樣本。
2、隨著遙感探測技術的飛速發展,遙感變化檢測的應用中能夠更容易獲取大量未標記的遙感圖像。由于現有的深度學習算法多依靠大量的標記數據進行訓練,這需要花費大量的時間和算力成本。在某些任務中,標記數據可能非常稀缺,導致難以從頭開始訓練模型。然而,在其他相近任務中,已有大量標記數據,經過訓練可以獲得較優的模型。遷移學習在源域學習到的知識可以遷移到目標域中。利用深度學習的遷移學習,模型的權重參數無需從頭開始訓練,不僅可以顯著減少訓練時間,也可以降低標記數據的需求。
3、現有的遷移學習主要使用全監督-遷移學習過程,然而,由于源領域和目標領域之間的差異大、領域間偏移或存在多種因素干擾等,導致效果遷移效果不佳。
技術實現思路
1、針對遷移學習在遙感圖像變化檢測任務中源領域與目標領域之間存在領域偏差,本專利技術提出了一種基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,相較于全監督-遷移學習過程,本專利技術在源領域采用了全監督-無監督的半監督模型,在源領域引入了無標簽的訓
2、本專利技術通過下述技術方案來實現。一種基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,包括全監督學習過程、無監督學習過程和遷移學習過程;
3、源領域數據包括標簽數據和無標簽數據;
4、全監督學習過程利用源領域的標簽數據,采用編碼器獲取帶標簽的變化前圖像和變化后圖像的隱藏特征,并計算特征差異圖,通過深度特征提取模塊對特征差異圖進行特征提取,得到深度特征提取模塊的輸出特征圖,采用解碼器解碼所得輸出特征圖,獲得包含變化信息的預測變化圖;
5、將全監督過程中訓練得到的模型參數作為無監督學習過程中的初始模型參數;
6、無監督學習過程利用源領域的無標簽數據,采用編碼器獲取無標簽的變化前圖像和變化后圖像的隱藏特征,并計算特征差異圖,經過對特征差異圖進行特征提取,得到深度特征提取模塊的輸出特征圖,深度特征提取模塊的輸出特征圖經過隨機擾動差異化獲得多個擾動特征圖,深度特征提取模塊的輸出特征圖和多個擾動特征圖分別采用解碼器獲得包含變化信息的多個預測變化圖;得到無監督學習后的模型參數;
7、基于無監督學習后的模型參數進行遷移學習,遷移學習過程利用目標領域的少量標簽數據和部分無標簽數據,再次進行全監督學習和無監督學習,獲得新的模型參數;利用新的模型參數對目標領域數據進行變化檢測。
8、進一步優選,所述深度特征提取模塊包括n個殘差組,殘差組1的輸入為特征差異圖,殘差組j-1的輸出作為殘差組j的輸入,j=2,…,n-1,n;將殘差組1到殘差組n的輸出輸入到全局特征融合模塊,全局特征融合模塊輸出的結果與特征差異圖相加得到深層特征提取模塊的輸出特征圖。
9、進一步優選,所述殘差組由l個殘差注意力模塊和1個3×3卷積組成;首先,通過relu激活函數將殘差注意力模塊中的兩個3×3卷積進行連接,其次,在殘差組中嵌入了坐標注意力模塊;將輸入特征為,表示第k個殘差組中第l-1個殘差注意力模塊的輸出特征圖,第k個殘差組中第l個殘差注意力模塊的輸出特征圖為:
10、;
11、其中,表示第k個殘差組中第l個殘差注意力模塊,表示第k個殘差組中第l-1個殘差注意力模塊,表示第k個殘差組中第1個殘差注意力模塊。
12、進一步優選,所述全局特征融合模塊,輸入特征首先通過一個1×1卷積操作處理,然后被送入通道混洗模塊;通道混洗模塊將特征圖細分為4個子特征圖,并對每個子特征圖進行重新劃分,以表示生成的子特征圖,i,表示每個子特征圖相對應的卷積處理,代表的輸出;將子特征圖與前一個卷積層的輸出相加,然后將結果送入下一個卷積層進行處理。
13、進一步優選,無監督學習過程中,特征差異圖經過深層特征提取模塊后分成兩條分支,第一條分支直接輸出深層特征提取模塊的輸出特征圖,經過解碼器得到包含變化信息的預測變化圖;第二條分支將深層特征提取模塊的輸出特征圖經隨機擾動處理得到np個擾動特征圖,...,,擾動特征圖分別經解碼器得到np個包含變化信息的預測變化圖,?...,?,其中代表深層特征提取模塊的輸出特征圖經隨機擾動處理得到第1個擾動特征圖,代表深層特征提取模塊的輸出特征圖經隨機擾動處理得到第np個擾動特征圖,代表解碼得到的預測變化圖,代表解碼得到的預測變化圖;
14、進一步優選,無監督過程中,隨機擾動處理包括特征值區間輪換處理:
15、;
16、;
17、其中,表示輪換前特征圖的第u行第v列的特征值,表示輪換處理時特征圖的第u行第v列的中間特征值,表示輪換后特征圖的第u行第v列的特征值,表示一個特征值區間,表示輪換的區間跨度數量,表示特征值取值范圍;表示特征值取值范圍。
18、進一步優選,無監督過程中,隨機擾動處理包括特征值區間置換處理,將特征值范圍平均分成8個區間,表示為:,表示第1個特征值區間,表示第2個特征值區間,表示第3個特征值區間,表示第4個特征值區間,表示第5個特征值區間,表示第6個特征值區間,表示第7個特征值區間,表示第8個特征值區間;特征值區間,則有,,...,;?表示特征值最大值;表示特征值最小值;做2次特征值區間置換處理,第1次置換后的順序為;第2次置換后的順序為。
19、以第一條分支輸出的預測變化圖為基準,將第二條分支輸出的每張預測變化圖與基準進行比較并計算損失。
20、進一步優選,使用交叉熵損失作為全監督損失。
21、進一步優選,在無監督階段,定義無標簽數據集為,其中是第i對無標簽變化圖像對,為第i幅無標簽的變化前圖像,為第i幅無標簽的變化后圖像,為無標簽數據集的大小,采用一個基于無標簽數據的無監督損失,使用無標簽的變化圖像對得到的特征差異圖,而作為隨機擾動后的特征圖集合,為無標簽的變化圖像對對應的隨機擾動后的第i個擾動特征圖,為無標簽的變化圖像對對應的隨機擾動后的第p個擾動特征圖,為無標簽的變化圖像對對應的隨機擾動后的第np個擾動特征圖;
22、通過解碼器得到預測變化圖,通過np個輔助解碼器對每個擾動特征圖進行處理,得到相應的預測變化圖:
23、;
24、;
25、無監督損失為:
26、;
27、其中是一個距離度量。
28、進本文檔來自技高網...
【技術保護點】
1.一種基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,包括全監督學習過程、無監督學習過程和遷移學習過程;其特征在于:
2.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述深度特征提取模塊包括n個殘差組,殘差組1的輸入為特征差異圖,殘差組j-1的輸出作為殘差組j的輸入,j=2,…,n-1,n;將殘差組1到殘差組n的輸出輸入到全局特征融合模塊,全局特征融合模塊輸出的結果與特征差異圖相加得到深層特征提取模塊的輸出特征圖。
3.根據權利要求2所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述殘差組由L個殘差注意力模塊和1個3×3卷積組成;首先,通過ReLU激活函數將殘差注意力模塊中的兩個3×3卷積進行連接,其次,在殘差組中嵌入了坐標注意力模塊;將輸入特征為,表示第K個殘差組中第L-1個殘差注意力模塊的輸出特征圖,第K個殘差組中第L個殘差注意力模塊的輸出特征圖為:
4.根據權利要求2所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述全局特征融合模塊,輸入特征首先通過一個
5.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:無監督學習過程中,特征差異圖經過深層特征提取模塊后分成兩條分支,第一條分支直接輸出深層特征提取模塊的輸出特征圖,經過解碼器得到包含變化信息的預測變化圖;第二條分支將深層特征提取模塊的輸出特征圖經隨機擾動處理得到NP個擾動特征圖,...,,擾動特征圖分別經解碼器得到NP個包含變化信息的預測變化圖,?...,?,其中代表深層特征提取模塊的輸出特征圖經隨機擾動處理得到第1個擾動特征圖,代表深層特征提取模塊的輸出特征圖經隨機擾動處理得到第NP個擾動特征圖,代表解碼得到的預測變化圖,代表解碼得到的預測變化圖;
6.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:無監督過程中,隨機擾動處理包括特征值區間輪換處理:
7.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:無監督過程中,隨機擾動處理包括特征值區間置換處理,將特征值范圍平均分成8個區間,表示為:,表示第1個特征值區間,表示第2個特征值區間,表示第3個特征值區間,表示第4個特征值區間,表示第5個特征值區間,表示第6個特征值區間,表示第7個特征值區間,表示第8個特征值區間;特征值區間,則有,,...,;?表示特征值最大值;表示特征值最小值;做2次特征值區間置換處理,第1次置換后的順序為;第2次置換后的順序為。
8.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:使用交叉熵損失作為全監督損失。
9.根據權利要求8所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:在無監督階段,定義無標簽數據集為,其中是第i對無標簽變化圖像對,為第i幅無標簽的變化前圖像,為第i幅無標簽的變化后圖像,為無標簽數據集的大小,采用一個基于無標簽數據的無監督損失,使用無標簽的變化圖像對得到的特征差異圖,而作為隨機擾動后的特征圖集合,為無標簽的變化圖像對對應的隨機擾動后的第i個擾動特征圖,為無標簽的變化圖像對對應的隨機擾動后的第p個擾動特征圖,為無標簽的變化圖像對對應的隨機擾動后的第NP個擾動特征圖;
10.根據權利要求8所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:總體損失函數定義如下:
...【技術特征摘要】
1.一種基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,包括全監督學習過程、無監督學習過程和遷移學習過程;其特征在于:
2.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述深度特征提取模塊包括n個殘差組,殘差組1的輸入為特征差異圖,殘差組j-1的輸出作為殘差組j的輸入,j=2,…,n-1,n;將殘差組1到殘差組n的輸出輸入到全局特征融合模塊,全局特征融合模塊輸出的結果與特征差異圖相加得到深層特征提取模塊的輸出特征圖。
3.根據權利要求2所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述殘差組由l個殘差注意力模塊和1個3×3卷積組成;首先,通過relu激活函數將殘差注意力模塊中的兩個3×3卷積進行連接,其次,在殘差組中嵌入了坐標注意力模塊;將輸入特征為,表示第k個殘差組中第l-1個殘差注意力模塊的輸出特征圖,第k個殘差組中第l個殘差注意力模塊的輸出特征圖為:
4.根據權利要求2所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:所述全局特征融合模塊,輸入特征首先通過一個1×1卷積操作處理,然后被送入通道混洗模塊;通道混洗模塊將特征圖細分為4個子特征圖,并對每個子特征圖進行重新劃分,以表示生成的子特征圖,i,表示每個子特征圖相對應的卷積處理,代表的輸出;將子特征圖與前一個卷積層的輸出相加,然后將結果送入下一個卷積層進行處理。
5.根據權利要求1所述的基于遷移學習的半監督高分辨率遙感圖像變化檢測方法,其特征在于:無監督學習過程中,特征差異圖經過深層特征提取模塊后分成兩條分支,第一條分支直接輸出深層特征提取模塊的輸出特征圖,經過解碼器得到包含變化信息的預測變化圖;第二條分支將深層特征提取模塊的輸出特征圖經隨機擾動處理得到np個擾動特征圖,...,,擾動特征圖分別經解碼器得到np個包含變化信息的預測變...
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。