自適應閾值神經元信息處理方法和系統技術方案

本發明專利技術涉及一種自適應閾值神經元信息處理方法和系統，所述方法包括：接收前端脈沖神經元輸出信息；讀取當前脈沖神經元信息；根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息；讀取當前自適應閾值變量和閾值電位，計算當前自適應閾值；當所述當前脈沖神經元輸出信息大于或等于所述自適應閾值時，輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，否則則不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量。本發明專利技術可以有效均衡整個網絡中每個神經元的發放頻率，提高脈沖神經網絡的信息處理能力。

Adaptive threshold neuron information processing method and system

The invention relates to an adaptive threshold neuron information processing method and system, wherein the method comprises: receiving front-end outputs information read the information of the current pulse pulse; neurons; according to the front end pulse neuron output information and the current pulse neuron information, neural computing output information of the current pulse; read the current adaptive threshold variables and threshold potential. The calculation of the current adaptive threshold; when the current pulse output neurons is greater than or equal to the threshold, the output of the neuron output information of the current pulse, and according to the first adaptive threshold update model updating the current adaptive threshold variable, otherwise no output of the neuron output information of the current pulse, and second adaptive threshold update model update the current variables based on adaptive threshold. The invention can effectively balance the release frequency of each neuron in the whole network, and improve the information processing ability of the pulse neural network.

【技術實現步驟摘要】
自適應閾值神經元信息處理方法和系統
本專利技術涉及人工神經網絡
，特別是涉及自適應閾值神經元信息處理方法和系統。
技術介紹
如今的人工神經網絡研究絕大多數仍是在馮·諾依曼計算機軟件并搭配高性能GPGPU(GeneralPurposeGraphicProcessingUnits通用圖形處理單元)平臺中實現的，整個過程的硬件開銷、能耗和信息處理速度都不容樂觀。為此，近幾年神經形態計算領域迅猛發展，即采用硬件電路直接構建神經網絡從而模擬大腦的功能，試圖實現大規模并行、低能耗、可支撐復雜模式學習的計算平臺。然而，傳統的神經形態系統中，如何有效均衡整個神經網絡中的每個脈沖神經元的發放頻率，使得每個脈沖神經元在處理信息時都能夠發揮作用，是傳統神經網絡中亟待解決的問題。
技術實現思路
基于此，有必要針對如何有效均衡整個神經網絡中的每個脈沖神經元的發放頻率的問題，提供一種自適應閾值神經元信息處理方法和系統，所述方法包括：接收前端脈沖神經元輸出信息；讀取當前脈沖神經元信息；根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息；讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾值電位，計算當前自適應閾值；判斷所述當前脈沖神經元輸出信息是否大于或等于所述自適應閾值，若是，則輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，若否，則不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量。在其中一個實施例中，所述前端脈沖神經元輸出信息包括：前端脈沖神經元輸出的脈沖尖端信息、前端脈沖神經元與當前脈沖神經元的連接權重索引；所述當前脈沖神經元信息包括：當前時間窗寬度、當前時間窗內脈沖尖端信息序列、歷史膜電位信息和膜電位泄漏信息；則根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息，包括：根據所述前端脈沖神經元與當前脈沖神經元的連接權重索引，讀取前端脈沖神經元與當前脈沖神經元的連接權重；根據所述前端脈沖神經元輸出的脈沖尖端信息，和所述當前時間窗內脈沖尖端信息序列，更新所述當前時間窗內脈沖尖端信息序列，獲取當前時間窗內脈沖尖端信息更新序列；根據所述當前時間窗寬度、所述當前時間窗內脈沖尖端信息更新序列，通過衰減函數計算前端脈沖神經元輸入信息；根據所述前端脈沖神經元輸入信息、所述前端脈沖神經元與當前脈沖神經元的連接權重、所述歷史膜電位信息、所述膜電位泄露信息，通過脈沖神經元計算模型，計算當前脈沖神經元輸出信息。在其中一個實施例中，所述當所述當前脈沖神經元輸出信息大于或等于所述自適應閾值時，輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，還包括：確定發放觸發標志信息為發放觸發，所述發放觸發標志信息包括發放觸發或發放不觸發；復位不應期計時器，并更新所述歷史膜電位信息為預設的復位膜電位信息。在其中一個實施例中，所述則不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量，還包括：確定所述發放觸發標志信息為發放不觸發；讀取不應期寬度和不應期計時器的當前時間步；根據所述不應期寬度和所述不應期計時器的當前時間步，判斷當前時間是否在不應期內，若當前時間在所述不應期內，將所述不應期計時器累加計時一個時間步，不更新所述歷史膜電位信息；若當前時間不在所述不應期內，將所述不應期計時器累加計時一個時間步，并更新所述歷史膜電位信息為所述當前脈沖神經元輸出信息。在其中一個實施例中，所述讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾值電位，計算當前自適應閾值，包括：讀取隨機閾值掩模電位、閾值偏置、當前自適應閾值變量和隨機閾值；將所述隨機閾值和所述隨機閾值掩模電位進行按位與操作，獲取閾值隨機疊加量；根據所述閾值隨機疊加量和所述閾值偏置，確定所述閾值電位；根據所述閾值電位和所述當前自適應閾值變量，確定所述當前自適應閾值。在其中一個實施例中，所述根據第一自適應閾值更新模型更新所述當前自適應閾值變量，包括：讀取發放閾值增量和所述當前自適應閾值變量；根據預設的衰減常數和所述當前自適應閾值變量，計算第一閾值；將所述發放閾值增量疊加至所述第一閾值，獲取第二閾值；根據所述第二閾值更新所述當前自適應閾值變量。在其中一個實施例中，所述根據第二自適應閾值更新模型更新所述當前自適應閾值變量，包括：讀取所述當前自適應閾值變量；根據所述預設的衰減常數和所述當前自適應閾值變量，計算第三閾值，根據所述第三閾值更新所述當前自適應閾值變量。在其中一個實施例中，所述輸出所述當前脈沖神經元輸出信息，包括：讀取發放使能標識，所述發放使能標識包括允許發放數據或不允許發放數據，當所述發放使能標識為允許發放數據時，讀取所述發放觸發標志信息，當所述發放觸發標志信息為發放觸發時；輸出所述當前脈沖神經元輸出信息。本專利技術所提供的自適應閾值神經元信息處理方法，在當前脈沖神經元輸出信息的計算中，通過讀取當前自適應閾值變量和閾值電位，計算當前自適應閾值；在根據當前自適應閾值，確定是否輸出當前脈沖神經元輸出信息，并確定更新當前自適應變量的模型。本專利技術所提供的自適應閾值的神經元信息處理方法，可以使得當前發放了輸出信息的神經元閾值升高，下次發放難度增加；而當前未發放輸出信息的神經元閾值降低，下次發放難度降低，有效均衡整個網絡中每個神經元的發放頻率，使得每個神經元都可以在處理信息時發揮作用，大大提高脈沖神經網絡的信息處理能力。在其中一個實施例中，根據所述前端脈沖神經元輸出的脈沖尖端信息，和所述當前時間窗內脈沖尖端信息序列，更新所述當前時間窗內脈沖尖端信息序列，獲取當前時間窗內脈沖尖端信息更新序列，根據所述當前時間窗寬度、所述前端脈沖神經元與當前脈沖神經元的連接權重，通過衰減函數計算前端脈沖神經元輸入信息，可以支持具有時間深度的時空脈沖神經網絡模型，相比于時間深度僅僅為一的神經網絡技術方案，可以大大提高脈沖神經網絡的時空信息編碼能力，豐富脈沖神經網絡的應用空間。在其中一個實施例中，通過讀取隨機閾值掩模電位和閾值偏置，并接收配置寄存器給出的配置值，確定所述閾值電位，使得神經元發放脈沖尖端信息具有一定概率的隨機性，無論膜電位有沒有超過固定閾值偏置，由于還有一個可正可負的閾值隨機疊加量的存在，該神經元胞體都有可能發放脈沖，提高了脈沖神經網絡模型的計算能力和信息處理能力在其中一個實施例中，通過設置發放使能標識和發放觸發標志，確定當前脈沖神經元輸出信息，使得脈沖神經元的輸出的可控性更高，發放使能標志可以配置有的神經元不允許發放數據，而只用作中間輔助計算神經元，這對于一些需要多神經元協作完成的功能是非常必要的。本專利技術還提供一種自適應閾值神經元信息處理系統，包括：前端脈沖神經元輸出信息接收模塊，用于接收前端脈沖神經元輸出信息；當前脈沖神經元信息讀取模塊，用于讀取當前脈沖神經元信息；當前脈沖神經元輸出信息計算模塊，用于根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息；當前自適應閾值計算模塊，用于讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾本文檔來自技高網...

【技術保護點】
一種自適應閾值神經元信息處理方法，其特征在于，所述方法包括：接收前端脈沖神經元輸出信息；讀取當前脈沖神經元信息；根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息；讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾值電位，計算當前自適應閾值；判斷所述當前脈沖神經元輸出信息是否大于或等于所述自適應閾值，若是，則輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，若否，不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量。

【技術特征摘要】
1.一種自適應閾值神經元信息處理方法，其特征在于，所述方法包括：接收前端脈沖神經元輸出信息；讀取當前脈沖神經元信息；根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息；讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾值電位，計算當前自適應閾值；判斷所述當前脈沖神經元輸出信息是否大于或等于所述自適應閾值，若是，則輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，若否，不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量。2.根據權利要求1所述的自適應閾值神經元信息處理方法，其特征在于：所述前端脈沖神經元輸出信息包括：前端脈沖神經元輸出的脈沖尖端信息、前端脈沖神經元與當前脈沖神經元的連接權重索引；所述當前脈沖神經元信息包括：當前時間窗寬度、當前時間窗內脈沖尖端信息序列、歷史膜電位信息和膜電位泄漏信息；則根據所述前端脈沖神經元輸出信息和所述當前脈沖神經元信息，計算當前脈沖神經元輸出信息，包括：根據所述前端脈沖神經元與當前脈沖神經元的連接權重索引，讀取前端脈沖神經元與當前脈沖神經元的連接權重；根據所述前端脈沖神經元輸出的脈沖尖端信息，和所述當前時間窗內脈沖尖端信息序列，更新所述當前時間窗內脈沖尖端信息序列，獲取當前時間窗內脈沖尖端信息更新序列；根據所述當前時間窗寬度、所述當前時間窗內脈沖尖端信息更新序列，通過衰減函數計算前端脈沖神經元輸入信息；根據所述前端脈沖神經元輸入信息、所述前端脈沖神經元與當前脈沖神經元的連接權重、所述歷史膜電位信息、所述膜電位泄露信息，通過脈沖神經元計算模型，計算當前脈沖神經元輸出信息。3.根據權利要求2所述的自適應閾值神經元信息處理方法，其特征在于，所述當所述當前脈沖神經元輸出信息大于或等于所述自適應閾值時，輸出所述當前脈沖神經元輸出信息，并根據第一自適應閾值更新模型更新所述當前自適應閾值變量，還包括：確定發放觸發標志信息為發放觸發，所述發放觸發標志信息包括發放觸發或發放不觸發；復位不應期計時器，并更新所述歷史膜電位信息為預設的復位膜電位信息。4.根據權利要求3所述的自適應閾值神經元信息處理方法，其特征在于，所述則不輸出所述當前脈沖神經元輸出信息，并根據第二自適應閾值更新模型更新所述當前自適應閾值變量，還包括：確定所述發放觸發標志信息為發放不觸發；讀取不應期寬度和不應期計時器的當前時間步；根據所述不應期寬度和所述不應期計時器的當前時間步，判斷當前時間是否在不應期內，若當前時間在所述不應期內，將所述不應期計時器累加計時一個時間步，不更新所述歷史膜電位信息；若當前時間不在所述不應期內，將所述不應期計時器累加計時一個時間步，并更新所述歷史膜電位信息為所述當前脈沖神經元輸出信息。5.根據權利要求1所述的自適應閾值神經元信息處理方法，其特征在于，所述讀取當前自適應閾值變量和閾值電位，并根據所述當前自適應閾值變量和所述閾值電位，計算當前自適應閾值，包括：讀取隨機閾值掩模電位、閾值偏置、當前自適應閾值變量和隨機閾值；將所述隨機閾值和所述隨機閾值掩模電位進行按位與操作，獲取閾值隨機疊加量；根據所述閾值隨機疊加量和所述閾值偏置，確定所述閾值電位；根據所述閾值電位和所述當前自適應閾值變量，確定所述當前自適應閾值。6.根據權利要求1所述的自適應閾值神經元信息處理方法，其特征在于，所述根據第一自適應閾值更新模型更新所述當前自適應閾值變量，包括：讀取發放閾值增量和所述當前自適應閾值變量；根據預設的衰減常數和所述當前自適應閾值變量，計算第一閾值；將所述發放閾值增量疊加至所述第一閾值，獲取第二閾值；根據所述第二閾值更新所述當前自適應閾值變量。7.根據權利要求6所述的自適應閾值神經元信息處理方法，其特征在于，所述根據第二自適應閾值更新模型更新所述當前自適應閾值變量，包括：讀取所述當前自適應閾值變量；根據所述預設的衰減常數和所述當前自適應閾值變量，計算第三閾值，根據所述第三閾值更新所述當前自適應閾值變量。8.根據權利要求3所述的自適應閾值神經元信息處理方法，其特征在于，所述輸出所述當前脈沖神經元輸出信息，包括：讀取發放使能標識，所述發放使能標識包括允許發放數據或不允許發放數據，當所述發放使能標識為允許發放數據時，讀取所述發放觸發標志信息，當所述發放觸發標志信息為發放觸發時；輸出所述當前脈沖神經元輸出信息。9.一種自適應閾值神經元信息處理系統，其特征在于，包括：前端脈沖神經元輸出信息接收模塊，用于接收前端脈沖神經元輸出...

【專利技術屬性】
技術研發人員：裴京，鄧磊，施路平，吳臻志，李國齊，
申請(專利權)人：清華大學，
類型：發明
國別省市：北京,11