本發(fā)明專利技術(shù)屬于計算機技術(shù)領(lǐng)域，公開了一種基于集群的并行分割學(xué)習(xí)方法、裝置、設(shè)備及存儲介質(zhì)。該方法包括：獲取多個待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息；根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群；根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，所述聚合用戶端模型根據(jù)各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源在各目標(biāo)用戶集群中進行并行分割學(xué)習(xí)獲得。通過上述方式，有效減少在分割學(xué)習(xí)過程中的整體訓(xùn)練時延，提高了分割學(xué)習(xí)的效率，同時抑制了網(wǎng)絡(luò)異構(gòu)性、動態(tài)性所帶來的負(fù)面影響，并保證現(xiàn)有分割學(xué)習(xí)技術(shù)所具有的收斂性和準(zhǔn)確性。準(zhǔn)確性。準(zhǔn)確性。
【技術(shù)實現(xiàn)步驟摘要】
基于集群的并行分割學(xué)習(xí)方法、裝置、設(shè)備及存儲介質(zhì)
[0001]本專利技術(shù)涉及計算機
，尤其涉及一種基于集群的并行分割學(xué)習(xí)方法、裝置、設(shè)備及存儲介質(zhì)。
技術(shù)介紹
[0002]分割學(xué)習(xí)是一種主流的分布式學(xué)習(xí)方案，能夠在車聯(lián)網(wǎng)邊緣服務(wù)器的輔助下，在用戶端（如車輛、移動終端等）之間訓(xùn)練AI(Artificial Intelligence，人工智能)模型，而無需共享用戶端的本地數(shù)據(jù)。現(xiàn)有分割學(xué)習(xí)方案在用戶數(shù)量較多時，邊緣服務(wù)器需要先訓(xùn)練一個用戶，然后依次移動到下一個用戶，整個模型訓(xùn)練過程由位于邊緣服務(wù)器的網(wǎng)絡(luò)控制器完成控制，存在較長模型訓(xùn)練延遲。由于用戶是按照順序依次進行模型訓(xùn)練，所以現(xiàn)有分割學(xué)習(xí)方案中的訓(xùn)練延遲是累加的，與用戶數(shù)量成正比。當(dāng)用戶數(shù)量很大的時候，模型訓(xùn)練會導(dǎo)致很長的訓(xùn)練延遲，整體訓(xùn)練時長大幅度增加，因此，亟需提供一種在多用戶存在時的分割學(xué)習(xí)方法，減少訓(xùn)練過程的時間延遲，縮短訓(xùn)練時長。
技術(shù)實現(xiàn)思路
[0003]本專利技術(shù)的主要目的在于提供一種基于集群的并行分割學(xué)習(xí)方法、裝置、設(shè)備及存儲介質(zhì)，旨在解決現(xiàn)有技術(shù)中在多用戶端存在時，如何減少分割學(xué)習(xí)的訓(xùn)練時延，縮短訓(xùn)練時長的技術(shù)問題。
[0004]為實現(xiàn)上述目的，本專利技術(shù)提供了一種基于集群的并行分割學(xué)習(xí)方法，所述基于集群的并行分割學(xué)習(xí)方法包括：獲取多個待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息；根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群；根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，所述聚合用戶端模型根據(jù)各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源在各目標(biāo)用戶集群中進行并行分割學(xué)習(xí)獲得。
[0005]可選地，所述根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群，包括：根據(jù)隨機聚合策略對各待學(xué)習(xí)用戶端進行集群劃分，得到多個第一用戶集群；根據(jù)多個第一用戶集群和各待學(xué)習(xí)用戶端的用戶通信信息確定第一訓(xùn)練時延；在各第一用戶集群中按照隨機抽取策略進行隨機抽取，確定交換用戶端和所述交換用戶端所在的第一用戶集群；根據(jù)所述交互用戶端、所述交換用戶端所在的第一用戶集群以及多個第一用戶集群進行隨機關(guān)聯(lián)，得到多個第二用戶集群；根據(jù)多個第二用戶集群和各待學(xué)習(xí)用戶端的用戶通信信息確定第一訓(xùn)練時延確定第二訓(xùn)練時延；
根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延確定多個目標(biāo)用戶集群。
[0006]可選地，所述根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延確定多個目標(biāo)用戶集群，包括：根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延進行探索概率計算，確定目標(biāo)探索概率；將所述目標(biāo)探索概率和預(yù)設(shè)集群變量進行比較，確定比較結(jié)果；在所述比較結(jié)果為所述目標(biāo)探索概率大于所述預(yù)設(shè)集群變量時，確定各第二用戶集群的用戶端數(shù)量；在各第二用戶集群的用戶端數(shù)量不相同時，將各第二用戶集群作為多個目標(biāo)用戶集群。
[0007]可選地，所述在所述比較結(jié)果為所述目標(biāo)探索概率大于所述預(yù)設(shè)集群變量時，獲取各第二用戶集群的用戶端數(shù)量之后，還包括：在各第二用戶集群的用戶端數(shù)量均相同時，根據(jù)各待學(xué)習(xí)用戶端的用戶通信信息確定各第二用戶集群中的拖延用戶端；根據(jù)各第二用戶集群中的拖延用戶端和多個第二用戶集群進行隨機關(guān)聯(lián)，確定多個第一關(guān)聯(lián)結(jié)果和各第一關(guān)聯(lián)結(jié)果的第一關(guān)聯(lián)時延；將各第一關(guān)聯(lián)結(jié)果的第一關(guān)聯(lián)時延進行比較，根據(jù)比較結(jié)果在多個第一關(guān)聯(lián)結(jié)果中確定第一目標(biāo)結(jié)果；根據(jù)所述第一目標(biāo)結(jié)果確定多個第三用戶集群；根據(jù)多個第三用戶集群確定多個目標(biāo)用戶集群。
[0008]可選地，所述根據(jù)多個第三用戶集群確定多個目標(biāo)用戶集群，包括：根據(jù)各待學(xué)習(xí)用戶端的用戶通信信息確定各第三用戶集群中的快速用戶端；根據(jù)各第三用戶集群中的快速用戶端和多個第三用戶集群進行隨機關(guān)聯(lián)，確定多個第二關(guān)聯(lián)結(jié)果和各第二關(guān)聯(lián)結(jié)果的第二關(guān)聯(lián)時延；將各第二關(guān)聯(lián)結(jié)果的第二關(guān)聯(lián)時延進行比較，根據(jù)比較結(jié)果在多個第二關(guān)聯(lián)結(jié)果中確定第二目標(biāo)結(jié)果；根據(jù)所述第二目標(biāo)結(jié)果確定多個目標(biāo)用戶集群。
[0009]可選地，所述根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，包括：按照預(yù)設(shè)集群訓(xùn)練順序確定第一目標(biāo)集群和第二目標(biāo)集群；根據(jù)所述第一目標(biāo)集群確定聚合用戶端模型；下發(fā)所述聚合用戶端模型至所述第二目標(biāo)集群，以使所述第二目標(biāo)集群反饋目標(biāo)用戶端模型。
[0010]可選地，所述基于集群的并行分割學(xué)習(xí)方法，還包括：下發(fā)用戶端模型至目標(biāo)用戶集群中的各待學(xué)習(xí)用戶端，以使所述各目標(biāo)用戶集群中的各待學(xué)習(xí)用戶端并行進行數(shù)據(jù)抽樣，生成粉碎數(shù)據(jù)，并根據(jù)所述目標(biāo)用戶集群中各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源反饋所述粉碎數(shù)據(jù)和抽樣數(shù)據(jù)標(biāo)簽；根據(jù)所述粉碎數(shù)據(jù)和所述抽樣數(shù)據(jù)的標(biāo)簽確定粉碎數(shù)據(jù)梯度；發(fā)送所述粉碎數(shù)據(jù)梯度至所述各目標(biāo)用戶集群中的各待學(xué)習(xí)用戶端，以使所述各
目標(biāo)用戶集群中的各待學(xué)習(xí)用戶端根據(jù)所述粉碎數(shù)據(jù)梯度反饋更新用戶端模型；根據(jù)各更新用戶端模型確定各目標(biāo)用戶集群的聚合用戶端模型。
[0011]可選地，所述根據(jù)各更新用戶端模型確定各目標(biāo)用戶集群的聚合用戶端模型，包括：獲取各目標(biāo)用戶集群的用戶端數(shù)量和各目標(biāo)用戶集群中待學(xué)習(xí)用戶端的樣本數(shù)量；根據(jù)各目標(biāo)用戶集群的用戶端數(shù)量、各目標(biāo)用戶集群中待學(xué)習(xí)用戶端的樣本數(shù)量以及各用戶更新模型進行加權(quán)聚合，得到各目標(biāo)用戶集群的聚合用戶端模型。
[0012]可選地，所述根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型之前，還包括：按照資源分配策略為各目標(biāo)用戶集群的各待學(xué)習(xí)用戶端進行頻譜資源分配，確定各待學(xué)習(xí)用戶端的初始資源；根據(jù)各待學(xué)習(xí)用戶端的用戶通信信息和各待學(xué)習(xí)用戶端的初始資源計算用戶端訓(xùn)練時延，得到各待學(xué)習(xí)用戶端的用戶端訓(xùn)練時延；對各用戶端訓(xùn)練時延進行排序，根據(jù)排序結(jié)果確定目標(biāo)學(xué)習(xí)用戶端；對所述目標(biāo)學(xué)習(xí)用戶端進行頻譜資源分配，確定目標(biāo)學(xué)習(xí)用戶端的分配資源；根據(jù)各待學(xué)習(xí)用戶端的初始資源和所述目標(biāo)學(xué)習(xí)用戶端的分配資源確定剩余資源數(shù)量；在所述剩余資源數(shù)量為預(yù)設(shè)資源數(shù)量時，根據(jù)所述目標(biāo)學(xué)習(xí)用戶端的分配資源對各待學(xué)習(xí)用戶端的初始資源進行更新，確定各目標(biāo)用戶集群的各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源。
[0013]此外，為實現(xiàn)上述目的，本專利技術(shù)還提出一種基于集群的并行分割學(xué)習(xí)裝置，所述基于集群的并行分割學(xué)習(xí)裝置包括：獲取模塊，用于獲取多個待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息；劃分模塊，用于根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群；學(xué)習(xí)模塊，用于根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，所述聚合用戶端模型根據(jù)各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源在各目標(biāo)用戶集群中進行并行分割學(xué)習(xí)獲得。
[0014]此外，為實現(xiàn)上述目的，本專利技術(shù)還提出一種基于集群的并行分割學(xué)習(xí)設(shè)備，所述基于集群的并行分割學(xué)習(xí)設(shè)備包括：存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的基于集群的并行分割學(xué)習(xí)程序，所述基于集群的并行分割學(xué)習(xí)程序配置為實現(xiàn)如上本文檔來自技高網(wǎng)...
【技術(shù)保護點】
【技術(shù)特征摘要】
1.一種基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述基于集群的并行分割學(xué)習(xí)方法包括：獲取多個待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息；根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群；根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，所述聚合用戶端模型根據(jù)各待學(xué)習(xí)用戶端的目標(biāo)頻譜資源在各目標(biāo)用戶集群中進行并行分割學(xué)習(xí)獲得。2.如權(quán)利要求1所述的基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述根據(jù)各待學(xué)習(xí)用戶端和各待學(xué)習(xí)用戶端的用戶通信信息對各待學(xué)習(xí)用戶端進行集群劃分，確定多個目標(biāo)用戶集群，包括：根據(jù)隨機聚合策略對各待學(xué)習(xí)用戶端進行集群劃分，得到多個第一用戶集群；根據(jù)多個第一用戶集群和各待學(xué)習(xí)用戶端的用戶通信信息確定第一訓(xùn)練時延；在各第一用戶集群中按照隨機抽取策略進行隨機抽取，確定交換用戶端和所述交換用戶端所在的第一用戶集群；根據(jù)所述交互用戶端、所述交換用戶端所在的第一用戶集群以及多個第一用戶集群進行隨機關(guān)聯(lián)，得到多個第二用戶集群；根據(jù)多個第二用戶集群和各待學(xué)習(xí)用戶端的用戶通信信息確定第一訓(xùn)練時延確定第二訓(xùn)練時延；根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延確定多個目標(biāo)用戶集群。3.如權(quán)利要求2所述的基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延確定多個目標(biāo)用戶集群，包括：根據(jù)所述第一訓(xùn)練時延和所述第二訓(xùn)練時延進行探索概率計算，確定目標(biāo)探索概率；將所述目標(biāo)探索概率和預(yù)設(shè)集群變量進行比較，確定比較結(jié)果；在所述比較結(jié)果為所述目標(biāo)探索概率大于所述預(yù)設(shè)集群變量時，確定各第二用戶集群的用戶端數(shù)量；在各第二用戶集群的用戶端數(shù)量不相同時，將各第二用戶集群作為多個目標(biāo)用戶集群。4.如權(quán)利要求3所述的基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述在所述比較結(jié)果為所述目標(biāo)探索概率大于所述預(yù)設(shè)集群變量時，獲取各第二用戶集群的用戶端數(shù)量之后，還包括：在各第二用戶集群的用戶端數(shù)量均相同時，根據(jù)各待學(xué)習(xí)用戶端的用戶通信信息確定各第二用戶集群中的拖延用戶端；根據(jù)各第二用戶集群中的拖延用戶端和多個第二用戶集群進行隨機關(guān)聯(lián)，確定多個第一關(guān)聯(lián)結(jié)果和各第一關(guān)聯(lián)結(jié)果的第一關(guān)聯(lián)時延；將各第一關(guān)聯(lián)結(jié)果的第一關(guān)聯(lián)時延進行比較，根據(jù)比較結(jié)果在多個第一關(guān)聯(lián)結(jié)果中確定第一目標(biāo)結(jié)果；根據(jù)所述第一目標(biāo)結(jié)果確定多個第三用戶集群；根據(jù)多個第三用戶集群確定多個目標(biāo)用戶集群。
5.如權(quán)利要求4所述的基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述根據(jù)多個第三用戶集群確定多個目標(biāo)用戶集群，包括：根據(jù)各待學(xué)習(xí)用戶端的用戶通信信息確定各第三用戶集群中的快速用戶端；根據(jù)各第三用戶集群中的快速用戶端和多個第三用戶集群進行隨機關(guān)聯(lián)，確定多個第二關(guān)聯(lián)結(jié)果和各第二關(guān)聯(lián)結(jié)果的第二關(guān)聯(lián)時延；將各第二關(guān)聯(lián)結(jié)果的第二關(guān)聯(lián)時延進行比較，根據(jù)比較結(jié)果在多個第二關(guān)聯(lián)結(jié)果中確定第二目標(biāo)結(jié)果；根據(jù)所述第二目標(biāo)結(jié)果確定多個目標(biāo)用戶集群。6.如權(quán)利要求1所述的基于集群的并行分割學(xué)習(xí)方法，其特征在于，所述根據(jù)聚合用戶端模型和各目標(biāo)用戶集群進行集群串行分割學(xué)習(xí)，得到目標(biāo)用戶端模型，包括：按照預(yù)設(shè)集群訓(xùn)練順序確定第一目標(biāo)集群和第二...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員：吳穩(wěn)，張頌歌，劉圣波，李少鋒，
申請(專利權(quán))人：鵬城實驗室，
類型：發(fā)明
國別省市：
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。