計算任務(wù)部署方法及裝置制造方法及圖紙

本發(fā)明專利技術(shù)提供了一種計算任務(wù)部署方法及裝置，該方法包括：根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。通過上述方案能夠在避免數(shù)據(jù)供應(yīng)不足的情況下提高通信帶寬的利用率，從而提高計算效率。

Computing Task Deployment Method and Device

The invention provides a computing task deployment method and device, which includes: determining the priority level of the computing task according to the priority evaluation index of the computing task and the corresponding relationship between the pre-established priority evaluation index and the priority level; according to the priority level of the computing task, according to the required bandwidth and the combination of tasks including at least the computing task. The communication bandwidth for transmitting data to the processing device deploys the computing task to the processing device. Through the above scheme, the utilization rate of communication bandwidth can be improved without insufficient data supply, so as to improve the computational efficiency.

【技術(shù)實現(xiàn)步驟摘要】
計算任務(wù)部署方法及裝置
本專利技術(shù)涉及專用處理器
，尤其涉及一種計算任務(wù)部署方法及裝置。
技術(shù)介紹
隨著摩爾定律逐漸失效，通用計算架構(gòu)效能比的提升變得越來越困難。專用計算架構(gòu)(例如，以加速器的形式)是提升效能比的有效途徑之一。加速器通常以獨立板卡的形式嵌入到現(xiàn)有的通用計算平臺中來輔助計算，例如，將加速板卡插到現(xiàn)有服務(wù)器中來提升服務(wù)器的計算性能。在整個系統(tǒng)中，通用計算平臺將需要進(jìn)行加速的運算部署到加速器中運行，等待加速器計算完成后再將計算結(jié)果讀回至通用計算平臺。加速器上一般會集成大規(guī)模的計算單元，計算效能非常高。但是，由于通用計算平臺與加速器之間的通信帶寬往往非常有限，在計算過程中經(jīng)常會出現(xiàn)由于通信帶寬的限制而導(dǎo)致加速器計算所需數(shù)據(jù)供應(yīng)不足的問題，這進(jìn)一步會影響整個系統(tǒng)的計算性能。通常不同計算任務(wù)所需要傳輸數(shù)據(jù)的量不同。當(dāng)多個數(shù)據(jù)量大的計算任務(wù)集中在一起同時處理時會引起數(shù)據(jù)嚴(yán)重供應(yīng)不足的問題；當(dāng)數(shù)據(jù)量小的計算任務(wù)集中在一起處理時，雖然一般不會引起數(shù)據(jù)供應(yīng)不足的問題，但會引起通用計算平臺和加速器之間通信帶寬浪費。
技術(shù)實現(xiàn)思路
有鑒于此，本專利技術(shù)提供了一種計算任務(wù)部署方法及裝置，以在避免數(shù)據(jù)供應(yīng)不足的情況下提高通信帶寬的利用率，從而提高計算效率。為了實現(xiàn)上述目的，本專利技術(shù)采用以下方案：在本專利技術(shù)一個實施例中，計算任務(wù)部署方法，包括：根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。在本專利技術(shù)一個實施例中，計算任務(wù)部署裝置，包括：優(yōu)先等級確定單元，用于根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；計算任務(wù)部署單元，用于依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。在本專利技術(shù)一個實施例中，計算機(jī)設(shè)備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機(jī)程序，所述處理器執(zhí)行所述程序時實現(xiàn)上述實施例所述方法的步驟。在本專利技術(shù)一個實施例中，計算機(jī)可讀存儲介質(zhì)，其上存儲有計算機(jī)程序，該程序被處理器執(zhí)行時實現(xiàn)上述實施例所述方法的步驟。本專利技術(shù)的計算任務(wù)部署方法、計算任務(wù)部署裝置、計算機(jī)設(shè)備及計算機(jī)可讀存儲介質(zhì)，先確定計算任務(wù)的優(yōu)先等級，再依據(jù)該計算任務(wù)的優(yōu)先等級，并根據(jù)計算任務(wù)所需帶寬和傳輸數(shù)據(jù)的通信帶寬將計算任務(wù)部署至處理設(shè)備，由于在部署任務(wù)的過程中能夠?qū)崟r考慮計算任務(wù)所需帶寬，所以能夠動態(tài)部署計算任務(wù)，從而能夠避免或減少處理設(shè)備在處理任務(wù)時的數(shù)據(jù)供應(yīng)不足以及帶寬浪費難以平衡的問題，即能夠在避免數(shù)據(jù)供應(yīng)不足的情況下提高通信帶寬的利用率。而且，由于部署任務(wù)是以計算任務(wù)的優(yōu)先等級為依據(jù)的，所以能夠優(yōu)先將優(yōu)先等級高的計算任務(wù)部署至處理設(shè)備，以此能夠提高用戶體驗。附圖說明為了更清楚地說明本專利技術(shù)實施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對實施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本專利技術(shù)的一些實施例，對于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動的前提下，還可以根據(jù)這些附圖獲得其他的附圖。在附圖中：圖1是本專利技術(shù)一實施例的計算任務(wù)部署方法的流程示意圖；圖2是本專利技術(shù)另一實施例的計算任務(wù)部署方法的流程示意圖；圖3是本專利技術(shù)再一實施例的計算任務(wù)部署方法的流程示意圖；圖4是本專利技術(shù)一實施例中的根據(jù)處理設(shè)備進(jìn)行計算任務(wù)部署模擬得到計算任務(wù)的組合所需帶寬的方法流程示意圖；圖5是本專利技術(shù)一實施例的計算系統(tǒng)的結(jié)構(gòu)示意圖；圖6是本專利技術(shù)一實施例的加速器的片上資源配置示意圖；圖7是本專利技術(shù)一實施例的計算任務(wù)部署裝置的結(jié)構(gòu)示意圖；圖8是本專利技術(shù)另一實施例的計算任務(wù)部署裝置的結(jié)構(gòu)示意圖。具體實施方式為使本專利技術(shù)實施例的目的、技術(shù)方案和優(yōu)點更加清楚明白，下面結(jié)合附圖對本專利技術(shù)實施例做進(jìn)一步詳細(xì)說明。在此，本專利技術(shù)的示意性實施例及其說明用于解釋本專利技術(shù)，但并不作為對本專利技術(shù)的限定。針對目前當(dāng)多個數(shù)據(jù)量大的計算任務(wù)集中在一起同時處理時會引起數(shù)據(jù)嚴(yán)重供應(yīng)不足，且當(dāng)數(shù)據(jù)量小的計算任務(wù)集中在一起處理時，會引起通用計算平臺和加速器之間通信帶寬浪費的問題，本專利技術(shù)提供了一種計算任務(wù)部署方法，能夠通過動態(tài)調(diào)整部署給加速器的計算任務(wù)，將加速器所需數(shù)據(jù)帶寬控制在通信帶寬范圍之內(nèi)，并能減少或避免通信帶寬浪費。圖1是本專利技術(shù)一實施例的計算任務(wù)部署方法的流程示意圖。如圖1所示，一些實施例的計算任務(wù)部署方法，可包括：步驟S110：根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；步驟S120：依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。上述步驟S110和步驟S120可以基于現(xiàn)有的軟件平臺實現(xiàn)，例如，通用計算平臺，可以利用多種不同硬件設(shè)備實現(xiàn)，例如，物理服務(wù)器、云服務(wù)器、個人計算機(jī)、移動終端設(shè)備、電子設(shè)備等。該計算任務(wù)可以是實時傳輸?shù)酵ㄓ糜嬎闫脚_的待計算任務(wù)，例如，待邏輯運算的序列數(shù)據(jù)，或者可以是預(yù)先存儲在通用計算平臺的硬盤或緩存等存儲空間的待計算任務(wù)。該些硬件設(shè)備和上述處理設(shè)備之間可以以一定的通信帶寬傳輸數(shù)據(jù)。上述處理設(shè)備可以是各種能夠?qū)脑撔┯布O(shè)備傳輸來的數(shù)據(jù)進(jìn)行處理的設(shè)備，例如，各種專用處理器的芯片等。該專用處理器的芯片可以以加速器的形式實現(xiàn)，可以用于進(jìn)行各種邏輯運算的處理。在上述步驟S110中，該優(yōu)先級評估指標(biāo)可以是各種能夠區(qū)分計算任務(wù)緊急程度的信息，例如，計算任務(wù)的類型、計算任務(wù)的用戶級別等。計算任務(wù)的類型可以是計算類型。具體地，例如，該計算任務(wù)的類型可以包括網(wǎng)頁瀏覽類型、即時通信類型等，在此情況下，該即時通信類型的計算任務(wù)的優(yōu)先等級可以高于該網(wǎng)頁瀏覽類型的計算任務(wù)的優(yōu)先等級。再例如，計算任務(wù)的用戶級別可以包括付費用戶、未付費用戶等，在此情況下，該付費用戶對應(yīng)的計算任務(wù)的優(yōu)先等級可以高于該未付費用戶對應(yīng)的計算任務(wù)的優(yōu)先等級。上述預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系可以以數(shù)據(jù)表的形式實現(xiàn)，可以包含多對相互對應(yīng)的優(yōu)先級評估指標(biāo)與優(yōu)先等級。優(yōu)先級評估指標(biāo)與優(yōu)先等級可以是一一對應(yīng)的映射關(guān)系，或者是多對一的映射關(guān)系。在根據(jù)該對應(yīng)關(guān)系確定所述計算任務(wù)的優(yōu)先等級時，具體地，可以首先提取所述計算任務(wù)的優(yōu)先級評估指標(biāo)，然后根據(jù)所述計算任務(wù)的優(yōu)先級評估指標(biāo)在該對應(yīng)關(guān)系的數(shù)據(jù)表中查詢優(yōu)先級評估指標(biāo)，然后根據(jù)查詢到的優(yōu)先級評估指標(biāo)找到相應(yīng)的優(yōu)先等級。在上述步驟S120中，所述計算任務(wù)的優(yōu)先等級可以包括第一級、第二級、第三級等，其中，該第一級為最高級，第二級、第三級等可以為次高級。所述的至少包括所述計算任務(wù)的任務(wù)組合可以僅包括高優(yōu)先等級的所述計算任務(wù)，或者可以同時包括高優(yōu)先等級的所述計算任務(wù)和次高優(yōu)先等級的計算任務(wù)。由于處理設(shè)備(專用處理器)可以具有一定的存儲資源，在專用處理器處理計算任務(wù)的過程中，重復(fù)使用的數(shù)據(jù)可以暫存在處理設(shè)備上，所以這些重復(fù)使用的數(shù)據(jù)可以不需要重復(fù)從通用計算平臺向?qū)１疚臋n來自技高網(wǎng)...

【技術(shù)保護(hù)點】
1.一種計算任務(wù)部署方法，其特征在于，包括：根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。

【技術(shù)特征摘要】
1.一種計算任務(wù)部署方法，其特征在于，包括：根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級；依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備。2.如權(quán)利要求1所述的計算任務(wù)部署方法，其特征在于，根據(jù)計算任務(wù)的優(yōu)先級評估指標(biāo)和預(yù)先建立的優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系，確定所述計算任務(wù)的優(yōu)先等級之前，還包括：以任務(wù)類型作為優(yōu)先級評估指標(biāo)，根據(jù)所述處理設(shè)備所對應(yīng)的所有任務(wù)類型建立優(yōu)先級評估指標(biāo)與優(yōu)先等級的對應(yīng)關(guān)系。3.如權(quán)利要求1所述的計算任務(wù)部署方法，其特征在于，依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，將所述計算任務(wù)部署至所述處理設(shè)備，包括：在所述計算任務(wù)的優(yōu)先等級為最高級的情況下，將至少包括所述計算任務(wù)的任務(wù)組合優(yōu)先部署至所述處理設(shè)備，其中，所述任務(wù)組合所需要的帶寬小于或等于所述通信帶寬。4.如權(quán)利要求3所述的計算任務(wù)部署方法，其特征在于，所述任務(wù)組合包括所有優(yōu)先等級為所述最高級的計算任務(wù)，或者同時包括至少一個優(yōu)先等級為次高級的計算任務(wù)；其中，所述次高級低于所述最高級。5.如權(quán)利要求1所述的計算任務(wù)部署方法，其特征在于，依據(jù)所述計算任務(wù)的優(yōu)先等級，根據(jù)至少包括所述計算任務(wù)的任務(wù)組合所需要的帶寬和向處理設(shè)備傳輸數(shù)據(jù)的通信帶寬，...

【專利技術(shù)屬性】
技術(shù)研發(fā)人員：盧文巖，鄢貴海，
申請(專利權(quán))人：中科馭數(shù)北京科技有限公司，
類型：發(fā)明
國別省市：北京,11