【技術(shù)實現(xiàn)步驟摘要】
本專利技術(shù)涉及新聞推薦,尤其涉及一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法及系統(tǒng)。
技術(shù)介紹
1、本部分的陳述僅僅是提供了與本專利技術(shù)相關(guān)的
技術(shù)介紹
信息,不必然構(gòu)成在先技術(shù)。
2、個性化新聞推薦是通過預(yù)測新聞文章與用戶之間相關(guān)性,向用戶推薦新聞文章以滿足其信息需求的過程。與其他領(lǐng)域的推薦相比,新聞推薦具有更大的挑戰(zhàn)性,因為新聞文章的時效性、新穎性等自然特征導(dǎo)致了其高度動態(tài)變化的特性,例如,新聞文章的相關(guān)性會發(fā)生快速變化。這樣的系統(tǒng)不僅能幫助用戶過濾海量新聞,還能采用個性化算法,主動推薦符合用戶真正興趣的新聞條目,從而極大地滿足用戶的信息需求。
3、近年來,基于圖神經(jīng)網(wǎng)絡(luò)的技術(shù)得到了快速發(fā)展,深度學(xué)習(xí)領(lǐng)域關(guān)于圖神經(jīng)網(wǎng)絡(luò)的研究熱情日益高漲,圖神經(jīng)網(wǎng)絡(luò)已經(jīng)成為各大深度學(xué)習(xí)頂會的研究熱點。圖神經(jīng)網(wǎng)絡(luò)處理非結(jié)構(gòu)化數(shù)據(jù)時的出色能力使其在網(wǎng)絡(luò)數(shù)據(jù)分析、推薦系統(tǒng)、物理建模、自然語言處理和圖上的組合優(yōu)化問題方面都取得了新的突破,并為新聞推薦中增強基于內(nèi)容的解決方案帶來了新的機遇,因為這些技術(shù)具有處理結(jié)構(gòu)化數(shù)據(jù)的強大能力,并能捕捉用戶閱讀歷史中隱藏的興趣偏向。對于最新圖神經(jīng)網(wǎng)絡(luò)新聞推薦模型已經(jīng)在新聞和用戶圖之間建立了有效的特征交互模型,從而實現(xiàn)了準(zhǔn)確的新聞-用戶表征匹配。
4、然而,現(xiàn)有的新聞推薦方法分別從用戶和候選新聞中提取語義信息,忽略了用戶與候選新聞之間的語義交互信息。此外,現(xiàn)有的新聞推薦方法僅使用相同的節(jié)點類型進行消息傳遞,忽略了不同節(jié)點類型之間的不同特征和拓?fù)浣Y(jié)構(gòu)。以前的新聞推薦方法通過文本表示來
技術(shù)實現(xiàn)思路
1、為克服上述現(xiàn)有技術(shù)的不足,本專利技術(shù)提供了一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法及系統(tǒng),設(shè)計了一個協(xié)同融合模塊來獲取用戶歷史新聞與候選新聞之間的語義交互信息,該模塊使用親和度矩陣來計算不同詞語之間的相關(guān)權(quán)重。同時,設(shè)計了一個異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò)來映射不同的節(jié)點類型進行消息傳遞,從而可以獲得圖的高階語義信息。此外,還設(shè)計了一個增強的相關(guān)注意模塊,將文本表示和實體表示聚合成統(tǒng)一的表示,從而捕捉實體關(guān)系和文本之間的語義相關(guān)性。
2、為實現(xiàn)上述目的,本專利技術(shù)的一個或多個實施例提供了如下技術(shù)方案:
3、本專利技術(shù)第一方面提供了一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法。
4、一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,包括:
5、獲取用戶歷史新聞和候選新聞;
6、訓(xùn)練交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò);
7、將用戶歷史新聞和候選新聞輸入到交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)中,輸出用戶點擊候選新聞的預(yù)測分?jǐn)?shù)結(jié)果;
8、所述交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu):包括詞和實體嵌入層、協(xié)同融合模塊、異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò)、增強相關(guān)注意模塊和預(yù)測分?jǐn)?shù)層;
9、通過所述詞和實體嵌入層,對用戶歷史新聞和候選新聞分別進行詞嵌入和實體嵌入,分別得到用戶歷史新聞和候選新聞的詞嵌入向量序列和實體嵌入向量序列;
10、通過所述協(xié)同融合模塊,將所述用戶歷史新聞和候選新聞的詞嵌入向量序列通過cnn層和transformer層來學(xué)習(xí)局部和全局表示,獲得帶有語義交互信息的用戶歷史新聞表征;
11、通過所述異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò),將用戶歷史新聞表征按照時間相鄰性形成異構(gòu)用戶圖,采用多層ggnn對異構(gòu)圖進行編碼,得到用戶表征;
12、通過所述增強相關(guān)注意模塊,將候選新聞的詞嵌入向量序列和實體嵌入向量序列利用注意力機制學(xué)習(xí)候選新聞表征;通過所述預(yù)測分?jǐn)?shù)層,將用戶表征和新聞表征通過負(fù)采樣技術(shù)獲得預(yù)測得分。
13、本專利技術(shù)第二方面提供了一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦系統(tǒng)。
14、一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦系統(tǒng),包括:
15、獲取模塊,其被配置為:獲取用戶歷史新聞和候選新聞;
16、訓(xùn)練模塊,其被配置為,訓(xùn)練交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò);
17、輸出模塊,其被配置為:將用戶歷史新聞和候選新聞輸入到訓(xùn)練的交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)中,輸出用戶點擊候選新聞的預(yù)測分?jǐn)?shù)結(jié)果;
18、所述交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu):包括詞和實體嵌入層、協(xié)同融合模塊、異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò)、增強相關(guān)注意模塊和預(yù)測分?jǐn)?shù)層;
19、通過所述詞和實體嵌入層,對用戶歷史新聞和候選新聞分別進行詞嵌入和實體嵌入,分別得到用戶歷史新聞和候選新聞的詞嵌入向量序列和實體嵌入向量序列;
20、通過所述協(xié)同融合模塊,將所述用戶歷史新聞和候選新聞的詞嵌入向量序列通過cnn層和transformer層來學(xué)習(xí)局部和全局表示,獲得帶有語義交互信息的用戶歷史新聞表征;
21、通過所述異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò),將用戶歷史新聞表征按照時間相鄰性形成異構(gòu)用戶圖,采用多層ggnn對異構(gòu)圖進行編碼,得到用戶表征;
22、通過所述增強相關(guān)注意模塊,將候選新聞的詞嵌入向量序列和實體嵌入向量序列利用注意力機制學(xué)習(xí)候選新聞表征;通過所述預(yù)測分?jǐn)?shù)層,將用戶表征和新聞表征通過負(fù)采樣技術(shù)獲得預(yù)測得分。
23、本專利技術(shù)第三方面提供一種計算機裝置,包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序,所述處理器執(zhí)行所述程序時實現(xiàn)如本專利技術(shù)第一方面所述的一種方法中的步驟。
24、本專利技術(shù)第四方面提供了計算機可讀存儲介質(zhì),其上存儲有程序,該程序被處理器執(zhí)行時實現(xiàn)如本專利技術(shù)第一方面所述的一種方法中的步驟。
25、本專利技術(shù)第五方面提供了一種包含指令的計算機程序產(chǎn)品,其在計算機上運行時,使得計算機程序被處理器執(zhí)行時實現(xiàn)如本專利技術(shù)第一方面所述的一種方法中的步驟。
26、以上一個或多個技術(shù)方案存在以下有益效果:
27、本專利技術(shù)中設(shè)計了一種包括詞和實體嵌入層、協(xié)同融合模塊、異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò)、增強相關(guān)注意模塊和預(yù)測分?jǐn)?shù)模塊的交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò);其中,協(xié)同融合模塊使用親和度矩陣來計算不同詞語之間的相關(guān)權(quán)重,將用戶歷史新聞與候選新聞進行充分交互,最終利用語義交互信息獲取用戶表示,解決了單獨建模忽略隱藏語義信息的問題。
28、本專利技術(shù)通過異構(gòu)門控圖神經(jīng)網(wǎng)絡(luò),構(gòu)建新的用戶異構(gòu)圖,利用帶gru的門控圖神經(jīng)網(wǎng)絡(luò)映射不同的節(jié)點類型進行消息傳遞,來獲取隱藏在用戶圖中的高階信息,并最終利用這些高階信息得到最終的用戶表示。
29、本專利技術(shù)通過增強相關(guān)注意模塊,通過聚合新聞文本表征和實體表征,從而捕捉實體關(guān)系和文本之間的語義相關(guān)性,來獲取語義關(guān)聯(lián)信息,通過使用多頭自注意網(wǎng)絡(luò)將兩個表示統(tǒng)一并聚合為新聞表示,得到帶有實體關(guān)系信息的最終新聞表征。
30、本專利技術(shù)附加方面的優(yōu)點將在下面的描述中部分給出,部分將從下面的描述中變得明顯,或通過本專利技術(shù)的實踐了解到。
本文檔來自技高網(wǎng)...【技術(shù)保護點】
1.一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,包括:獲取用戶歷史新聞和候選新聞;
2.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,所述對用戶歷史新聞和候選新聞分別進行詞嵌入和實體嵌入,分別得到用戶歷史新聞和候選新聞的詞嵌入向量序列和實體嵌入向量序列,具體為:
3.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,通過所述協(xié)同融合模塊,將所述用戶歷史新聞和候選新聞的詞嵌入向量序列通過CNN層和Transformer層來學(xué)習(xí)局部和全局表示,獲得帶有語義交互信息的用戶歷史新聞表征,具體為:
4.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,所述將用戶歷史新聞表征按照時間相鄰性形成異構(gòu)用戶圖,采用多層GGNN對異構(gòu)圖進行編碼,得到用戶表征,具體為:
5.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,所述將候選新聞的詞嵌入向量序列和實體嵌入向量序列利用注意力機制學(xué)習(xí)新聞表征,具體為:
...【技術(shù)特征摘要】
1.一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,包括:獲取用戶歷史新聞和候選新聞;
2.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,所述對用戶歷史新聞和候選新聞分別進行詞嵌入和實體嵌入,分別得到用戶歷史新聞和候選新聞的詞嵌入向量序列和實體嵌入向量序列,具體為:
3.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,通過所述協(xié)同融合模塊,將所述用戶歷史新聞和候選新聞的詞嵌入向量序列通過cnn層和transformer層來學(xué)習(xí)局部和全局表示,獲得帶有語義交互信息的用戶歷史新聞表征,具體為:
4.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性化新聞推薦方法,其特征在于,所述將用戶歷史新聞表征按照時間相鄰性形成異構(gòu)用戶圖,采用多層ggnn對異構(gòu)圖進行編碼,得到用戶表征,具體為:
5.如權(quán)利要求1所述的一種基于交互式異構(gòu)圖神經(jīng)網(wǎng)絡(luò)的個性...
【專利技術(shù)屬性】
技術(shù)研發(fā)人員:劉嵩,石成龍,孔贊,耿海彬,
申請(專利權(quán))人:齊魯工業(yè)大學(xué)山東省科學(xué)院,
類型:發(fā)明
國別省市:
還沒有人留言評論。發(fā)表了對其他瀏覽者有用的留言會獲得科技券。