本發(fā)明屬于電數(shù)字數(shù)據(jù)處理相關(guān)，更具體地，涉及一種大規(guī)模知識圖譜推理優(yōu)化方法。
背景技術(shù)：
1、知識圖譜作為一種結(jié)構(gòu)化的知識表示方式，已廣泛應(yīng)用于智能搜索、問答系統(tǒng)、推薦系統(tǒng)等多個領(lǐng)域，特別是電商推薦。在實際應(yīng)用中，隨著知識圖譜規(guī)模的不斷擴大，對其進行高效推理成為一個重要的技術(shù)挑戰(zhàn)。傳統(tǒng)的知識圖譜推理方法主要包括基于規(guī)則的推理、基于路徑的推理和基于嵌入的推理等。基于規(guī)則的推理方法通過預(yù)定義的邏輯規(guī)則進行推理，具有可解釋性強的優(yōu)點，但規(guī)則的維護和更新成本較高。基于路徑的推理方法通過搜索實體之間的連接路徑進行推理，可以發(fā)現(xiàn)潛在的關(guān)系，但在大規(guī)模知識圖譜中搜索效率較低。基于嵌入的推理方法將實體和關(guān)系映射到低維向量空間，通過向量運算進行推理，具有較好的擴展性。
2、然而，現(xiàn)有的知識圖譜推理方法在處理大規(guī)模知識圖譜時存在多個方面的問題。首先，知識圖譜的存儲結(jié)構(gòu)往往采用統(tǒng)一的方式，未能根據(jù)實體關(guān)系的特點進行優(yōu)化，導(dǎo)致數(shù)據(jù)訪問效率低下。其次，緩存策略缺乏對訪問模式的深入分析，未能有效利用多級存儲系統(tǒng)的特點。再次，推理計算過程中的任務(wù)分配不夠靈活，未能充分利用異構(gòu)計算資源的優(yōu)勢。此外，現(xiàn)有方法在處理復(fù)雜推理任務(wù)時，往往采用重量級的深度學(xué)習(xí)模型，造成計算資源的浪費。
3、在大規(guī)模知識圖譜推理過程中，如何提高計算效率和資源利用率成為一個亟待解決的問題。現(xiàn)有技術(shù)難以解決的核心問題在于，缺乏一種能夠綜合考慮存儲優(yōu)化、計算資源分配和模型輕量化的系統(tǒng)性解決方案，導(dǎo)致推理過程中存在計算效率低下。
技術(shù)實現(xiàn)思路
1、針對現(xiàn)有技術(shù)的以上缺陷或改進需求，本發(fā)明提供了一種大規(guī)模知識圖譜推理優(yōu)化方法，其目的在于解決現(xiàn)有技術(shù)中存在的大規(guī)模知識圖譜推理過程中計算效率低下的技術(shù)問題。
2、為實現(xiàn)上述目的，按照本發(fā)明的一個方面，提供了一種大規(guī)模知識圖譜推理優(yōu)化方法，包括：
3、離線階段：構(gòu)建知識圖譜多層存儲結(jié)構(gòu)，將知識圖譜按照實體關(guān)系類型分層存儲于所述多層存儲結(jié)構(gòu)中，并計算每層存儲結(jié)構(gòu)的連接密度值，其基于該層中所實際存儲的實體關(guān)系數(shù)量和知識圖譜實體關(guān)系總數(shù)的比值進行表征；基于知識圖譜中每個實體的訪問頻率和該實體所在存儲結(jié)構(gòu)的連接密度值確定該實體緩存優(yōu)先級分數(shù)，按分數(shù)從高到低將所有實體緩存劃分為內(nèi)存緩存、固態(tài)硬盤緩存和機械硬盤存儲；構(gòu)建n個輕量級神經(jīng)網(wǎng)絡(luò)單元，根據(jù)gpu和cpu的算力比值將n個神經(jīng)網(wǎng)絡(luò)單元分組部署至gpu及cpu；
4、推理在線階段：獲取知識圖譜的推理請求，從中提取目標(biāo)實體節(jié)點，基于目標(biāo)實體節(jié)點在知識圖譜中的度數(shù)、連接關(guān)系類型分布、歷史訪問頻率計算目標(biāo)實體節(jié)點的初始狀態(tài)得分；計算表征目標(biāo)實體節(jié)點在其所在一層存儲結(jié)構(gòu)中的連接程度的橫向關(guān)系密集度，以及表征目標(biāo)實體節(jié)點跨層級的連接程度的縱向關(guān)系密集度，用以確定目標(biāo)實體節(jié)點的關(guān)系分布狀態(tài)；當(dāng)關(guān)系分布狀態(tài)滿足推理閾值要求時，進行多路徑并行搜索，獲得多條推理路徑；否則，對目標(biāo)實體節(jié)點進行關(guān)系擴展，直至滿足推理閾值要求；對搜索到的多條推理路徑進行分組，得到多個路徑組；根據(jù)所述算力比值或者根據(jù)所述初始狀態(tài)得分與所述算力比值的比值，將多個路徑組分配至gpu或cpu；計算每個推理路徑組的可信度，確定可信度滿足預(yù)設(shè)要求的所有推理路徑組之間的分配優(yōu)先級，按照分配優(yōu)先級依次輸入到gpu或cpu中的神經(jīng)網(wǎng)絡(luò)單元；
5、對n個神經(jīng)網(wǎng)絡(luò)單元分別構(gòu)建原始卷積核參數(shù)組，每個原始卷積核參數(shù)組包含多個不同尺度卷積核的參數(shù)；在每個神經(jīng)網(wǎng)絡(luò)單元中，基于對應(yīng)的原始卷積核參數(shù)組獲取等效卷積核組，其中等效卷積核組中每個等效卷積核的參數(shù)基于原始卷積核參數(shù)與基準卷積核參數(shù)的比值計算得出；在所述gpu中通過所部署的多個神經(jīng)網(wǎng)絡(luò)單元利用等效卷積核組并行執(zhí)行特征提取運算，得到每個輸入推理路徑組對應(yīng)的推理路徑特征向量組；在所述cpu中執(zhí)行自適應(yīng)參數(shù)優(yōu)化，當(dāng)任一神經(jīng)網(wǎng)絡(luò)單元中任一個等效卷積核參數(shù)超出參數(shù)閾值范圍時，觸發(fā)該神經(jīng)網(wǎng)絡(luò)單元的參數(shù)調(diào)整機制，進行參數(shù)調(diào)整；根據(jù)每個推理路徑組的所述路徑特征向量組計算該推理路徑組內(nèi)每條所述推理路徑的置信度分數(shù)；基于所述置信度分數(shù)對該推理路徑組內(nèi)推理路徑進行排序，從該推理路徑組中選擇所述置信度分數(shù)最高的n條推理路徑作為候選主路徑；利用所述cpu對候選主路徑進行邏輯驗證及補充推理，生成完整推理結(jié)果；
6、通過對比候選主路徑和驗證后的推理結(jié)果，更新所述知識圖譜多級緩存模型及所述網(wǎng)絡(luò)參數(shù)，對n個神經(jīng)網(wǎng)絡(luò)單元的任務(wù)分配策略進行優(yōu)化調(diào)整。
7、進一步，每層存儲結(jié)構(gòu)的連接密度值表示為：
8、
9、式中，為第層存儲結(jié)構(gòu)的連接密度值；為第層中所存儲的知識圖譜中實際含有的實體關(guān)系數(shù)量；為知識圖譜中實體關(guān)系總數(shù)；為第層中所存儲的訪問頻率超過預(yù)設(shè)閾值的實體關(guān)系數(shù)量；為平衡因子，取值范圍為0.2到0.4；
10、在離線階段，方法還包括：當(dāng)連接密度值大于對應(yīng)預(yù)設(shè)閾值時，采用鄰接矩陣存儲該層存儲結(jié)構(gòu)的信息，否則采用鄰接表存儲。
11、進一步，計算每個實體的緩存優(yōu)先級分數(shù)的方式為：
12、
13、式中，為緩存優(yōu)先級得分；為在單位時間內(nèi)單個實體的累計訪問次數(shù)；為預(yù)設(shè)時間窗口長度；為該實體所在層存儲結(jié)構(gòu)的連接密度值；為訪問頻率權(quán)重；為時間衰減系數(shù)；為衰減速率；為當(dāng)前距離上次訪問該實體的時間間隔。
14、進一步，將所述n個關(guān)聯(lián)并行神經(jīng)網(wǎng)絡(luò)單元部署至gpu或cpu的方式為：
15、采用動態(tài)調(diào)度策略，依據(jù)實時算力比值進行動態(tài)調(diào)整，其中，實時算力比值，式中，、、分別表示gpu的計算核心數(shù)量、時鐘頻率、單次運算效率系數(shù)；、、分別表示cpu的核心數(shù)量、線程數(shù)、單次運算效率系數(shù)；
16、當(dāng)大于10時，神經(jīng)網(wǎng)絡(luò)單元運行并行度大于等于2?或批處理大于等于16即可觸發(fā)gpu加速；當(dāng)大于?1?且小于等于10時，將神經(jīng)網(wǎng)絡(luò)單元運行并行度大于等于4或批處理大小大于等于32的任務(wù)分配給gpu；當(dāng)小于等于1時，將神經(jīng)網(wǎng)絡(luò)單元運行并行度大于等于8或批處理大小大于等于64的任務(wù)分配給cpu；當(dāng)一旦檢測到任務(wù)包含分支邏輯或不規(guī)則控制流，將任務(wù)分配給cpu；
17、目標(biāo)實體節(jié)點的初始狀態(tài)得分的計算方式為：
18、
19、式中，和分別表示目標(biāo)實體節(jié)點的入度和出度；表示知識圖譜中最大度數(shù)；表示知識圖譜中第類關(guān)系的占比；表示知識圖譜中關(guān)系類型總數(shù)；表示目標(biāo)實體節(jié)點的訪問頻率；表示知識圖譜中所有節(jié)點的平均訪問頻率；、、分別表示各特征的權(quán)重系數(shù)，取值范圍在0到1之間且總和為1。
20、進一步，目標(biāo)實體節(jié)點的橫向關(guān)系密集度的計算方式：
21、
22、式中，為橫向關(guān)系密集度；為目標(biāo)實體節(jié)點在其所在一層存儲結(jié)構(gòu)中的一階鄰居數(shù)量；為目標(biāo)實體節(jié)點所在一層存儲結(jié)構(gòu)中的節(jié)點總數(shù)；為目標(biāo)實體節(jié)點對應(yīng)的邊權(quán)重超過閾值的強連接鄰居數(shù)量；為強連接權(quán)重系數(shù)；
23、縱向關(guān)系密集度的計算方式為：
24、
25、式中，為縱向關(guān)系密集度；為直接與間接跨層連接的節(jié)點總數(shù)；為最大可能跨層連接數(shù)量；為直接跨層連接數(shù)量；為直接連接權(quán)重系數(shù)；
26、所述關(guān)系分布狀態(tài)為橫向關(guān)系密集度和縱向關(guān)系密集度的加權(quán)求和。
27、進一步，等效卷積核參數(shù)計算公式為：
28、
29、式中，表示原始卷積核參數(shù)，、分別表示原始卷積核的尺寸、基準卷積核的尺寸，表示預(yù)設(shè)的誤差調(diào)節(jié)系數(shù)，表示預(yù)設(shè)最大允許誤差，表示歷史訓(xùn)練誤差，為誤差修正項。
30、進一步，每個推理路徑組的可信度的計算方式為：
31、
32、式中，表示該路徑組中第條路徑的權(quán)重，n表示該路徑組中的路徑總數(shù)；表示該路徑組中第條路徑的最長公共子序列長度；表示該路徑組中第條路徑的路徑總長度；表示該路徑組中第條路徑中第個關(guān)系的強度值；表示該路徑組中第條路徑中的關(guān)系數(shù)量；
33、推理路徑組的分配方式為：
34、計算每個推理路徑組的隊列優(yōu)先級，表示為；其中，表示單個推理路徑組的邏輯復(fù)雜度得分（即時間復(fù)雜度，根據(jù)推理請求確定）；表示單個推理路徑組的估計執(zhí)行時間；表示單個推理路徑組的內(nèi)存需求量；表示已知可用內(nèi)存量；表示內(nèi)存權(quán)重系數(shù)；
35、根據(jù)隊列優(yōu)先級得分高的優(yōu)先分配。
36、進一步，每條推理路徑的置信度分數(shù)的計算方式為：
37、
38、式中，表示該條推理路徑的第個特征的注意力權(quán)重，表示預(yù)設(shè)路徑長度懲罰系數(shù)，表示該條推理路徑長度，表示預(yù)設(shè)關(guān)系強度權(quán)重，表示預(yù)設(shè)關(guān)系強度閾值；
39、基于所述置信度分數(shù)對該推理路徑組內(nèi)推理路徑進行排序的方式為：
40、采用改進的堆排序算法實現(xiàn)高效排序，堆的調(diào)整函數(shù)定義為：
41、
42、其中，表示待排序的推理路徑組；表示當(dāng)前節(jié)點索引；表示左右子節(jié)點中置信度分數(shù)最大的節(jié)點索引；
43、最終選擇置信度分數(shù)最高的條推理路徑作為候選主路徑，其中的取值范圍為3到5，具體取值通過如下公式確定：，其中和分別表示最大和最小置信度分數(shù)；表示分數(shù)差異閾值；
44、其中，對于置信度分數(shù)相近的路徑，引入多樣性評估函數(shù)，進行多樣性剪枝：和表示兩條路徑的節(jié)點集合，在從堆頂依次提取路徑時，若當(dāng)前路徑與已入選路徑集合的 div值低于預(yù)設(shè)閾值，則跳過該路徑并提取下一個路徑，直至選出n?條既滿足高分要求又具備足夠差異性的推理路徑；若篩選后的推理路徑數(shù)量不足n，則下調(diào)預(yù)設(shè)閾值，直至選出n條路徑或遍歷完所有候選，以此在多樣性與覆蓋率之間取得平衡。
45、進一步，所述邏輯驗證的方式：
46、對每條候選主路徑進行一致性檢查：檢查函數(shù)定義為：，其中表示待驗證的主路徑；表示第條規(guī)則函數(shù)；表示規(guī)則總數(shù)；約束條件驗證采用謂詞邏輯表達式：，其中，表示關(guān)系謂詞；表示約束謂詞，表示兩個實體；確定符合一致性要求的主路徑；
47、對符合一致性要求的每條主路徑進行擴展，得到擴展路徑，方式為：，其中表示最小置信度閾值；表示最小支持度閾值；和分別表示置信度計算函數(shù)和支持度計算函數(shù)；將擴展路徑作為最終推理結(jié)果。
48、按照本發(fā)明的另一方面，提供了一種計算機可讀存儲介質(zhì)，所述計算機可讀存儲介質(zhì)包括存儲的計算機程序，其中，在所述計算機程序被處理器運行時控制所述存儲介質(zhì)所在設(shè)備執(zhí)行如上所述的方法的步驟。
49、總體而言，通過本發(fā)明所構(gòu)思的以上技術(shù)方案與現(xiàn)有技術(shù)相比，本發(fā)明提供的技術(shù)方案主要具有以下有益效果：
50、1.?本發(fā)明提出一種大規(guī)模知識圖譜推理優(yōu)化方法，通過構(gòu)建離線階段的多層存儲結(jié)構(gòu)與動態(tài)緩存機制，結(jié)合連接密度自適應(yīng)的存儲策略及分級緩存優(yōu)先級模型，實現(xiàn)了知識圖譜數(shù)據(jù)的高效組織與快速訪問，顯著降低了數(shù)據(jù)檢索延遲。通過設(shè)計輕量級神經(jīng)網(wǎng)絡(luò)組與智能任務(wù)分配，將計算密集型并行任務(wù)與邏輯復(fù)雜串行任務(wù)分別調(diào)度至gpu和cpu，充分發(fā)揮異構(gòu)計算資源的協(xié)同優(yōu)勢，解決了傳統(tǒng)單一計算模式導(dǎo)致的資源利用率低下的問題。在推理在線階段，通過引入實體節(jié)點初始狀態(tài)得分與算力比值的動態(tài)決策機制，實現(xiàn)了推理路徑組的智能分配；結(jié)合基于等效卷積核組的并行特征提取與cpu端的自適應(yīng)參數(shù)優(yōu)化，既保證了高并發(fā)路徑計算的效率，又通過邏輯驗證與參數(shù)調(diào)整確保了推理結(jié)果的準確性。此外，通過閉環(huán)反饋機制持續(xù)更新緩存模型與任務(wù)分配策略，使系統(tǒng)能夠動態(tài)適應(yīng)知識圖譜的演化與負載變化，實現(xiàn)了推理效率與資源利用率的雙重優(yōu)化，整體技術(shù)方案具有顯著系統(tǒng)性、自適應(yīng)性與動態(tài)演化能力優(yōu)勢。