本技術涉及機器人分揀,更具體地說,本技術涉及一種工業機器人視覺分揀方法及系統。
背景技術:
1、機器人視覺分揀是現代智能制造和物流分揀中的關鍵,其主要目標是利用視覺感知和智能算法,使工業機器人能夠快速、準確地識別和抓取待分揀工件,實現自動化生產和智能化倉儲;目前,機器人視覺分揀已廣泛應用于生產流水線、快遞分揀中心以及電子零部件組裝等場景,能夠顯著提高作業效率、降低人工成本,并減少人為操作誤差。
2、現有的工業機器人視覺分揀方法主要依賴于在實驗室或模擬場景下訓練的抓取檢測模型,該模型通常通過大量的合成圖像進行訓練,從而學習工件的形狀、位置和姿態特征;然而,模擬的合成圖像與真實分揀環境之間存在顯著差異,例如光照變化、背景復雜度、工件表面紋理差異等,導致模型在真實分揀工位中的泛化能力不足,容易出現抓取點預測偏差,同時,現有技術在跨域特征遷移方面缺乏有效機制,模型難以自適應調整,導致在模擬域表現良好的模型在現實域應用時準確率下降,造成工業機器人在實際執行分揀抓取時,未能充分結合視覺預測結果與真實偏差進行動態優化,從而導致工業機器人在不斷更新的工位環境中的分揀動作穩定性不足;因此,如何基于模擬與現實域差異度自適應優化在實時變化的生產環境下提升工業機器人對分揀工件的分揀靈活性成為業界面臨的難題。
技術實現思路
1、本技術提供一種工業機器人視覺分揀方法及系統,可基于模擬與現實域差異度自適應優化在實時變化的生產環境下提升工業機器人對分揀工件的分揀靈活性。
2、第一方面,本技術提供一種工業機器人視覺分揀方法,包括如下步驟:
3、獲取待分揀工件在預設的模擬仿真環境中不同姿態和光照下的多張合成訓練圖像;
4、基于所有的合成訓練圖像生成工業機器人對待分揀工件進行視覺分揀時的初始抓取檢測模型;
5、采集待分揀工件在分揀工位中的真實圖像,進而由所述真實圖像和所述初始抓取檢測模型輸出待分揀工件的抓取點預測結果,通過得到的抓取點預測結果與人工在所述真實圖像上的標注抓取點之間的空間位置確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數;
6、將所述真實圖像輸入至預訓練的特征提取器,提取得到待分揀工件的圖像高層語義特征,通過所有合成訓練圖像與所述圖像高層語義特征確定工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度;
7、依據所述抓取偏差系數與所述跨域特征分布差異度對所述初始抓取點檢測模型進行自適應優化訓練,進而基于優化后的抓取點檢測模型引導工業機器人對待分揀工件進行動態分揀抓取。
8、在一些實施例中,基于所有的合成訓練圖像生成工業機器人對待分揀工件進行視覺分揀時的初始抓取檢測模型具體包括:
9、獲取工業機器人已預訓練完成的抓取點檢測網絡;
10、根據所有的合成訓練圖像對所述抓取點檢測網絡進行遷移微調,得到工業機器人對待分揀工件進行視覺分揀時的初始抓取點檢測模型。
11、在一些實施例中,由所述真實圖像和所述初始抓取檢測模型輸出待分揀工件的抓取點預測結果具體包括:
12、將所述真實圖像輸入至所述初始抓取點檢測模型中;
13、所述初始抓取點檢測模型識別檢測待分揀工件的候選抓取點位置;
14、對識別出的候選抓取點位置進行篩選處理,得到待分揀工件的抓取點預測結果。
15、在一些實施例中,通過得到的抓取點預測結果與人工在所述真實圖像上的標注抓取點之間的空間位置確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數具體包括:
16、在所述真實圖像中人工標注抓取點;
17、由所述人工標注抓取點與得到的抓取點預測結果之間的空間位置計算人工標注抓取點與抓取點預測結果之間的像素偏移量;
18、通過所述像素偏移量確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數。
19、在一些實施例中,將所述真實圖像輸入至預訓練的特征提取器,提取得到待分揀工件的圖像高層語義特征具體包括:
20、獲取預訓練的特征提取器;
21、將所述真實圖像輸入至所述特征提取器;
22、通過所述特征提取器對輸入的所述真實圖像進行特征映射,進而提取得到待分揀工件的圖像高層語義特征。
23、在一些實施例中,通過所有合成訓練圖像與所述圖像高層語義特征確定工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度具體包括:
24、將待分揀工件的真實圖像所對應的所述圖像高層語義特征作為現實域對應的特征向量集合;
25、將所有的合成訓練圖像輸入預訓練的特征提取器,提取得到對應的圖像高層語義特征作為模擬域對應的特征向量集合;
26、對所述現實域對應的特征向量集合和所述模擬域對應的特征向量集合進行差異比較,得到工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度。
27、在一些實施例中,依據所述抓取偏差系數與所述跨域特征分布差異度對所述初始抓取點檢測模型進行自適應優化訓練具體包括:
28、依據所述抓取偏差系數與所述跨域特征分布差異度確定模擬-現實差異指標;
29、以所述模擬-現實差異指標為權重系數,構建合成圖像強監督信號與真實圖像域自適應信號的聯合損失函數;
30、基于所述聯合損失函數對所述初始抓取點檢測模型進行自適應優化訓練,得到優化后的抓取點檢測模型。
31、在一些實施例中,基于優化后的抓取點檢測模型引導工業機器人對待分揀工件進行動態分揀抓取具體包括:
32、獲取分揀工位中待分揀工件的實時圖像,并將所述實時圖像輸入至優化后的抓取點檢測模型;
33、通過優化后的抓取點檢測模型對輸入的實時圖像進行深度特征解析,輸出待分揀工件在圖像坐標系中的抓取點檢測結果;
34、基于輸出的抓取點檢測結果生成工業機器人的抓取執行路徑,并驅動工業機器人末端執行器完成對待分揀工件的抓取動作。
35、在一些實施例中,通過工業相機采集待分揀工件在分揀工位中的真實圖像。
36、第二方面,本技術提供一種工業機器人視覺分揀系統,包括:
37、獲取模塊,用于獲取待分揀工件在預設的模擬仿真環境中不同姿態和光照下的多張合成訓練圖像;
38、處理模塊,用于基于所有的合成訓練圖像生成工業機器人對待分揀工件進行視覺分揀時的初始抓取檢測模型;
39、所述處理模塊,還用于采集待分揀工件在分揀工位中的真實圖像,進而由所述真實圖像和所述初始抓取檢測模型輸出待分揀工件的抓取點預測結果,通過得到的抓取點預測結果與人工在所述真實圖像上的標注抓取點之間的空間位置確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數;
40、所述處理模塊,還用于將所述真實圖像輸入至預訓練的特征提取器,提取得到待分揀工件的圖像高層語義特征,通過所有合成訓練圖像與所述圖像高層語義特征確定工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度;
41、執行模塊,用于依據所述抓取偏差系數與所述跨域特征分布差異度對所述初始抓取點檢測模型進行自適應優化訓練,進而基于優化后的抓取點檢測模型引導工業機器人對待分揀工件進行動態分揀抓取。
42、本技術公開的實施例提供的技術方案具有以下有益效果:
43、本技術中,通過獲取待分揀工件在預設的模擬仿真環境中不同姿態和光照下的多張合成訓練圖像;基于所有的合成訓練圖像生成工業機器人對待分揀工件進行視覺分揀時的初始抓取檢測模型;采集待分揀工件在分揀工位中的真實圖像,進而由所述真實圖像和所述初始抓取檢測模型輸出待分揀工件的抓取點預測結果,通過得到的抓取點預測結果與人工在所述真實圖像上的標注抓取點之間的空間位置確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數;將所述真實圖像輸入至預訓練的特征提取器,提取得到待分揀工件的圖像高層語義特征,通過所有合成訓練圖像與所述圖像高層語義特征確定工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度;依據所述抓取偏差系數與所述跨域特征分布差異度對所述初始抓取點檢測模型進行自適應優化訓練,進而基于優化后的抓取點檢測模型引導工業機器人對待分揀工件進行動態分揀抓取。
44、由此可見,本技術中,首先,通過得到的抓取點預測結果與人工在所述真實圖像上的標注抓取點之間的空間位置確定工業機器人對待分揀工件進行視覺分揀時的抓取偏差系數,可以定量反映初始抓取點檢測模型在真實分揀工位中對待分揀工件定位的誤差程度,為后續的模型優化提供直接的反饋依據,使得模型在調整過程中不僅依賴合成數據的訓練規律,還能結合真實環境中的誤差表現;其次,通過所有合成訓練圖像與所述圖像高層語義特征確定工業機器人對待分揀工件進行視覺分揀時在模擬域與現實域之間的跨域特征分布差異度,可以定量衡量模擬域與現實域之間的特征不一致性,以便模型在優化過程中有針對性地減少域間偏差,使其具備更好的遷移能力,由此,工業機器人在視覺分揀時不僅能在模擬環境下保持高效識別,還能在真實工位中具備穩定適應性,從而在面對不同環境條件時依然能夠靈活完成分揀抓取任務;最后,依據所述抓取偏差系數與所述跨域特征分布差異度對所述初始抓取點檢測模型進行自適應優化訓練,可以實現模型在真實工況下的動態調整,能夠同時修正定位誤差和特征分布差異,從而保證模型在不斷變化的分揀環境中始終保持較高的預測精度,以有效提升工業機器人對復雜多變場景的適應性與分揀靈活性,進而基于優化后的抓取點檢測模型引導工業機器人對待分揀工件進行動態分揀抓取,使工業機器人能夠在生產現場不斷變化的光照、工件堆疊狀態或干擾因素下,依舊保持穩定、準確的抓取能力,從而有效提升工業機器人分揀的適應性和效率;綜上所述,該方案可基于模擬與現實域差異度自適應優化在實時變化的生產環境下提升工業機器人對分揀工件的分揀靈活性。