本發(fā)明涉及船舶,尤其涉及基于雙目視覺與激光雷達的船舶姿態(tài)耦合方法及系統(tǒng)。
背景技術:
1、現有的船舶靠泊操作通常是由監(jiān)控設備拍攝船舶運動來進行觀察的,使得工作人員無法深度感知距離信息和船舶狀態(tài)。這是由于普通監(jiān)控視頻是二維平面圖像,無法準確判斷船體與碼頭、船體與相鄰船舶之間的精確距離。造成工作人員無法通過單一攝像頭畫面得知還有多少米靠攏,容易造成誤判的情況。并且這樣的設備對環(huán)境要求高,使用空間受限,在天氣不好以及黑夜等能見度較低的情況下,無法對船舶進行確認判斷。對于目標外的對象如:海浪、煙霧、飛鳥等,也容易被一同被收集至視頻畫面中,加劇工作人員對船舶運動的誤判情況。并且,這樣單一的采用視頻監(jiān)控設備觀察船舶運動導致盲區(qū)過多,極度依賴工作人員的操作經驗和注意力。
2、造成這些問題的主要原因是現有技術中船舶監(jiān)測主要為對船舶進行的監(jiān)控為二維平面監(jiān)控,而在立體的空間內,很多重要信息被忽略,或是平面內不重要的信息被采集應用,進而導致不能精密分析船舶運動走向的方法,不便于提前預判船舶走勢,無法全面掌控船舶重要部位運動趨勢,并且基于目前的信息采集設備,上述問題無法完全避免。
3、因此,對于船舶靠泊時的實時監(jiān)測操作急需一種可以實時計算,且可以全面把控船舶各方位實時移動變化的方法,以減少船舶在系泊過程中出現靠泊困難,以及影響難以預判船舶系泊操作等的現象。本技術提出基于激光雷達點云的船舶實時計算方法及系統(tǒng),對數據采集設備回傳的數據進行分析、去噪、識別特征點等一系列處理,在對特征點進行運動測量、同時計算出整個船體的運動情況。對現場進行分析、預測,形成新的船舶特征點識別算法。
技術實現思路
1、針對現有技術中對于船舶系泊操作的難點和實際情況,導致目前船舶系泊操作難以把握整體船舶走向以及海況對船舶的影響,導致船舶系泊操作困難等情況,本發(fā)明首先提出基于激光雷達點云的船舶六自由度實時計算方法,具體包括如下步驟:
2、步驟s1,獲取點云特征信息及圖像信息,對激光雷達實時采集的船舶點云數據進行特征信息提取,同時接收雙目視覺傳感器采集的圖像信息;
3、步驟s2,處理圖像信息并追蹤特征點,根據所述雙目視覺傳感器的內參和半全局匹配算法,對所述圖像信息進行處理,得到目標區(qū)域的特征點,并對所述特征點進行追蹤;
4、步驟s3,構建空間模型與坐標系,對所述點云特征信息進行隨機抽樣,擬合出地平面,并基于所述點云特征信息計算船舶的前向向量,根據所述地平面和所述前向向量構建三維坐標系及對應的轉換矩陣,并結合所述特征點計算平移矩陣;
5、步驟s4,確定目標三維坐標,分別建立輔助坐標系和目標物坐標系,確定兩者之間的歐式變換關系,根據所述轉換矩陣和所述特征點計算目標船舶的三維坐標;
6、步驟s5,融合數據并輸出姿態(tài)結果,將所述船舶點云與所述目標三維坐標進行融合,通過點云匹配得到目標船舶的姿態(tài)實時變化結果,并基于標定外參輸出標定結果。
7、進一步的,在所述步驟s1中,所述特征信息提取包括,將點云數據中的點云集按內點數量進行區(qū)分,將內點數量最多的點云集確定為目標船舶點云,并據此獲得目標船舶的位置和姿態(tài);
8、所述圖像信息為雙目視覺傳感器采集的雙目立體視差圖。
9、進一步的,在所述步驟s2中,所述雙目立體視差圖的生成包括,對目標區(qū)域進行左右成像,得到左右成像坐標圖;
10、計算左右成像坐標圖的平面像素差,通過映射表進行極線校正,使基線平行于圖像水平方向,并使左右圖像中的像素點在行方向上對應,計算平面像素差得到測距模型。
11、進一步的,在所述步驟s2中,所述測距模型為:
12、;
13、其中,z為空間點與雙目視覺傳感器垂直平面的距離,f為焦距,b為基線長度,u1和u2分別為空間點在左右像素平面上的水平坐標。
14、進一步的,在所述步驟s2中,所述對特征點進行追蹤包括,基于光流法,設t時刻圖像中的特征點坐標為(x,y),像素亮度為i(x,y,t),經δt時刻后運動至(x+u,y+v),u、v為特征點運動距離,通過泰勒展開得到運動速度u'、v',實現對特征點的追蹤。
15、進一步的,在所述步驟s3中,所述隨機抽樣擬合地平面包括,從船舶點云中隨機抽取三個點擬合平面,迭代優(yōu)化得到最優(yōu)地平面;
16、計算目標船舶點云與特征點到該平面的距離,得到前向向量,構建空間模型并計算轉換矩陣。
17、進一步的,在所述步驟s4中,輔助坐標系以雙目視覺傳感器為原點建立,xc軸沿傳感器橫向,zc軸為拍攝方向,yc軸垂直向上;
18、所述目標物坐標系以目標船舶為參考,原點為輔助坐標系原點垂直投影點ow,yw軸為船舶正前方向,xw軸垂直向右。
19、進一步的,在所述步驟s4中,所述歐式變換關系通過雙目視覺傳感器距地面高度h計算,融合輔助坐標系與目標物坐標系,得到目標船舶的三維坐標。
20、進一步的,在所述步驟s5中,基于標定的雙目視覺傳感器內參,利用公式:
21、;
22、計算目標船舶的深度信息,得到姿態(tài)實時變化結果。
23、根據本發(fā)明的另一個方面,還提出基于雙目視覺與激光雷達的船舶姿態(tài)耦合方法系統(tǒng),系統(tǒng)適用于上述任一項基于雙目視覺與激光雷達的船舶姿態(tài)耦合方法,具體包括如下模塊:
24、激光雷達數據處理模塊,用于對采集的船體點云數據進行處理,提取特征信息;
25、雙目視覺傳感器處理模塊,連接所述激光雷達數據處理模塊,用于對圖像信息進行立體校正、特征點提取與追蹤;
26、控制中心模塊,連接所述雙目視覺傳感器處理模塊,用于融合點云特征與圖像特征,進行點云匹配與姿態(tài)計算;
27、輸出模塊,連接所述控制中心模塊,用于實時輸出船舶姿態(tài)計算結果。
28、與現有技術相比較,本發(fā)明的有益效果在于:
29、其一,本發(fā)明基于雙目視覺與激光雷達的船舶姿態(tài)耦合方法,通過激光雷達對實時收集的船舶點云數據并對船舶點云數據進行特征信息提取,再耦合雙目視覺傳感器傳來的圖形信息,構建三維坐標系融合平面空間到立體空間的精準監(jiān)測數據,實現了優(yōu)勢互補,提高了監(jiān)測效率和準確率,解決了現有船舶監(jiān)測僅是依靠單一監(jiān)測設備進行監(jiān)測導致監(jiān)測結果不準確的情況。
30、其二,通過多臺工業(yè)傳感器獲取現場船體的圖像數據,采用非線性方程求解傳感器的內參和外參,并重建視野中特征角點的三維坐標(x,y,z),推導出船體的三維信息,將二維的觀察點與三維空間進行融合,兼顧平面和空間的全部特征點,實現優(yōu)勢互補。根據針孔成像原理,所求結果應為通過該空間點和傳感器光心的空間直線。立體視覺系統(tǒng)可以從不同位置處得到同一空間點的多個投影點,通過多個投影點可以獲得多條經過該空間點的空間直線,這些直線的交點就是該空間點,因此立體視覺系統(tǒng)可以獲得空間點的深度信息。從而確定各坐標系間的轉換關系及各方向的位移量,在復雜應用場景下的高安全性、高可靠性與高適應性。
31、其三,本發(fā)明在進行深度融合計算的同時,還剔除了飛鳥、粉塵等臨時噪聲點,保障數據可靠性。融合的特征點保留了3d空間中原始的幾何信息,具有強大的三維表征能力。還基于激光雷達點云的目標檢測通過對船舶特征的提取、障礙物的探測和周邊目標的感知,能夠為船舶監(jiān)測提供準確的定位和導航信息,可直接用于船舶靠泊監(jiān)控任務,提升碼頭作業(yè)的智能化水平。