得益于人工智能，機(jī)器學(xué)習(xí)和計(jì)算機(jī)視覺等融合技術(shù)的進(jìn)步，機(jī)器人每天都能看到，分析和做出更像人類的決策。開發(fā)此類機(jī)器視覺分析邏輯涉及實(shí)現(xiàn)解決方案，這些解決方案可以確定對(duì)象的方向，處理移動(dòng)的對(duì)象并執(zhí)行導(dǎo)航。而解決方案的基礎(chǔ)是始于兩項(xiàng)重要任務(wù)：
一、預(yù)處理通過傳感器從現(xiàn)實(shí)世界收集的數(shù)據(jù)，以使各個(gè)子系統(tǒng)將其變?yōu)楦捎玫臓顟B(tài)
二、執(zhí)行特征檢測(cè)以從數(shù)據(jù)中提取視覺特征，例如角，邊等。
這些系統(tǒng)到位后，可以繼續(xù)使用更高級(jí)別的機(jī)器人視覺功能，即：對(duì)象檢測(cè)和分類以及對(duì)象跟蹤和導(dǎo)航。
檢測(cè)物體和方向
由于視點(diǎn)的變化，不同尺寸的圖像和動(dòng)態(tài)照明條件，物體檢測(cè)和分類在傳統(tǒng)上一直具有挑戰(zhàn)性。可以提供幫助的一種解決方案是，使用經(jīng)過訓(xùn)練以檢測(cè)和分類對(duì)象的神經(jīng)網(wǎng)絡(luò)。
一種流行的方法是使用卷積神經(jīng)網(wǎng)絡(luò)（CNN），其中圖像的一小部分以稱為“滑動(dòng)窗口”的過程被饋送到網(wǎng)絡(luò)中。另一個(gè)任務(wù)是確定對(duì)象的方向，這對(duì)于對(duì)象交互和導(dǎo)航都很重要。這里的主要挑戰(zhàn)是確定對(duì)象或機(jī)器人本身在3D世界空間中的方向。一種流行的方法是應(yīng)用單應(yīng)性算法（例如線性最小二乘法求解器，隨機(jī)采樣和共識(shí)（RANSAC））以及最小二乘方中值來(lái)計(jì)算2D圖像幀之間的點(diǎn)。一旦檢測(cè)到對(duì)象，就可以為它們分配元數(shù)據(jù)，例如ID，邊界框等，這些元數(shù)據(jù)可以在對(duì)象檢測(cè)和導(dǎo)航期間使用。
可以檢測(cè)和識(shí)別物體和人
識(shí)別出周圍環(huán)境的物體和方面后，機(jī)器人需要對(duì)其進(jìn)行跟蹤。由于對(duì)象可以移動(dòng)，并且機(jī)器人的視口會(huì)隨著導(dǎo)航而變化，因此開發(fā)人員將需要一種機(jī)制來(lái)隨時(shí)間推移以及跨攝像機(jī)和其他傳感器捕獲的幀跟蹤這些元素。由于此機(jī)制必須足夠快才能運(yùn)行每個(gè)幀，因此多年來(lái)，已經(jīng)設(shè)計(jì)了許多算法，這些算法以不同的方式解決該問題。
例如，質(zhì)心跟蹤會(huì)計(jì)算跨幀的已標(biāo)識(shí)對(duì)象周圍的邊界框的中心點(diǎn)，然后在假定對(duì)象每幀僅移動(dòng)一定距離的假設(shè)下計(jì)算該點(diǎn)變化時(shí)該點(diǎn)之間的距離。另一種方法是使用卡爾曼濾波器，該濾波器使用一段時(shí)間內(nèi)的統(tǒng)計(jì)數(shù)據(jù)來(lái)預(yù)測(cè)對(duì)象的位置。
替代地，均值漂移算法是一種基本上找到幀的子區(qū)域內(nèi)圖像的某些方面（例如，顏色直方圖）的均值的方法。然后，通過尋求最大化特征的相似性，在下一幀中尋找相同的描述。這使它能夠解決諸如比例，方向等變化，并最終跟蹤對(duì)象的位置。
由于這些技術(shù)僅需要跟蹤原始特征的子集，因此它們通常可以高效且成功地處理諸如方向或遮擋等變化，從而使它們對(duì)于機(jī)器人視覺處理非常有效。
但是對(duì)象并不是唯一需要跟蹤的東西。機(jī)器人本身應(yīng)該能夠成功地導(dǎo)航其環(huán)境，這就是同步定位和地圖（SLAM）出現(xiàn)的地方。SLAM試圖估算機(jī)器人的位置并得出環(huán)境圖。可以使用許多算法（例如卡爾曼濾波器）來(lái)實(shí)現(xiàn)。SLAM通常通過融合來(lái)自多個(gè)傳感器的數(shù)據(jù)來(lái)實(shí)現(xiàn)，并且當(dāng)涉及視覺數(shù)據(jù)時(shí)，該過程通常稱為視覺慣性同時(shí)定位和映射（VISLAM）。
應(yīng)用來(lái)自多個(gè)傳感器的多個(gè)過濾器以收集跟蹤信息。當(dāng)然，SLAM只能達(dá)到機(jī)器人可以感知的水平，因此開發(fā)人員應(yīng)選擇高質(zhì)量的相機(jī)和傳感器，并找到確保其不受數(shù)據(jù)捕獲影響的方法。從安全角度考慮，開發(fā)人員還應(yīng)設(shè)計(jì)故障保險(xiǎn)柜，以防萬(wàn)一無(wú)法獲取數(shù)據(jù)（例如，攝像機(jī)被遮蓋）。
下一代利用計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)技術(shù)的機(jī)器人，具有“查看”周圍環(huán)境，“分析”動(dòng)態(tài)場(chǎng)景或變化的條件以及“做出決定”的能力，因此更加先進(jìn)。這將要求開發(fā)人員精通用于對(duì)象檢測(cè)和分類以及對(duì)象跟蹤和導(dǎo)航的高級(jí)機(jī)器人視覺功能和工具。