該團隊開發的新技術最酷的地方在於,它不需要複雜的傳感器、大量的訓練或人類指導。相反,它主要依靠嵌入在機器人手臂上的彩色攝像頭。研究人員David Held表示,之前深度相機將紅外光照射在物體上,以確定其形狀,這種技術對於不透明的物體很有效。對於透明和反光物體的挑戰是,光線要麼直接穿過,要麼從表面散落,使深度相機無法計算出準確的形狀。
然而,彩色相機可以看到透明和反射物體,也可以看到不透明的物體。研究人員開發了一種彩色相機系統,能夠根據顏色識別形狀。利用該技術,研究人員能夠訓練該系統模仿深度系統,並隱含推斷形狀來把握物體。該團隊使用針對不透明物體的深度相機圖像與相同物體的彩色圖像配對。訓練完成後,彩色相機系統應用於透明閃亮的物體。根據這些圖像,加上深度攝像頭能夠提供的信息,系統可以很成功地抓住具有挑戰性的物體。
研究人員發現,有時手臂會失誤,但它在抓取透明或反光物體方面的表現比以往任何系統都要好。該系統在抓取不透明物體時,仍能比透明或反光物品更有效。該系統還能夠抓取雜亂堆積的物體。