高通專利為AR/VR面部追蹤提出可調(diào)節(jié)升降攝像頭設(shè)計(jì)
查看引用/信息源請(qǐng)點(diǎn)擊:映維網(wǎng)Nweon
類似于智能手機(jī)的升降攝像頭設(shè)計(jì)
(映維網(wǎng)Nweon?2023年08月31日)XR設(shè)備可以通過(guò)攝像頭捕獲的圖像或視頻幀來(lái)執(zhí)行面部追蹤、嘴部追蹤、眼動(dòng)追蹤和/或眉毛追蹤等等。由于使用了更緊湊的技術(shù),XR設(shè)備正變得越來(lái)越薄、越來(lái)越小。尺寸的減小可能會(huì)令特定組件難以集成,例如支持面部追蹤算法的面部追蹤攝像頭。
另外,次優(yōu)攝像頭放置可能導(dǎo)致需要軟件算法來(lái)抵消捕獲數(shù)據(jù)中的非理想性,而軟件算法會(huì)增加電子設(shè)備的計(jì)算負(fù)荷。
所以在名為“Adjustable camera system”的專利申請(qǐng)中,高通提出了一種可調(diào)節(jié)攝像頭系統(tǒng)。在一個(gè)實(shí)施例中,包含所述可調(diào)節(jié)攝像頭系統(tǒng)的可穿戴移動(dòng)設(shè)備可以包括一個(gè)頭戴式顯示器或智能眼鏡。
簡(jiǎn)單來(lái)說(shuō),高通構(gòu)思的是一種類似于智能手機(jī)升降攝像頭的設(shè)計(jì)。以追蹤嘴巴為例,當(dāng)需要追蹤嘴巴時(shí),內(nèi)縮頭顯中的攝像頭可以從鼻梁左右的位置彈出,并下沉至適當(dāng)?shù)奈恢?,然后就可以?duì)嘴巴進(jìn)行成像追蹤。當(dāng)不需要追蹤時(shí),攝像頭可以回升縮回至頭顯之內(nèi)。
攝像頭結(jié)構(gòu)可包括一個(gè)或多個(gè)透鏡,一個(gè)或多個(gè)攝像頭傳感器,一個(gè)或多個(gè)發(fā)射器,或一個(gè)或多個(gè)附加傳感器和/或設(shè)備。
攝像頭結(jié)構(gòu)可以在不使用或不需要時(shí)設(shè)置為縮回狀態(tài)。在縮回狀態(tài)下,攝像頭結(jié)構(gòu)的至少一部分可縮回/嵌入在所述可穿戴移動(dòng)設(shè)備的外殼內(nèi),以在不使用時(shí)隱藏?cái)z像頭結(jié)構(gòu)。
在使用或需要時(shí),攝像頭結(jié)構(gòu)可以設(shè)置為展開狀態(tài)。當(dāng)攝像頭結(jié)構(gòu)設(shè)置為展開狀態(tài)時(shí),攝像頭的一個(gè)或多個(gè)攝像頭傳感器結(jié)構(gòu)可以捕獲圖像,例如嘴巴,下巴或鼻子等等。
在展開狀態(tài)下,攝像頭結(jié)構(gòu)可從可穿戴移動(dòng)設(shè)備外殼的底部延伸。例如,攝像頭結(jié)構(gòu)可以從外殼的底部延伸并鎖定在與可穿戴移動(dòng)設(shè)備的外殼底部表面垂直的位置。
攝像頭結(jié)構(gòu)可包括電機(jī),電機(jī)可將攝像頭結(jié)構(gòu)設(shè)置為縮回狀態(tài)和/或展開狀態(tài)。電機(jī)可以響應(yīng)一個(gè)或多個(gè)觸發(fā)器而激活,觸發(fā)器包括按下可穿戴移動(dòng)設(shè)備的按鈕、來(lái)自用戶的語(yǔ)音命令、用戶的輸入手勢(shì)、攝像頭應(yīng)用程序的輸入或狀態(tài)、應(yīng)用程序的請(qǐng)求、啟動(dòng)嘴部追蹤應(yīng)用程序和/或操作等。
在部署時(shí),攝像頭結(jié)構(gòu)的放置可以產(chǎn)生一個(gè)或多個(gè)攝像頭傳感器的理想視場(chǎng),以允許一個(gè)或多個(gè)攝像頭傳感器對(duì)用戶嘴的一個(gè)或多個(gè)區(qū)域進(jìn)行成像,并采用有限或最小的軟件后期處理。
當(dāng)所述攝像頭結(jié)構(gòu)處于部署狀態(tài)時(shí),攝像頭同時(shí)可以允許所述可穿戴移動(dòng)設(shè)備實(shí)現(xiàn)較不復(fù)雜的追蹤算法,并可以簡(jiǎn)化和/或減少圖像數(shù)據(jù)的后處理,從而降低所述可穿戴移動(dòng)設(shè)備的計(jì)算負(fù)荷和熱負(fù)荷等。
例如,攝像頭結(jié)構(gòu)可以包括專用的計(jì)算機(jī)視覺專用集成電路。專用集成電路可以分散XR設(shè)備主外殼的熱負(fù)荷,因?yàn)閿z像頭模塊可以提供額外的表面積,從而改善散熱。

圖1是示出具有結(jié)構(gòu)105的移動(dòng)設(shè)備100的框圖。所述結(jié)構(gòu)105可包括照攝像頭的圖像傳感器120。圖像傳感器120可以包括任何類型的攝像傳感器。
所述結(jié)構(gòu)105還可以包括配置成發(fā)射光的光發(fā)射器115。所述光可以幫助照亮圖像傳感器120成像或記錄的區(qū)域。所述光發(fā)射器115可位于所述結(jié)構(gòu)105內(nèi),使得所述光發(fā)射器115發(fā)射的光至少部分照亮所述圖像傳感器120的視場(chǎng)內(nèi)的一個(gè)或多個(gè)區(qū)域。
所述結(jié)構(gòu)105可以縮回到所述移動(dòng)設(shè)備100的外殼中。當(dāng)所述結(jié)構(gòu)105縮回到所述移動(dòng)設(shè)備100的外殼中時(shí),所述結(jié)構(gòu)105可稱為處于縮回狀態(tài)。
結(jié)構(gòu)105同時(shí)可以從移動(dòng)設(shè)備100的外殼延伸。當(dāng)結(jié)構(gòu)105從移動(dòng)設(shè)備100的外殼延伸時(shí),可以將結(jié)構(gòu)105稱為處于展開狀態(tài)。結(jié)構(gòu)105的圖像傳感器120可以配置為在結(jié)構(gòu)105處于展開狀態(tài)時(shí)捕獲一個(gè)或多個(gè)圖像。
結(jié)構(gòu)105可以是容納光發(fā)射器115和圖像傳感器120的臂結(jié)構(gòu),并且可以在縮回狀態(tài)和展開狀態(tài)之間移動(dòng)。
調(diào)整機(jī)制110可以包括一個(gè)或多個(gè)電機(jī)(未示出)。所述調(diào)整機(jī)制110可使用所述一個(gè)或多個(gè)電機(jī)來(lái)移動(dòng)所述調(diào)整機(jī)制110的一個(gè)或多個(gè)部件,如一個(gè)或多個(gè)齒輪或滑輪。
在一個(gè)實(shí)施例中,電動(dòng)部件可在縮回狀態(tài)和伸展?fàn)顟B(tài)之間直接移動(dòng)所述結(jié)構(gòu)105。在其他實(shí)施例中,電動(dòng)部件可以間接地允許結(jié)構(gòu)105在縮回狀態(tài)和伸展?fàn)顟B(tài)之間移動(dòng)。
例如,通過(guò)將遮擋物從第一位置移動(dòng)到第二位置,所述電動(dòng)部件可間接地允許所述結(jié)構(gòu)105在收縮狀態(tài)和展開狀態(tài)之間移動(dòng)。在第一位置,可以通過(guò)閉塞結(jié)構(gòu)105的路徑來(lái)防止彈簧或磁鐵的推力或拉力移動(dòng)結(jié)構(gòu)105。在第二位置,可以不再遮擋結(jié)構(gòu)105的路徑,并因此允許彈簧或磁鐵的推力或拉力移動(dòng)結(jié)構(gòu)105。

圖2A示出上述結(jié)構(gòu)105處于縮回狀態(tài)。在本例中,移動(dòng)設(shè)備100是頭顯設(shè)備。
外殼200和/或結(jié)構(gòu)105可以包括一個(gè)或多個(gè)傳感器。一個(gè)或多個(gè)傳感器可用于確定移動(dòng)設(shè)備100相對(duì)于的用戶頭部的運(yùn)動(dòng)。例如,210可包括檢測(cè)物理接觸的傳感器,并可用于確定200和/或210是否從相對(duì)于用戶頭部的一個(gè)位置滑動(dòng)到相對(duì)于用戶頭部的另一個(gè)位置。確定200和/或210滑動(dòng)可用于了解結(jié)構(gòu)105的擴(kuò)展攝像頭的視場(chǎng)調(diào)整,以改進(jìn)追蹤和/或處理。
外殼200可包括開口225,以便在結(jié)構(gòu)105處于縮回狀態(tài)時(shí)接收結(jié)構(gòu)105。開口225可位于外殼200的底部。例如,開口225可位于外殼200的同一側(cè)。
開口225的長(zhǎng)度可以至少與結(jié)構(gòu)105一樣長(zhǎng),以便允許結(jié)構(gòu)105包含在開口225內(nèi)的水平配置。
在一個(gè)實(shí)施例中,結(jié)構(gòu)105可以從展開狀態(tài)旋轉(zhuǎn)或擺動(dòng)到開口225中,以使結(jié)構(gòu)105處于縮回狀態(tài)。在這種情況下,當(dāng)結(jié)構(gòu)105處于縮回狀態(tài)時(shí),結(jié)構(gòu)105可以水平地位于開口225內(nèi)。
在其他情況下,開口225可以足夠深,以便允許結(jié)構(gòu)105縱向插入到開口225中。例如,開口225可以配置為在結(jié)構(gòu)105的長(zhǎng)度方向上完全或至少部分包含結(jié)構(gòu)105。
結(jié)構(gòu)105可包括配置為接收入射光的透鏡,透鏡可基于結(jié)構(gòu)105的延伸和縮回移動(dòng)或重新定位。圖像傳感器120可位于移動(dòng)設(shè)備外殼中的固定位置,并且結(jié)構(gòu)105可包括折疊光學(xué)元件,以將來(lái)自結(jié)構(gòu)105上的入射透鏡的光導(dǎo)向移動(dòng)設(shè)備外殼的圖像傳感器。
在圖2B中,結(jié)構(gòu)105處于縮回狀態(tài)。移動(dòng)設(shè)備100通過(guò)頭帶220固定在用戶的頭部230。當(dāng)結(jié)構(gòu)105處于縮回狀態(tài)時(shí),結(jié)構(gòu)105可全部或至少部分包含在開口225內(nèi)。結(jié)構(gòu)105可以從縮回狀態(tài)擴(kuò)展到展開狀態(tài),以允許結(jié)構(gòu)105的圖像傳感器120捕獲用戶口腔區(qū)域的圖像或視頻幀。在展開狀態(tài)下,可以對(duì)結(jié)構(gòu)105的圖像傳感器120進(jìn)行定位,使得用戶的嘴部區(qū)域位于圖像傳感器120的視場(chǎng)內(nèi)。

對(duì)于圖3,在展開狀態(tài)下,結(jié)構(gòu)105可以從移動(dòng)設(shè)備100的外殼200底部的開口225延伸。在一個(gè)實(shí)施例中,結(jié)構(gòu)105可以沿著移動(dòng)設(shè)備100的外殼200的橫向平面延伸。在其他實(shí)施例中,當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),結(jié)構(gòu)105可以延伸/垂直于移動(dòng)設(shè)備100的外殼200的縱軸。
在展開狀態(tài)下,結(jié)構(gòu)105的圖像傳感器120的位置/放置可以將用戶的嘴300放置在結(jié)構(gòu)105的圖像傳感器120的視場(chǎng)內(nèi)。這可以允許圖像傳感器120捕獲嘴300的圖像和/或視頻幀,檢測(cè)嘴300的運(yùn)動(dòng),檢測(cè)嘴300的姿態(tài)、表情等。
移動(dòng)設(shè)備100可以使用來(lái)自麥克風(fēng)的信號(hào)來(lái)自動(dòng)伸展或縮回結(jié)構(gòu)105。例如,來(lái)自麥克風(fēng)的信號(hào)可以表明用戶正在說(shuō)話。移動(dòng)設(shè)備100可以使用來(lái)自麥克風(fēng)的信號(hào)來(lái)確定用戶正在說(shuō)話,并且作為響應(yīng),移動(dòng)設(shè)備100可以自動(dòng)將結(jié)構(gòu)105移動(dòng)到展開狀態(tài)。
所述移動(dòng)設(shè)備100可使用所述麥克風(fēng)檢測(cè)沉默,并且作為檢測(cè)沉默的響應(yīng),所述移動(dòng)設(shè)備100可將所述結(jié)構(gòu)105縮回至所述縮回狀態(tài)。
在一個(gè)實(shí)施例總,當(dāng)所述結(jié)構(gòu)105處于展開狀態(tài)時(shí),移動(dòng)設(shè)備100可以檢測(cè)所述移動(dòng)設(shè)備100是否由用戶正確佩戴,和/或所述圖像傳感器120是否正確定向。
例如,如果移動(dòng)設(shè)備100處理由圖像傳感器120捕獲的圖像或視頻幀,并確定圖像或視頻幀不包括嘴300,則移動(dòng)設(shè)備100可以通知用戶,表明移動(dòng)設(shè)備100和/或圖像傳感器120沒有正確定向。
由于當(dāng)結(jié)構(gòu)105處于延伸狀態(tài)時(shí),圖像傳感器120可以具有相對(duì)于外殼200的固定位置,因此,如果結(jié)構(gòu)105處于延伸狀態(tài)并且移動(dòng)設(shè)備100適當(dāng)?shù)囟ㄏ?,則移動(dòng)設(shè)備100可以期望由圖像傳感器120捕獲的圖像或視頻幀將包括嘴300。
因此,如果移動(dòng)設(shè)備100處理圖像傳感器120捕獲的圖像或視頻幀,并在圖像傳感器120捕獲的圖像或視頻幀中檢測(cè)到用戶的前額,則移動(dòng)設(shè)備100可以通知用戶移動(dòng)設(shè)備100和圖像傳感器120沒有正確定向。
在一個(gè)實(shí)施例中,來(lái)自移動(dòng)設(shè)備100的通知包括用戶可以執(zhí)行的推薦操作。例如,通知可以建議關(guān)閉圖像傳感器120和/或?qū)⒔Y(jié)構(gòu)105移動(dòng)到縮回狀態(tài),以避免圖像傳感器120在圖像傳感器120無(wú)法捕獲嘴300的圖像或視頻幀時(shí)不必要的功耗。
當(dāng)移動(dòng)設(shè)備100檢測(cè)到移動(dòng)設(shè)備100和/或結(jié)構(gòu)105的方向/位置不正確時(shí),可以自動(dòng)執(zhí)行建議的操作。例如,移動(dòng)設(shè)備100可以自動(dòng)關(guān)閉圖像傳感器120和/或?qū)⒔Y(jié)構(gòu)105移動(dòng)到縮回狀態(tài),以避免圖像傳感器120在圖像傳感器120無(wú)法捕獲嘴300的圖像或視頻幀時(shí)產(chǎn)生不必要的功耗。

圖4示出結(jié)構(gòu)105處于展開狀態(tài)。結(jié)構(gòu)105可以從外殼200的底部延伸,以允許圖像傳感器120捕獲用戶的嘴300的圖像和/或視頻幀。
當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),圖像傳感器120可以看到佩戴移動(dòng)設(shè)備100的用戶的嘴巴300。所述圖像傳感器120可面向所述用戶的嘴300定位,以具有所述用戶的嘴300的視圖。圖像傳感器120可位于用戶的嘴300的前面并面向用戶的嘴300。
如圖所示,結(jié)構(gòu)105的展開狀態(tài)可以將用戶的嘴300放置在結(jié)構(gòu)105的圖像傳感器120的視場(chǎng)400內(nèi)。換句話說(shuō),當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),圖像傳感器120的視場(chǎng)400可以包括用戶的嘴300。
當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),圖像傳感器120可以捕獲用戶嘴巴300的圖像和/或視頻幀。移動(dòng)設(shè)備100可以使用從圖像傳感器120捕獲的圖像和/或視頻幀來(lái)執(zhí)行嘴巴追蹤。
當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),可基于外殼200和圖像傳感器120的相對(duì)姿態(tài)對(duì)圖像傳感器120進(jìn)行預(yù)校準(zhǔn)。例如,當(dāng)結(jié)構(gòu)105處于展開狀態(tài)時(shí),圖像傳感器120的位置可用于校準(zhǔn)圖像傳感器120,以允許移動(dòng)設(shè)備100基于圖像傳感器120在結(jié)構(gòu)105處于展開狀態(tài)時(shí)捕獲的圖像來(lái)精確追蹤用戶的嘴300。
相關(guān)專利:Qualcomm Patent | Adjustable camera system
https://patent.nweon.com/30087
名為“Adjustable camera system”的高通專利申請(qǐng)最初在2022年2月提交,并在日前由美國(guó)專利商標(biāo)局公布。
---
原文鏈接:https://news.nweon.com/112087