技術(shù)揭秘:HoloLens到底是怎么工作的?

?? 由 文心大模型 生成的文章摘要

發(fā)布至今, HoloLens 雖然吸引了很大一部分人關(guān)注, 但總給人一種 "too good to be real" 的感覺。 看過太多現(xiàn)場直播的科幻電影向演示, 可以看看項(xiàng)目主管 Alex Kipman 是怎么向開發(fā)者解釋 HoloLens 的。

HoloLens 和 Holographic 之間的關(guān)系

微軟在 Build 大會上帶去了 300 臺 HoloLens 樣機(jī), 供現(xiàn)場演示和報(bào)名參加 Holographic Academy 的媒體及開發(fā)者體驗(yàn)。 之前, Alex Kipman 已經(jīng)在 1 月的首次公開演示中提到 Windows 10 中會內(nèi)置 Holographic API, 歡迎 Oculus 等 AR/VR 設(shè)備調(diào)用。 而在 Build 的訪談上, Alex 進(jìn)一步透露了 Hologram 生態(tài)的開放性。 根據(jù)他的描述,HoloLens 運(yùn)行的是一個(gè)名為 Windows Holographics 的 Windows 10 分支, 這個(gè)分支可以運(yùn)行 Windows Universal 通用應(yīng)用, 同時(shí)也開放給其它廠商的設(shè)備搭載。 只是現(xiàn)在運(yùn)行這一系統(tǒng)的公開設(shè)備只有 HoloLens, 但 Windows Holographic 和 HoloLens 之間并不存在強(qiáng)綁定關(guān)系。

現(xiàn)場的 HoloLens/Hologram 演示直播到底是怎么實(shí)現(xiàn)的?

現(xiàn)場的演示直播并不是預(yù)先做好的錄像 mockup, 而是微軟將一臺拆解過的 HoloLens 和攝像機(jī)連接在一起。 微軟在 Build 現(xiàn)場使用了一臺 4K/2K 攝像機(jī), 將 HoloLens 中用到的所有傳感器放置在攝像機(jī)側(cè)面, 另將傳感器所連接的屏幕放在鏡頭前, 最后用一條很粗重的線纜保證畫面?zhèn)鬏斝省?至于兩臺 HoloLens 之間怎么共享 Hologram, 我們后面會說到。

 

HoloLens 是怎么把虛擬的 Hologram 和實(shí)體的人、 動作及現(xiàn)實(shí)物體聯(lián)系到一起的?

HoloLens 內(nèi)置的多組攝像頭會對環(huán)境進(jìn)行實(shí)時(shí)建模, 在所處空間中建立 X Y Z 立體坐標(biāo)軸, 此外, 設(shè)備內(nèi)置的聲音和圖像傳感器或檢測用戶的語音指令、 手勢指令和目光方向。 Alex Kipman 提到語音識別使用和 Cortana 一樣的后端技術(shù), 可以過濾環(huán)境噪音, 確認(rèn)用戶的操作,然后將操作和實(shí)際物體及 Hologram 關(guān)聯(lián)起來做出響應(yīng)。 他還提到, HoloLens 會識別環(huán)境中的平面, 所以可以把 HoloLens 和桌面、 地板和墻面等為止關(guān)聯(lián)在一起, 實(shí)現(xiàn) "pin" 或“跟隨”的效果。 實(shí)時(shí)掃描和處理 Hologram 要求每秒處理 TB 級別的數(shù)據(jù), 這是現(xiàn)在的 SoC 沒法實(shí)現(xiàn)的, 所以微軟在 HoloLens 中內(nèi)置了兩塊自己定制的 HPU (Holographic Processing Unit)來實(shí)現(xiàn)這個(gè)量級的數(shù)據(jù)吞吐。

多臺 HoloLens 之間到底是怎么互動的?

同一個(gè)空間內(nèi), 這個(gè)問題會稍微簡單一些。 我們上面說到 HoloLens 會實(shí)時(shí)對空間進(jìn)行建模并建立 X Y Z 坐標(biāo)系, 所以在場的多個(gè)用戶只要共享 Hologram 和其所在的坐標(biāo)信息就可以同時(shí)從多個(gè)角度同時(shí)查看一個(gè)或多個(gè) Hologram。 至于視頻中演示的 Skype 和遠(yuǎn)程指導(dǎo)修水管等, Alex Kipman 解釋稱: 這個(gè)場景下, 雙方會在自己的視線內(nèi)各從一個(gè) 2D 的小窗中看到對方, 然后通過鍵鼠或手勢對現(xiàn)實(shí)物體做出箭頭、 注釋等標(biāo)記。 而類似 NASA 案例中的多人協(xié)作, 每個(gè)參與者會以不同顏色的全息等高 Avatar 出現(xiàn)在 Hologram 中, 以此實(shí)現(xiàn)貼近于現(xiàn)實(shí)的交互。

開發(fā)者怎么為 Hologram 開發(fā)做準(zhǔn)備?

目前為止, 開發(fā)者只能通過未來會兼容 Holographic 的 Universal App 通用應(yīng)用平臺進(jìn)行應(yīng)用開發(fā)。 不過, 簡單的通用應(yīng)用在 Hologram 中會以平面方式呈現(xiàn), 這與 Holographic 應(yīng)有的交互理念并不完全符合, 所以開發(fā)者應(yīng)該開始學(xué)習(xí) 3D 界面開發(fā), 專門對 Hologram 場景優(yōu)化, 真正實(shí)現(xiàn)自然交互。這其中只涉及界面的不同, binary 完全共享。