事情正在起變化：游戲向左，影視向右
今年以來，VR市場上并沒有出現(xiàn)正真意義上的第二代PC VR，VR界的焦點從PC VR轉(zhuǎn)到了一體機VR：業(yè)界領(lǐng)先的Oculus推出了Oculus Go，HTC Vive也推出了Vive Focus高端一體機。其中Oculus轉(zhuǎn)向VR一體機的原因，在去年和今年的Facebook8甚至Google I/O大會上都有提到：不管Oculus 平臺還是DayDream平臺，用戶把至少80%的時間用在了觀影上：
來自2018 Facebook 8
83%，代表的是一場趨勢，代表著消費者的核心訴求。基于上述背景，VR界“老兵”大朋VR攜新品 “全景聲巨幕影院”而來，將在2018年8月8日正式開啟新品預(yù)售：
在過去半年，大朋DPVR在自主研發(fā)的VR技術(shù)上再次進行了創(chuàng)新和優(yōu)化，甚至在看似“孱弱”的國產(chǎn)芯片基礎(chǔ)上，做出了能媲美，甚至在觀影上更勝Oculus Go一籌的VR體驗。接下來，大朋工程師將帶你從產(chǎn)品理念和技術(shù)創(chuàng)新方面，分享給你大朋DPVR新品：巨幕影院的技術(shù)創(chuàng)新和變革。
中國“芯”，新起點
現(xiàn)有市場上VR一體機多基于美國高通或韓國三星的芯片，大朋最早的一體機M2也不例外，使用的也是三星芯片。
但是這次有點不一樣。在今天“聲援”國產(chǎn)芯片的大背景下，早在幾年前，大朋就非常大膽地提前選定了國內(nèi)全志的VR9。 大朋曾向全志建議把ATW等VR算法操作從GPU中釋放出來，打造專有硬件模塊提高效率。4年磨一劍，現(xiàn)在全志終于為全球VR市場發(fā)布了第一款專用芯片VR9，定位非常犀利，就是給用戶提供極致的VR影音體驗。尺有所短寸有所長，VR9的影音解碼是強項，但以此就犧牲了游戲GPU能力。雖說魚與熊掌不可兼得，但是這不影響我們做出正確的選擇。
全志VR9框架圖
在VR9國產(chǎn)的芯片設(shè)計的基礎(chǔ)上，大朋從底到高都進行了核心優(yōu)化，下面就是巨幕影院技術(shù)創(chuàng)新分析，供大家討論：
VR流水線：從渲染到人眼
要想真正了解VR技術(shù)的本質(zhì)，得先從VR世界中一個物體如何被渲染并最終進入人眼的過程講起。
VR物體進入用戶眼中的歷程（流水線）
VR系統(tǒng)本質(zhì)上是一個異構(gòu)計算系統(tǒng)，內(nèi)部的CPU, GPU，Display等硬件模塊一直協(xié)同并行工作。VR世界中的每一個物體從第一個模塊開始，在整個流水線上一步步推進，最終進入用戶眼中，如何提高流水線的每一步的效率和并行度是VR系統(tǒng)高效運轉(zhuǎn)的關(guān)鍵。
巨幕影院渲染算法優(yōu)化
設(shè)計時受到功耗和芯片面積的限制，移動端GPU性能參數(shù)，不管是FLOP還是內(nèi)存帶寬都大大低于同級別的PC GPU，比如Nvidia的PC端GPU GTX 650和移動端GPU Tegra K1，雖然都來自于Kepler 架構(gòu)，出現(xiàn)的時間幾乎相同，但前者的內(nèi)存帶寬是80G/s，后者的只有18G/s。對于用戶來說，這個差別意味著移動端的VR應(yīng)用和實現(xiàn)不可能采用和PC系統(tǒng)一樣的方法，而對于VR SDK的提供商來說，只能發(fā)揮“螺絲肚里做道場”的精神，想辦法提升移動平臺上GPU的利用率。在這個背景下，能夠擠掉CPU和GPU之間泡沫，提高兩者運行并行度的Adaptive Queue Ahead技術(shù)應(yīng)運而生。
以前的VR世界中，CPU總是在VSync（垂直同步）到來才開始下達渲染命令給GPU（如下圖），對于較重的GPU任務(wù)，很可能無法在當前VSync剩余時間中完成，后果就是應(yīng)用的FPS（Frame Per Second，幀率）下降，最終用戶體驗到應(yīng)用或者游戲卡頓，顯示“鬼影”以及眩暈。
不帶Queue Ahead的渲染
Oculus最早在PC端的Rift上提出所謂的Adaptive Queue Ahead技術(shù)，CPU不用傻傻的等待Vsync的到來，而是通過預(yù)測，在VSync到來之前幾毫秒內(nèi)開始下達渲染指令給GPU，讓GPU有更多的時間執(zhí)行任務(wù)，有效提高VR應(yīng)用的FPS，產(chǎn)生更好的用戶體驗。
帶Queue Ahead之后的渲染
大朋第一次把來自PC VR端的技術(shù)引入到VR一體機的世界，讓以前運行卡頓的應(yīng)用流暢起來，還給用戶一個平滑，沉浸和畫面精致的VR世界。不過，考慮到PC平臺和一體機平臺之間的計算能力差異，但這一個優(yōu)化還遠遠不夠，于是大朋又通過叫“Hidden Mesh”的技術(shù)進一步提高GPU的渲染效率。
在VR 頭盔的光學(xué)視場中，由于鏡杯結(jié)構(gòu)和人眼特點，圖像中某些區(qū)域人眼是無法看到的，在VR圖像渲染中被稱為Hidden Area（如下圖中紅色三角覆蓋的地方，人眼其實無法看到）。
Hidden Mesh技術(shù)
大朋巨幕影院的圖形渲染中巧妙的利用了這點，通過利用特殊繪制的Hidden Mesh（隱藏網(wǎng)格），能有效降低GPU的渲染工作量。CPU，GPU并行度提高了，GPU渲染效率也提高了，又進了了一步。懷著好奇心，筆者進一步分析了Oculus Go的系統(tǒng)，也許出于其他的考慮，發(fā)現(xiàn)它并沒有采用Hidden Mesh。下圖紅框是Oculus Go Home中用戶能夠看到的部分，紅框之外圓圈之內(nèi)的內(nèi)容用戶通過透鏡和鏡杯并不能看到。
接下來要做的，還需要有效減少用戶佩戴時的眩暈感。人類的身體并非是天生為適應(yīng)VR而設(shè)計的。通過VR設(shè)備對感官進行人工刺激，我們正在破壞生物機制的運作，這些機制經(jīng)歷了數(shù)億年時間在自然環(huán)境中演變而來。我們也向大腦提供與現(xiàn)實體驗不完全一致的信息。在某些情況下，我們的身體可能會適應(yīng)新的刺激。但在一些情況下，我們的身體會產(chǎn)生眩暈和惡心等癥狀，部分原因是大腦比平常更高速地運轉(zhuǎn)，以理解這類刺激。已知的產(chǎn)生眩暈的原因除了顯示分辨率/刷新率不足，前庭和視覺系統(tǒng)沖突，虛擬世界中比例失真等，Motion-To- Photons延時過大也是其中的元兇。
Motion-To-Photons延時指的是在運行VR場景的情況下，從用戶的頭部移動開始，一直到這一信號通過VR頭盔輸出的光學(xué)信號映射到人眼所需的時間。一般認為，這一延時大于20毫秒會導(dǎo)致用戶體驗到較為明顯的眩暈。
Motion-To-Phontons
而現(xiàn)有市面上的VR一體機無一例外都是基于Android系統(tǒng)。為了提高手機和平板電腦上顯示的平滑性，傳統(tǒng)的Android系統(tǒng)都是采用了雙顯示緩沖或者三顯示緩沖。但是，這個機制讓VR應(yīng)用無法知道指定的圖像什么時候能夠顯示在頭盔屏幕上，加大了VR一體機的Motion-To-Phonton延時，讓用戶體驗到更多的眩暈。大朋做了獨有的硬件結(jié)構(gòu)和算法優(yōu)化，讓Front Buffer Rendering（前屏渲染）成為可能：流水線中只采用了一個顯示緩沖，最大程度上減少了Motion-To-Phonton延時，提供給用戶更好的視覺體驗。
Front Buffer Rendering
顯示優(yōu)化
除了渲染性能，顯示清晰度一直是判斷VR頭盔優(yōu)劣的另外一個重要指標，不過，沒有所謂顯示優(yōu)化的“銀彈”能一招制敵，清晰度的提升來自于各個模塊的綜合效果，而大朋在每一個部分都做了不斷的迭代和改進，從而帶來了出色的效果。
首先，GPU渲染出來的畫面得清晰。但是，計算機渲染的場景從三維空間的角度看是連續(xù)的，經(jīng)過光柵化之后最終顯示在屏幕上的二維的圖像本身卻是離散的，這導(dǎo)致非完全垂直或者非完全水平的邊上出現(xiàn)鋸齒。
SSAA/MSAA減輕鋸齒
抗鋸齒最直接的方法是SSAA（Super Sampling Anti Alias）和MSAA。具體的思想都是先把物體渲染到比屏幕分辨率大（比如4倍）的緩沖區(qū)中，然后再降采樣到和屏幕分辨率一樣的顯示緩沖區(qū)中最后輸出顯示，這樣更多的信息被保留，而圖像物體邊緣的顏色也因為混合了不同顏色采樣點而消除或者減輕了鋸齒。在大朋巨幕影院的圖形渲染實現(xiàn)中，采用了SSAA和MSAA來抗鋸齒。
不過，事情好像還沒有完，VR用戶常常會抱怨圖片或者文字閃爍。為什么我們在PC或者手機上看不到閃爍而在VR頭盔中容易看到？這主要是用戶改變了VR世界中離物體的距離，圖像或者文字本身縮放造成的，再加上透鏡本身的放大作用，用戶就會觀察到閃爍。
大朋采用了MipMap技術(shù)來防止文字和圖片的閃爍。MipMap是指根據(jù)距觀看者遠近距離的不同，以不同的分辨率將單一的材質(zhì)貼圖以多重圖像的形式表現(xiàn)出來：尺寸最大的圖像放在前面顯著的位置，而相對較小的圖像則后退到背景區(qū)域。每一個不同的尺寸等級定義成一個Mipmap水平。
Mipmap防止閃爍
這樣，每次渲染的時候系統(tǒng)會找出相對當前場景最適合的圖像，做最小的縮放操作或者根本無需縮放，讓圖像信息最大程度的保真。
70HZ顯示刷新率
和Oculus Go一樣，大朋采用了快速響應(yīng)fast-LCD 屏幕，區(qū)別在于，Oculus Go缺省的刷新率是60HZ（某些特殊情況可以到72HZ）,而大朋的刷新率則一直是70HZ。
Fast-LCD屏幕上的像素點在每個Vsync過程中并不是完全點亮，屏幕的余輝（Persistence）大概在1-2ms。假設(shè)屏幕的余暉是1ms，對于60HZ來說，就是6.25%的時間屏幕上像素點是亮的，而對于70hz刷新率來說，就有7%的時間是亮的，大朋巨幕影院用戶會感覺VR世界更亮。同時，人眼工作在一個更高刷新率的模式，較低刷新率的VR頭盔會讓用戶感到閃爍。
顯示芯片中的異步時間扭曲
在一個清晰，高刷新率的平穩(wěn)世界中，常見的VR眩暈依然還有嗎？有可能。帶上頭盔的用戶使用過程中不停的轉(zhuǎn)動，圖像渲染時采用的姿態(tài)信息和圖像上屏顯示時的姿態(tài)可能完全不一樣，用戶一樣會暈。
怎么辦？解決之道是在圖像幀掃描到顯示器之前進行再一次的調(diào)整：根據(jù)最新的預(yù)測姿態(tài)更新圖像，這被稱為Time Warping（時間扭曲）或者Reprojection（再投影）。如果在實現(xiàn)中渲染的線程和做扭曲的線程是不同線程的話，又被稱為Asynchronous Time Warping（異步時間扭曲）。
一般而言，VR計算過程中重要的環(huán)節(jié)，異步時間扭曲（包括畸變矯正和色散矯正）在GPU中完成。
傳統(tǒng)的ATW
但是，由于VR游戲或者應(yīng)用會在渲染環(huán)節(jié)占用大量的GPU資源和計算能力，會造成GPU不能及時完成以上任務(wù)，帶來較差的用戶體驗，這在移動平臺上尤甚。大朋巨幕影院中第一次創(chuàng)造性的把時間扭曲/畸變矯正/色散等處理放在了獨立的顯示芯片中完成，減少了GPU負載，釋放了GPU資源，有效提高了系統(tǒng)性能，也降低了系統(tǒng)功耗。別小看這一步優(yōu)化，憑借這個，大朋能夠在系統(tǒng)功耗上一下子拉開和同類產(chǎn)品的差距，這將在后面進行進一步解釋。
顯示芯片中的ATW
圖像后處理機制
在手機的世界中，同樣拍攝的照片，加上不同的濾鏡，馬上鳳姐變鳳凰，老太變少女，在VR的世界中更是如此。而所謂的濾鏡，說白了就是圖像后處理。大朋巨幕影院系統(tǒng)中的圖像后處理系統(tǒng)被稱為SmartColor，能夠帶來更鮮艷的色彩和更好的色溫控制，包括如下的功能：
（1） 自適應(yīng)的細節(jié)和邊緣增強；
（2） 自適應(yīng)的顏色增強；
（3） 自適應(yīng)的對比度增強和色調(diào)矯正。
體驗一下Oculus Go上和大朋上實拍同一張圖片，大朋的色彩要更加的自然，臉部層次更豐富，頭發(fā)處的細節(jié)顯示更加細膩。Oculus Go有明顯光暈。
圖像后處理比較(右為大朋巨幕影院）
透鏡設(shè)計
VR頭盔上的透鏡本質(zhì)上是一個放大鏡，也是VR中很多光學(xué)缺陷比如紗窗效應(yīng)，雜散光等的“元兇”或者 “ 幫兇 ”。在顯示屏幕分辨率大致相同的情況下，VR鏡片看點有兩個：透鏡中心到透鏡邊緣的清晰度下降快慢，菲涅爾雜散光和拖影。
比如，下圖被美國軍方用來檢測鏡片各區(qū)域的清晰度。把圖放入頭盔中，你能清晰看到圖像中間水平和垂直紅線的最大刻度是多少？
清晰度比較基準圖
答案揭曉，通過把以上圖片導(dǎo)入大朋工程樣機和Oculus Go，左右兩側(cè)能看到的最大清晰刻度分別是11.2（大朋），11.2 （Oculus Go）。從清晰度的下降程度看，通過頭顯看以上圖片， 大朋巨幕影院和Oculus Go達到同樣的邊緣清晰度。
和Oculus Go一樣，大朋巨幕影院采用了菲涅爾鏡片。和非球面鏡片相比，菲涅爾鏡片更輕，視場角也能做的更大，長時間試用更保護用戶的眼睛，但是由于其特殊的工藝和形狀，齒間的光漫反射，會造成雜散光和特殊的光暈。
菲涅爾透鏡外觀
利用菲涅爾鏡片的優(yōu)點，補足其缺點，大朋的光學(xué)鏡片做了專門的設(shè)計優(yōu)化，有效消除了雜散光和光暈。這種優(yōu)化效果，在黑暗背景下由亮光形成的圖案中，能夠有效的觀察到。
從Oculus Go頭盔中抓取畫面并放在大朋巨幕影院頭顯內(nèi)顯示，仔細觀察視野內(nèi)左下角“未安裝應(yīng)用”、“環(huán)境”白色字體的拖影情況，與Oculus Go頭盔的顯示拖影別無二致。
拖影測試圖
另外，在大朋巨幕影院中打開“3D影視”-> “三少爺?shù)膭?rdquo;，在影院場景中選擇第7排，然后“關(guān)燈”，時間軸定格到00:01:02暫停，畫面顯示下圖內(nèi)容，仔細觀察虛擬銀幕以外區(qū)域的雜光光暈，幾乎難以覺察。
作為對比，Oculus Go也要顯示相似的內(nèi)容。在 SKYBOX,找到宣傳視頻,時間軸定格到00:00:11暫停，觀影場景選擇“太空”，同樣仔細觀察虛擬銀幕以外區(qū)域的雜光光暈會略微差些。
光暈測試
全景聲聲場
為強化沉浸感，大朋巨幕影院中加入了獨有的杜比7.1聲道模擬算法，讓用戶觀看視頻時能體驗到全景聲效果。
VR全景聲示意圖
同時，為了降低周圍環(huán)境對用戶的影響，還實現(xiàn)了定向聲場傳播，使用者本人和周圍的旁觀者聽到完全不同的效果。
深度功耗優(yōu)化
根據(jù)CPU自身的狀態(tài)，大朋巨幕影院系統(tǒng)能夠進入到3個不同的功耗等級：正常，待機和深度睡眠，實測觀影續(xù)航能到4小時。
結(jié)合相應(yīng)的用戶操作和接近開關(guān)，大朋巨幕影院系統(tǒng)能夠自動在不同的模式之間切換，達到節(jié)電的目的。同時，根據(jù)當前CPU、GPU等硬件模塊的負載，大朋巨幕影院能動態(tài)調(diào)節(jié)CPU、GPU的頻點，以滿足不同使用場景的性能需求。比如當CPU使用率大于某一閾值時，會將CPU運行在更高的頻點，以滿足更大的性能需求；當CPU使用率小于某一閾值時，系統(tǒng)會將CPU運行在更低的頻點，以滿足更低功耗的需求。
Oculus Go也有類似的電源管理機制，叫做Dynamic Clock Throttling（動態(tài)時鐘調(diào)節(jié)中文翻譯），不過實測下來觀影時間只有大朋的一半，2小時左右。
寫在最后
大朋VR以往的產(chǎn)品，不管是最高端的支持360°Room-Scale范圍的基于紅外激光定位的Polaris，還是2年前就銷往國內(nèi)外的一體機M2，都基于大朋的自有技術(shù)：從算法理論，硬件制造，頭盔固件，F(xiàn)PGA，到Mobile VR SDK，再到開發(fā)工具，都是大朋自己的攻“城獅們”用一行行代碼壘出來的，本次的全景聲巨幕影院也不例外。我們期待著脫胎于自主研發(fā)技術(shù)的全景聲巨幕影院，為大家?guī)眢@喜的VR體驗。
以上就是大朋巨幕影院VR創(chuàng)新優(yōu)化技術(shù)的分享，歡迎大家在評論區(qū)留言給大朋工程師，分享你對巨幕影院的看法。
]]>
