雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))按：Google 博客近期刊發(fā)的系列文章中，從技術角度更深入探討和剖析了在改善虛擬現(xiàn)實（下文簡稱 VR）體驗方面的諸多方法。該系列第一篇中，Google 介紹了 Equi-Angular Cubemaps，這項技術能夠傳輸更高質(zhì)量的 VR 視頻資源。
自古以來測繪師的奮斗目標就是，繪制出能夠精準映射現(xiàn)實世界的地圖。而這門偉大藝術所面臨的核心挑戰(zhàn)在于，如何在平面的紙張和屏幕上精準的展現(xiàn)弧形完全的地球。在過去的幾個世紀中，人類智慧的花火碰撞出了諸多卓有成效的方法，但至今仍沒有出現(xiàn)被大部分人類公認的一個最佳答案，因為每種方法都是權衡預期用途的產(chǎn)物，只能解決某種情境需求而已。
以 Google Maps 為代表的各種新型地圖服務以及 VR 視頻的豐富應用，依然在尋找如何在 2D 屏幕上提供精準且富有意義的弧形 3D 世界的的方法，即使在現(xiàn)在也是不小的挑戰(zhàn)。
傳統(tǒng)繪圖技術必須要解決如何在 2D 平面上映射現(xiàn)實世界的根本挑戰(zhàn)同時，視頻流媒體也面臨前期制圖者不會存在的煩惱————如何更高效的利用帶寬。高質(zhì)量視頻流的顯示效果極大程度上受到網(wǎng)絡帶寬的限制，尤其對于移動網(wǎng)絡來說。
傳統(tǒng)頻流讓我們通過小窗口去觀察世界，而 VR 視頻流必須要從球狀世界中渲染弧形圖像，必然對帶寬提出了更嚴苛的要求。立體視頻的數(shù)據(jù)流會以幾何倍數(shù)不斷放大對數(shù)據(jù)的要求，因此讓 VR 視頻進入商用的最核心關鍵就是提升帶寬。
在現(xiàn)有帶寬受限的背景下，YouTube和 Daydream 團隊的共同努力成功找到了諸多全新方法，讓 360 度和 VR 視頻看上去更加逼真更有沉浸感。而在這篇博文中詳細介紹了依托于 Equi-Angular Cubemaps (EACs) 的各種技術工作原理。
鑒于這些技術帶來的各種優(yōu)勢，Google 團隊已經(jīng)考慮應用到 YouTube 的內(nèi)容上。而且 EACs 還能延伸擴展至其他領域，因此在這里我們非常期盼這項技術的更多應用。
等距柱狀投影圖（Equirectangular Projection）
對于普通用戶來說地球最熟悉的呈現(xiàn)方式，就是用經(jīng)度和緯度劃分而成的矩形空間，而這也被稱之為等距柱狀投影圖（Equirectangular Projection）。
Tissot Indicatrix的等距柱狀投影圖
等距柱狀投影圖的優(yōu)點在于將地球劃分成多個矩形，普通用戶也能非常直觀的進行觀察。然而，如果不加調(diào)整就將其運用到視頻傳輸過程中，就會產(chǎn)生非常嚴重的問題。首先，根據(jù)經(jīng)緯度的劃分方式會導致南北極區(qū)域的像素點非常密集，而赤道附近的像素則比較稀疏。在 VR 體驗中佩戴者的視線范圍通常集中在眼前中心位置，就著意味著在視頻傳輸過程中需要將重要的內(nèi)容分布在赤道范圍內(nèi)。
其次，這種視頻傳輸必然存在非常高的失真，現(xiàn)有的視頻壓縮技術很難完全駕馭。綜合以上兩點問題表明球面視頻投影的根本挑戰(zhàn)在于，在球狀屏幕上均勻分布視頻像素。
傳統(tǒng)的立方體貼圖（Cube Maps）：
在游戲行業(yè)中還廣泛應用一種升級版等距柱狀投影圖，那就是立方體貼圖。這個概念非常的簡單：將球形變形成為立方體，然后展開立方體的六個面然后平鋪。
游戲行業(yè)目前最直觀最簡單的做法就是放射型投影（Radial Projection），在一個立方體中嵌入球體，然后將球體表面的圖像向外投影到立方體表面。
立方體貼圖的效果要明顯優(yōu)于等距柱狀投影圖，但是在像素密度上依然會導致根本性變動。這個問題是由于立方體的中心位置距離球體最近，但是立方體的邊角離球體則比較遠。
正如上方圖片中所展示的橫截面，這些射線都以相同的角度從圓中心向外射出，但是投影到立方體上間隔距離則出現(xiàn)了偏差。這樣所導致的結果是，相比較中心位置邊緣部分會獲得更多的視頻像素，因為在立方體邊緣上藍色射線要比紅色射線具備更多的像素。而且在完整的三維情況下，這個問題會更加明顯。
Equi-Angular Cubemap（EAC）：
通過更改提取視頻像素樣本的位置，糾正這種變形。
從球體中心發(fā)射的射線代表 VR 頭顯佩戴者的視線，同樣以相同的角度向外投射。左側是傳統(tǒng)的立方體貼圖，從人臉位置到像素位置的投影是直線。而右側是更為高效的 EAC 投影。傳統(tǒng)的立方體貼圖視頻采樣的長度取決于樣本在立方體表面的位置。而 EAC 則通過特殊的構造能夠確保這些采樣長度保持一致，創(chuàng)造均勻分布的像素。
不管怎么說繪制都是非常困難的，這種 2D 圖片很難完美的擴展形成 3D：因為你如果想要保留這種繪制的某些重要功能，那么必然需要放棄其他東西。共形映射（Conformal Mapping ）和等面積投影（Equal Area Projections）都是在某些方面作出犧牲而保留強化某些元素。
EAC 解決方案在 2D 空間中不失為精密算法，但是擴展到 3D 空間依然會存在偏差，只能形成接近于等角度像素分布的空間，但少量的失真已經(jīng)非常接近于完美狀態(tài)。
均勻性比較
不同投影類型的最實用視覺比較方式就是使用飽和度圖譜。飽和度圖譜展示了視頻像素到顯示像素密度的色彩編碼比例。色彩編碼從紅色到桔色，黃色，綠色，最終為藍色。其中綠色代表最佳的像素密度比例，接近于 1:1，而紅色，桔色，黃色則表明像素密度不足（當前屏幕上投影的視頻像素太少）的，而藍色則代表被浪費的像素（當前屏幕上投影的視頻像素太多）。
在飽和度圖譜上通過增加視頻的分辨率能夠調(diào)整整體顏色表現(xiàn)。但是對于那些飽和度圖譜存在巨大差異的投影，提升分辨率固然增加了中心區(qū)域的綠色范圍，但是同時也增加了被浪費的像素資源。因此，最理想的投影是色彩均勻的飽和度圖譜，這樣就能通過提升分辨率使其變成均勻的綠色。
飽和度極大程度上取決于圖像的尺寸和輸出設備的分辨率。選擇不同分辨率會導致飽和度圖譜偏綠或者偏黃。下面的飽和度圖譜來自一個具體的案例研究，能夠最大限度的提高飽和度變化。
等距柱狀投影圖（左）；標準立方體貼圖（中）；Equi-Angular Cubemap (右)
毫不奇怪的是，等距柱狀投影圖在南北極是藍色的（浪費像素，太多的視頻像素）的，而其他部分則都是桔色的（糟糕的視頻質(zhì)量，太少的視頻像素）。
作為比較，標準的立方體貼圖將最佳綠色區(qū)域從南北極移動到中間位置。南北極的浪費的藍色區(qū)域也已經(jīng)消失了。另一方面，立方體貼圖的邊緣部分要比中心區(qū)域要更優(yōu)秀。更為重要的是，色彩的變化主要集中在赤道附近，而且這些圓形表面具備比等距柱狀投影圖更糟糕的質(zhì)量。
最后 EAC 投影的保護度明顯要比其他兩個更加均勻，而且赤道區(qū)域明顯可以進一步提高。這種均勻性能夠最大化的利用帶寬，從而能夠根據(jù)當前設備所使用的網(wǎng)絡，來選擇傳輸最佳的像素密度。
實踐才是最佳的檢驗
EACs 的最終結果是在 VR 體驗中視頻質(zhì)量的明顯改觀。下面這張圖片是在一個 1080P 的 Google Cardboard 取景器中播放 720P 的 360 度視頻時候左眼拍攝到的畫面。在左側的大圖中用青色和黃色框選了照片中的某個場景，而在右側部分則對比了框選區(qū)域在等距柱狀投影圖和 Equi-Angular Cubemap 兩種投影模式下的差別?？梢悦黠@看到采用 EAC 投影的照片更加清晰。
最可怕的是細節(jié)：
在前文的描述中基本上介紹了 EAC 投影的工作原理，但是還需要解決立方體的六個面在視頻矩形邊界和實際算法中的難題。立方體表面的一個點方程投影到視頻像素采樣是非常明確的。
類似的操作需要在立方體的每個面上進行。
現(xiàn)在，所有六套【0，1】紋理坐標都需要包裹在一個單獨的視頻紋理中。如果視頻分辨率和尺寸受到硬件或者流媒體傳輸?shù)南拗?，那么這些布局是可以不是固定的，而且它們有權利自己進行分析。
目前有很多方法將立方體的六個面整合成為一段視頻矩形。此外，在組合過程中可能會導致不相連的面碰在一起，這可能在渲染過程中進行視頻編碼和像素插值（PixelInterpolation）操作的時候出現(xiàn)問題。
在游戲領域中所使用的紋理地圖集也存在相似的問題，目前常見的解決手段是在不連續(xù)面處增加填充物。一旦選擇部署 EAC 概念，那么必然意味著需要在這些細節(jié)上做出取舍。
對于那些熟悉 OpenGL 的用戶來說，完全可以通過立方體映射紋理和片段著色器來計算出最終的紋理外觀。如果你對此感興趣，那么就當作是給讀者的一次練習吧。
對于 VR 來說圖像質(zhì)量代表著很多含義，而 EAS 也是當前帶寬束縛下平衡精準投影的重要突破。鑒于目前等距柱狀投影圖和傳統(tǒng)立方體貼圖方案所面臨的挑戰(zhàn)，很明顯 Equi-Angular Cubemaps 提供了更優(yōu)秀的結果和更高效的資源利用。
我們堅信通過深入了解 EAC 投影，那么用戶在較窄的帶寬網(wǎng)絡環(huán)境中也能訪問 YouTube 上的高質(zhì)量視頻直播。未來，我們非常期待能夠看到這項投影技術運用到其他方面。
- 蜜度索驥：以跨模態(tài)檢索技術助力“企宣”向上生長
- 北斗已成為世界一流衛(wèi)星導航系統(tǒng)，系統(tǒng)服務及相關產(chǎn)品已輸出130余國。
- 蘋果CEO庫克今年已兩次來華，需要本地AI伙伴拯救iPhone銷量
- Mathys&Squire報告：中國半導體專利申請量激增42%，超過其他所有國家和地區(qū)
- 極氪聯(lián)手Waymo開發(fā)無人駕駛出行機器人，已開始國外路試
- 連續(xù)三個月銷售占比超50%，我國新能源乘用車實現(xiàn)新突破
- Arm發(fā)出“最后通牒”，擬取消高通的芯片IP授權，影響數(shù)億顆手機處理器
- 英偉達CEO黃仁勛再談新工業(yè)革命：AI是動力，代理型AI是趨勢
- 全國最大華為全液冷超充站落戶昆山，可同時滿足60輛電動車高效充電
- 純血鴻蒙發(fā)布日華為重磅宣布，8款機型啟動鴻蒙NEXT公測嘗鮮升級
- 山東將構建省域低空天網(wǎng)，擬招標采購2.2萬臺低空飛行器
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。
