Holopix50k發(fā)布: 最多最豐富的雙目數(shù)據(jù)集大幅提升多個相關(guān)任務(wù)性能?

隨著配備雙目攝像頭的智能手機(jī)逐步增加,利用計算機(jī)視覺處理立體信息的需求也變得越來越重要。但現(xiàn)有的立體視覺數(shù)據(jù)集無論在數(shù)量和多樣性上都不足以支持豐富場景的雙目立體應(yīng)用。

為了解決這一問題,來自Leia公司的研究人員們構(gòu)建了一個包含49368對圖像的立體視覺數(shù)據(jù)集Holopix50k,這一數(shù)據(jù)集從大小和多樣性上都超過了現(xiàn)有的公開數(shù)據(jù)集,在立體圖像超分辨、單目深度估計等任務(wù)上都取得了非常大的性能提升。

立體視覺的及其廣泛應(yīng)用

近年來隨著硬件的發(fā)展,立體視覺已經(jīng)在智能手機(jī)中普及。通過雙目攝像頭不同視角的拍攝下能夠得到場景的立體信息,對于3D照片、虛擬現(xiàn)實(shí)和交互等應(yīng)用有著重要的作用。此外移動機(jī)器人和自動駕駛的迅速發(fā)展,也為立體視覺算法提出了更高的要求,需要在更為復(fù)雜的場景、多樣的真實(shí)環(huán)境中有效工作。

立體視覺的主要任務(wù)包括立體視差估計、基于自監(jiān)督或者無監(jiān)督方法對單張圖像輸入進(jìn)行單目深度估計和基于立體圖像提升分辨率的圖像超分辨等任務(wù)。這些任務(wù)都需要高質(zhì)量的大規(guī)模雙目/深度數(shù)據(jù)集來進(jìn)行訓(xùn)練。

目前人工智能領(lǐng)域的深度學(xué)習(xí)算法在多個領(lǐng)域取得重大的進(jìn)展,但大規(guī)模的、多樣性的數(shù)據(jù)需求卻成為了立體視覺領(lǐng)域開發(fā)出優(yōu)秀算法的阻礙!大規(guī)模的立體數(shù)據(jù)集是提升算法性能的關(guān)鍵之一。

目前立體視覺領(lǐng)域的數(shù)據(jù)集主要包括像KITTI,Middlebury、NYU Indoor等較為流行的真實(shí)數(shù)據(jù)集、還包括Make3D、ETH3D、CMLA和Cityscape等針對特定領(lǐng)域的數(shù)據(jù)集,近年來還出現(xiàn)了像Flickr1024和WSVD等場景更為豐富的數(shù)據(jù)集,但這些數(shù)據(jù)集在數(shù)量和相關(guān)指標(biāo)上并沒有良好的結(jié)果。

此外為了克服真實(shí)世界中數(shù)據(jù)收集的困難,研究人員還提出了利用圖形學(xué)渲染的方法來渲染獲取大量的雙目數(shù)據(jù),主要包括MPI Sintel、SceneFlow、UnrealStereo和3D Ken Burns等數(shù)據(jù),但合成數(shù)據(jù)應(yīng)用于真實(shí)場景會受到域遷移問題的影響,同時還需要很大的努力來構(gòu)建豐富的數(shù)字化場景。而Holopix50k的目的就在于綜合解決這些存在的問題。

Holopix50k

這一數(shù)據(jù)集主要從社交媒體平臺上收集而來,Holopix是目前最主流的3D攝影共享平臺,包含了大量的多視角立體視覺照片并可以利用視差效應(yīng)來顯示出三維效果。這里匯集了世界上最為豐富的立體視覺社交媒體圖像,用戶只需要上傳兩個或多個視角,就可以在光場顯示設(shè)備上獲取多視角圖像,也可以在普通設(shè)備上獲取基于移動的模擬立體圖像。

在Holopix平臺上RED Hydrogen One拍攝的圖像最多,作為第一款集成光場性能的消費(fèi)級手機(jī),它可以提供四個視角的多角度顯示。它擁有兩個水平排列的相機(jī),同時對圖像進(jìn)行了校正并收斂于立體圖像的平均視差。與Flickr1024不同的是,這種方法并沒有對圖像進(jìn)行剪切來使得圖像片收斂于無窮遠(yuǎn)處的立體視差。

在最開始的階段,研究人員首先從Holopix上收集了約70k適合于作為數(shù)據(jù)集的立體視覺圖像對,針對左右圖像分辨率不匹配的情況會將兩張圖像的分辨率統(tǒng)一為其中較小的分辨率,利用高斯平滑和雙三次插值來將分辨率較高的圖像進(jìn)行下采樣。

123下一頁>

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2020-04-30
Holopix50k發(fā)布: 最多最豐富的雙目數(shù)據(jù)集大幅提升多個相關(guān)任務(wù)性能?
隨著配備雙目攝像頭的智能手機(jī)逐步增加,利用計算機(jī)視覺處理立體信息的需求也變得越來越重要。但現(xiàn)有的立體視覺數(shù)據(jù)集無論在數(shù)量和多樣性上都不足以支持豐富場景的雙目立體應(yīng)用。

長按掃碼 閱讀全文