所謂的“深度假視頻”現(xiàn)在成為美國(guó)立法者擔(dān)心的一個(gè)主要問題，他們擔(dān)心AI偽造的政府人員視頻可能成為國(guó)家安全威脅。
Facebook表示它已經(jīng)建立了一個(gè)機(jī)器學(xué)習(xí)模型來檢測(cè)潛在的虛假照片或視頻，然后將這些模型發(fā)送給其事實(shí)檢查員進(jìn)行審查。第三方事實(shí)檢查合作伙伴可以使用視覺驗(yàn)證技術(shù)，包括反向圖像搜索和圖像元數(shù)據(jù)分析來審查內(nèi)容。
Facebook打算利用其收集的照片和視頻評(píng)論者來提高其機(jī)器學(xué)習(xí)模型的準(zhǔn)確性，以檢測(cè)這些媒體格式的錯(cuò)誤信息。
它定義了照片和視頻中的三種錯(cuò)誤信息，包括：操縱或制作的內(nèi)容；脫離背景呈現(xiàn)的內(nèi)容；文字或音頻中的虛假聲明。
Facebook提供了與文本相比識(shí)別圖像和視頻內(nèi)容中的虛假信息的困難的高級(jí)概述，以及它用于克服它們的一些技術(shù)。但總體而言，人們的印象是，F(xiàn)acebook并沒有接近自動(dòng)系統(tǒng)來大規(guī)模檢測(cè)視頻和照片中的錯(cuò)誤信息。
目前，它正在使用OCR從照片中提取文本，例如照片上的虛假標(biāo)題，以便將文本與事實(shí)檢查員文章的標(biāo)題進(jìn)行比較。它還在開發(fā)檢測(cè)照片或視頻是否被操縱的方法。為此，它使用音頻轉(zhuǎn)錄來比較它從音頻中提取的文本是否與事實(shí)檢查者之前已經(jīng)揭穿的文本中的聲明匹配。
“目前，我們正在與照片上比我們使用的視頻音頻轉(zhuǎn)錄使用OCR更先進(jìn)的，”說的Facebook產(chǎn)品經(jīng)理泰莎里昂。
與文章一樣，一旦事實(shí)檢查人員確認(rèn)其為假，F(xiàn)acebook將專注于識(shí)別虛假視頻和照片的重復(fù)。
Lyons表示，F(xiàn)acebook在尋找精確復(fù)制的照片方面“相當(dāng)不錯(cuò)”，但是當(dāng)圖像被輕微操縱時(shí)，F(xiàn)acebook更難以自動(dòng)檢測(cè)。
“我們需要繼續(xù)投資技術(shù)，這將有助于我們識(shí)別出以微小方式發(fā)生變化的非常接近的副本，”里昂斯說。
Lyons表示，檢測(cè)某些東西是否脫離背景也是一項(xiàng)重大挑戰(zhàn)。
“了解某些事情是否脫離了背景是我們正在投資的領(lǐng)域，但還有很多工作要做，因?yàn)槟阈枰私饷襟w的原始背景，媒體呈現(xiàn)的背景，以及是否兩者之間存在差異，“她指出。
照片和視頻內(nèi)容中的錯(cuò)誤信息的影響也因國(guó)家而異。Facebook已經(jīng)發(fā)現(xiàn)，在美國(guó)，大多數(shù)人報(bào)告看到文章中的錯(cuò)誤信息，而在印度尼西亞，人們更多地報(bào)告在照片中看到的誤導(dǎo)信息。
“在媒體生態(tài)系統(tǒng)欠發(fā)達(dá)或識(shí)字率較低的國(guó)家，人們可能更有可能在照片上看到錯(cuò)誤的標(biāo)題，或看到偽造的照片，并將其解釋為新聞，而在擁有強(qiáng)大新聞生態(tài)系統(tǒng)的國(guó)家，“新聞”的概念更多地與文章聯(lián)系在一起，“里昂說。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
