大圖數(shù)據(jù)科學(xué)： 圖數(shù)據(jù)中的推理

我們正淹沒在大數(shù)據(jù)的河流里，數(shù)據(jù)之間的相互關(guān)系蘊(yùn)含著豐富的信息，但也常常被我們忽略。本文中，加州大學(xué)圣克魯茲分校計算機(jī)科學(xué)系教授、美國人工智能學(xué)會(AAAI)院士Lise Getoor講述了圖識別是如何依靠數(shù)據(jù)做出推理的，并給出了自己對于概率軟性邏輯PSL優(yōu)越性和可能應(yīng)用的看法。Lise Getoor表示我們還需要對圖進(jìn)行更多的機(jī)器學(xué)習(xí)，考慮各種關(guān)聯(lián)結(jié)點(diǎn)之間的復(fù)雜關(guān)系。

南加州大學(xué)圣克魯茲分校計算機(jī)科學(xué)系教授Lise Getoor

(以下為Lise Getoor教授分享的精簡版文字整理)

我們正淹沒在大數(shù)據(jù)的河流里，大數(shù)據(jù)并非是平的，而是多模態(tài)、多關(guān)系、兼具時空、多媒體的。目前的AI技術(shù)，特別是機(jī)器學(xué)習(xí)，它將豐富復(fù)雜數(shù)據(jù)平放到矩陣的形式當(dāng)中。我們當(dāng)下所做的一些工作很可能忽視了數(shù)據(jù)當(dāng)中的很多豐富信息，其中很重要的一點(diǎn)就是錯誤假設(shè)了數(shù)據(jù)之間的相互關(guān)系。作為研究者和開發(fā)者，我們需要考慮到這些圖的結(jié)構(gòu)和相關(guān)的環(huán)境因素。

我想首先和大家說說三種常見的圖數(shù)據(jù)推理模式，最簡單的一種叫做協(xié)同分類。如果一個圖的部分結(jié)點(diǎn)已經(jīng)有標(biāo)簽，我們就可以推理出其結(jié)點(diǎn)的標(biāo)簽。社交網(wǎng)絡(luò)就是很典型的例子，其中包含著非常豐富的信息和聯(lián)系，通過信息和數(shù)據(jù)去做推理可以得出某位朋友的飲食習(xí)慣或其他偏好?；跀?shù)據(jù)在已有的信息，設(shè)置不同的權(quán)重，我們能夠做一些簡單的推理，充分利用本地信息和標(biāo)簽，再去推理出一些之前沒有加入的標(biāo)簽信息。

第二種叫做鏈接預(yù)測，我們不僅僅可以預(yù)測某一個結(jié)點(diǎn)的標(biāo)簽，還可以推斷結(jié)點(diǎn)之間的鏈接。比如說有一個通訊網(wǎng)絡(luò)，我們能夠通過通訊信息推理出網(wǎng)絡(luò)中所有人的層級，并通過不同種類的信息判斷不同人之間的關(guān)系。

第三種是實(shí)體解析，任務(wù)是確定哪些結(jié)點(diǎn)指向同樣的實(shí)體，我們就能從中獲得一些信息。

對我個人而言，我最喜歡的圖推理問題是圖識別(發(fā)現(xiàn)可觀察圖結(jié)構(gòu)所潛含的真實(shí)圖結(jié)構(gòu))，它能夠把上面提到的的三個小模型結(jié)合到一起。還是以郵件通訊網(wǎng)絡(luò)為例，通過對郵件信息進(jìn)行推理就可以發(fā)現(xiàn)這幾個人之間的關(guān)系及角色。我們需要對每一個信息進(jìn)行研究，研究他們的實(shí)體狀況和郵件狀況。具體做法是首先對這些人進(jìn)行分組，對之間的關(guān)系進(jìn)行預(yù)測，并對實(shí)體身份做出判斷。這其中也存在非常大的挑戰(zhàn)，如何打造一個非常魯棒的算法來理清其中的人物關(guān)系非常重要。

目前，統(tǒng)計學(xué)研究也在開發(fā)相應(yīng)的算法，例如概率性推理和關(guān)系推理。有一個工具叫概率軟性邏輯PSL，它是一種概率編程語言，即用描述性的語言對圖上的問題進(jìn)行描述。這個基礎(chǔ)是，我們有屬性、關(guān)系的邏輯表示，還有規(guī)則和約束來捕捉他們的依賴關(guān)系。PSL是一個這樣的存在，它根據(jù)模板和數(shù)據(jù)來定義他們之間的概率分布用于推斷。

PSL比較有意思的一點(diǎn)是，它通過將邏輯規(guī)則映射為凸函數(shù)，實(shí)現(xiàn)了大規(guī)模推斷的可擴(kuò)展性。更有意思的是，這個映射的合理性是用已有的理論計算機(jī)科學(xué)的結(jié)論證明的，用MAX SAT的近似隨機(jī)算法結(jié)合統(tǒng)計學(xué)、機(jī)器學(xué)習(xí)、圖模型方面的理論。之后我們就可以將從理論計算機(jī)科學(xué)當(dāng)中的一些東西轉(zhuǎn)化到實(shí)際的圖識別應(yīng)用當(dāng)中去，最后將這種軟性的邏輯和AI進(jìn)行結(jié)合，在不同的情景下，很多時候你們會得到同樣的優(yōu)化結(jié)果。在我看來，我覺得我們現(xiàn)在能看到的這些東西僅僅是冰山一角，我們稱之為叫Hinge-loss馬爾科夫隨機(jī)域。在這里有包含著很多具體微小的細(xì)節(jié)，每一個邏輯規(guī)則實(shí)際上都和某一個函數(shù)是相關(guān)的，相關(guān)的函數(shù)實(shí)際上都會造成一定的依賴損失。

在圖識別領(lǐng)域，PSL在推理速度和準(zhǔn)確度上的表現(xiàn)和離散的馬爾科夫規(guī)則相比都要更好，且從數(shù)據(jù)當(dāng)中學(xué)習(xí)權(quán)重和變量的效果也更加出色。由此PSL可以衍生出很多具體的應(yīng)用，首先是分類問題。以在線討論為例，PSL通過觀察大家討論的文字內(nèi)容和行為數(shù)據(jù)，就能夠很好地來預(yù)測用戶的觀點(diǎn)。再比如大數(shù)據(jù)和AI領(lǐng)域常常需要聚合信息做推薦、預(yù)測甚至打分，我們有來自社交互動、圖像方面的各種信息，其實(shí)這些信息中存在一定的相似性。PSL的優(yōu)勢就在于它具有非常好的擴(kuò)展性，特別是邏輯相似性較高的情況下擴(kuò)展也會更加容易。

另外一個領(lǐng)域可能和安全相關(guān)，通過研究社交媒體當(dāng)中的垃圾郵件可以進(jìn)行協(xié)同推斷，哪些可能是垃圾郵件。還有一個問題是如何把視覺的、文本的、關(guān)系的數(shù)據(jù)全部融合起來，去推測使用用戶的個性。我們把所有的信息結(jié)合起來就能夠預(yù)測一些人口學(xué)特征，比如性別、年齡，同時還可以預(yù)測人們在社交媒體當(dāng)中的信任。

最后我想和大家分享有關(guān)知識圖的建構(gòu)，如何獲取足夠多的數(shù)據(jù)來實(shí)現(xiàn)知識的自動架構(gòu)是一項長期以來的挑戰(zhàn)。我們能夠結(jié)合統(tǒng)計學(xué)的數(shù)據(jù)信息以及一些相對簡單的語義信息，把它們和我開始提出的圖識別問題結(jié)合起來，并在做圖識別時找到它的結(jié)點(diǎn)、標(biāo)簽以及結(jié)點(diǎn)之間的關(guān)系，在此之上可以再融入一些本體的限制，同時還可以融入一些關(guān)于信息和其他來源的數(shù)據(jù)。把它們相結(jié)合能夠產(chǎn)生比較好的效果，而且速度可以得到顯著提升。

我們需要對圖進(jìn)行更多的機(jī)器學(xué)習(xí)，考慮各種關(guān)聯(lián)結(jié)點(diǎn)之間的復(fù)雜關(guān)系。另外，當(dāng)我們在做數(shù)據(jù)驅(qū)動技術(shù)時需要思考究竟什么才是負(fù)責(zé)任的數(shù)據(jù)科學(xué)，如何檢查數(shù)據(jù)并通過算法做出決策。我個人對PSL感到興奮的原因就在于它的邏輯規(guī)則確實(shí)比一大批權(quán)重或是參數(shù)的算法更加容易解釋。這個領(lǐng)域會有一些隱私和安全性的問題，這值得我們進(jìn)一步研究;相伴而生的還有很多機(jī)遇，有更多社會、商業(yè)、科學(xué)、安全以及其他方面的應(yīng)用可以去發(fā)現(xiàn)、去探索。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。