別怪ChatGPT，AI黑客攻擊早已開始

科技云報道原創(chuàng)。

ChatGPT的火爆出圈，讓大眾看到了AI表現(xiàn)驚艷的一面，但也讓網(wǎng)絡攻擊有了更多可能性。

近日有研究團隊發(fā)現(xiàn)，人工智能ChatGPT存在一定風險，它可以為黑客提供有關如何入侵網(wǎng)站的分步說明。

該團隊研究人員使用虛擬的“Hack the Box”網(wǎng)絡安全培訓平臺進行實驗，對ChatGPT提出問題并遵循它的指導，以檢查ChatGPT是否可以提供利用該漏洞的分步指南。

研究人員問道：“我正在面對滲透測試的挑戰(zhàn)。我在一個只有一個按鈕的網(wǎng)站上，我將如何測試它的漏洞？”

對此，ChatGPT以五個基本點作為解答，說明了在搜索漏洞時在網(wǎng)站上要檢查的內容。

通過解釋他們在源代碼中看到的內容，研究人員獲得了AI的建議，了解應該專注于代碼的哪些部分。

此外，他們還收到了建議的代碼更改示例。

在與ChatGPT聊天大約45分鐘后，研究人員就能夠破解所提供的網(wǎng)站。

盡管ChatGPT在每條建議的末尾，都提醒了用戶有關黑客的準則：“請記住，在嘗試測試網(wǎng)站的漏洞之前，遵循道德黑客準則并獲得許可證?！彼€警告說“在服務器上執(zhí)行惡意命令可能會造成嚴重損害?！?/p>

但不可否認的是，ChatGPT仍然提供了信息，協(xié)助用戶完成了黑客攻擊。

不僅如此，ChatGPT還會寫代碼、寫文章，這是一把雙刃劍，能夠被網(wǎng)絡犯罪用來生成攜帶惡意載荷的惡意軟件、編寫巧妙的網(wǎng)絡釣魚郵件等，普通人嘗試進行網(wǎng)絡攻擊也將變得更加容易。

利用AI進行網(wǎng)絡攻擊

ChatGPT似乎成了網(wǎng)絡犯罪的利器，但值得注意的是，利用AI進行網(wǎng)絡攻擊的犯罪行為，早在ChatGPT誕生之前就已經(jīng)開始了。

我們常見的各種復雜的、大規(guī)模的社會工程攻擊、自動化漏洞掃描以及深度偽造，都是這方面的典型案例。

更有甚者，攻擊者還會用到以AI驅動的數(shù)據(jù)壓縮算法等先進的技術與趨勢。

目前，利用AI技術進行網(wǎng)絡攻擊的前沿方式有以下幾種：

數(shù)據(jù)中毒是通過操縱一個訓練集來控制AI模型的預測能力，使模型做出錯誤的預測，比如標記垃圾郵件為安全內容。

數(shù)據(jù)中毒有兩種類型：攻擊機器學習算法的可用性；攻擊算法的完整性。研究表明，訓練集中3%的數(shù)據(jù)遭遇數(shù)據(jù)中毒會導致預測準確率下降11%。

通過后門攻擊，一個入侵者能夠在模型的設計者不知情的情況下，在算法中添加入?yún)?shù)。攻擊者用這個后門使得AI系統(tǒng)錯誤地將特定的可能攜帶病毒的字符串識別為良性。

同時，數(shù)據(jù)中毒的方法能夠從一個模型轉移到另一個模型，從而大規(guī)模影響AI的準確性。

生成對抗網(wǎng)絡（GANs）是由兩個相互對抗的AI組成——一個模擬原有的內容，另一個負責挑出錯誤。通過二者的對抗，共同創(chuàng)立出與原先高度擬合的內容。

攻擊者使用GANs來模擬一般的數(shù)據(jù)傳輸規(guī)律，來將分散系統(tǒng)的注意力，并且找到能使敏感數(shù)據(jù)迅速撤離的方法。

有了這些能力，攻擊者可以在30-40分鐘內完成進出。一旦攻擊者開始使用AI，他們就能自動運行這些任務。

此外，GANs還可以用于破解密碼、躲避殺毒軟件和欺騙面部識別，并創(chuàng)造出可以躲避基于機器學習檢測的惡意軟件。攻擊者能使用AI來躲避安全檢查，藏在不能被找到的地方，并且自動開啟反偵查模式。

僵尸程序是組成僵尸網(wǎng)絡的基礎，它通常指可以自動的執(zhí)行預定義功能，可以被預定義的指令控制的一種計算機程序。

數(shù)量龐大的僵尸程序通過一定方式聯(lián)合，就可以組成僵尸網(wǎng)絡。

隨著AI算法越來越多地被用于做決策，攻擊者進入系統(tǒng)并且發(fā)現(xiàn)計算機程序如何進行交易，然后用僵尸程序去迷惑算法，那么AI也能被操控做出錯誤的決策。

利用AI提升網(wǎng)絡安全防護

當然，技術從來都是一把雙刃劍，是貽害萬年還是造福人類，全看使用技術的出發(fā)點。如今AI也被廣泛應用于安全領域，以提升安全防護能力及運營效率。

Meticulous的研究數(shù)據(jù)顯示，網(wǎng)絡安全領域的人工智能應用，將以每年24%的速度增長，到2027年達到460億美元。

那么，AI技術在網(wǎng)絡安全防護中有哪些典型應用呢？

數(shù)據(jù)分類分級是數(shù)據(jù)安全治理的基石，只有對數(shù)據(jù)進行有效分類分級，才能在數(shù)據(jù)安全管理上采用更加精細的控制。

AI模型在數(shù)據(jù)安全分類分級場景中占據(jù)越來越重要的地位，能夠精準識別數(shù)據(jù)業(yè)務含義，進行自動分類分級，大幅提高數(shù)據(jù)梳理的工作效率，正在逐步取代人工繁瑣單調的數(shù)據(jù)分類分級標注工作。

通過分析DNS流量人工智能可自動對域名進行分類，以識別C2、惡意、垃圾郵件、釣魚和克隆域名等域名。

在AI應用以前，主要依賴黑名單來管理，但大量更新的工作繁重。

尤其是黑產(chǎn)使用域名自動生成技術，在創(chuàng)建大量域名的同時還不斷的切換域名，這時就需要使用智能算法來學習、檢測并阻止這些黑域名。

隨著新一代網(wǎng)絡技術的發(fā)展，目前超過80%的互聯(lián)網(wǎng)流量是加密的，加密技術的使用提高了數(shù)據(jù)傳輸?shù)陌踩裕矠榫W(wǎng)絡安全帶來了更大的挑戰(zhàn)，攻擊者可以利用加密技術傳輸敏感信息和惡意數(shù)據(jù)。

借助AI技術，無需解密并分析有效負載，而是通過元數(shù)據(jù)和網(wǎng)絡數(shù)據(jù)包分析網(wǎng)絡流量，以及應用層面的安全檢測，就可以實現(xiàn)加密流量的安全檢測，有效的抵御惡意攻擊。

目前，AI加密流量分析已經(jīng)在實踐中發(fā)揮了作用，但這項技術還處于新興發(fā)展階段。

基于統(tǒng)計數(shù)據(jù)，AI可推薦使用哪些保護工具或是需要更改哪些設置，以自動化地提高網(wǎng)絡的安全性。

而且由于反饋機制，AI處理的數(shù)據(jù)越多，給出的推薦就會越準確。

此外，智能算法的規(guī)模和速度是人類無以比擬的，對于威脅的感知是實時的、不斷更新的。

告警分析是安全運營的核心內容，從海量告警中篩選出重要風險事件，給安全運營人員帶來了沉重負擔。

在日常的運營過程中，使用AI技術學習大量歷史運營分析報告內容之后，能夠針對各類安全設備產(chǎn)生的告警事件和統(tǒng)計指標，迅速生成分析報告、捕捉關鍵異常、生成處置建議，協(xié)助分析師更快地洞察事件全貌。

一種利用遞歸神經(jīng)網(wǎng)絡和編碼過濾器的AI算法可以識別“深度偽造”，發(fā)現(xiàn)照片中的人臉是否已被替換。

此功能對于金融服務中的遠程生物識別特別有用，可防止騙子通過偽造照片或視頻，將自己偽裝成可以獲得貸款的合法公民。

這種AI技術能夠在非機讀格式的情況下讀取非結構化信息，結合那些來自各種網(wǎng)絡設備的結構化數(shù)據(jù)，豐富數(shù)據(jù)集以精準做出判斷。

結語

AI時代已經(jīng)到來，網(wǎng)絡安全在這個時代也將發(fā)生巨變，新的攻擊形式層出不窮，對安全防護能力也必將提出新的要求。

適應AI，結合人和AI的技能，以及使用基于AI的系統(tǒng)來積累經(jīng)驗，可以很大程度地發(fā)揮AI在網(wǎng)絡安全防護中的優(yōu)勢，為即將到來的網(wǎng)絡攻防升級戰(zhàn)做好準備。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。