未來幾年，人工智能將成為網(wǎng)絡威脅和公司應對這些威脅的主要因素。以下是應對這些新威脅以及決定如何將人工智能融入網(wǎng)絡安全運營時需要牢記的一些主要趨勢。
人工智能極大地加快了網(wǎng)絡威脅形勢的變化速度。它大大降低了全球網(wǎng)絡犯罪分子的進入門檻，從廣泛使用的強大社交工程工具（如大型語言模型(LLM)和深度偽造）到人工智能驅(qū)動的監(jiān)控和數(shù)據(jù)分析。與此同時，企業(yè)越來越多地使用人工智能通過漏洞評估、補救和自動化安全任務來加強其網(wǎng)絡防御。
趨勢一：人工智能將推動新一波社會工程攻擊
LLM和深度偽造的出現(xiàn)將使社會工程變得更加有效。根據(jù)《2024年數(shù)據(jù)泄露調(diào)查報告》，68%的泄露事件涉及人為因素。這就是為什么網(wǎng)絡犯罪分子利用其武器庫中的新AI武器來欺騙和操縱員工以滲透網(wǎng)絡、竊取敏感信息并竊取資金。
例如，網(wǎng)絡犯罪分子正在使用LLM大量制作高度個性化且令人信服的網(wǎng)絡釣魚信息，受害者更有可能點擊這些信息。谷歌報告稱，公司應該預料到LLM會被“用于網(wǎng)絡釣魚、短信和其他社會工程操作”。與此同時，微軟已經(jīng)觀察到全球主要網(wǎng)絡犯罪組織廣泛使用LLM。
網(wǎng)絡犯罪分子還利用深度偽造發(fā)起復雜的多層次網(wǎng)絡攻擊。例如，受害者收到網(wǎng)絡釣魚信息后，可能會打電話確認，最終與深度偽造的對話者交談。
趨勢二：人工智能將迫使企業(yè)重新評估現(xiàn)有的網(wǎng)絡安全流程
雖然人工智能為企業(yè)提供了比以往更廣泛的網(wǎng)絡安全工具，但該技術的快速發(fā)展也引發(fā)了一場人工智能軍備競賽——隨著防御能力的提高，入侵方法也在不斷改進。這意味著首席信息安全官和其他安全領導者將不得不重新評估幾種主要的網(wǎng)絡安全機制。
例如，深度偽造將使生物特征身份驗證變得不那么有效，最新研究發(fā)現(xiàn)，到2026年，30%的企業(yè)將不再認為這些“身份驗證解決方案單獨來看是可靠的”。各家企業(yè)正在建立支持人工智能的“身份威脅檢測和響應”工具，例如根據(jù)內(nèi)容、發(fā)件人憑證和電子郵件標頭信息分析消息的網(wǎng)絡釣魚防御。但網(wǎng)絡犯罪分子也在借助LLM和其他人工智能工具開發(fā)變通方法，而網(wǎng)絡釣魚仍然是最常見且成本第二高的初始攻擊媒介。
預計到2025年，人工智能將要求企業(yè)在應用和數(shù)據(jù)安全方面的支出至少增加15%。這與其他研究一致，例如普華永道最近的一份報告發(fā)現(xiàn)，79%的高管將在2024年增加網(wǎng)絡支出，高于2023年的64%。首席信息安全官和其他安全領導者必須確定如何盡可能有效地進行這些投資。
趨勢三：人工智能將對供應鏈網(wǎng)絡安全產(chǎn)生重大影響
供應鏈泄露是最具破壞性的網(wǎng)絡攻擊之一。SolarWinds黑客攻擊是有史以來最大的入侵事件之一，該企業(yè)發(fā)現(xiàn)“最有可能的攻擊媒介是通過第三方應用獲取憑證和/或訪問?！备鶕?jù)Verizon的最新數(shù)據(jù)，2023年至2024年間，涉及泄露的“供應鏈互連”數(shù)量增加了68%。
預計到2025年，全球45%的組織將遭受針對其軟件供應鏈的網(wǎng)絡攻擊，這一數(shù)字比2021年增加了三倍。供應鏈網(wǎng)絡攻擊的新時代已經(jīng)到來。IBM報告稱，2023年27%的總違規(guī)行為可歸因于對軟件或業(yè)務合作伙伴供應鏈的攻擊。
企業(yè)可以使用人工智能來運行模擬，以反映潛在的供應鏈攻擊，檢測欺詐和惡意網(wǎng)絡活動，并幫助企業(yè)在發(fā)生違規(guī)時縮短響應時間。但人工智能也允許網(wǎng)絡犯罪分子探測供應鏈中潛在的薄弱環(huán)節(jié)，并發(fā)起社會工程攻擊，讓他們立足于關鍵接入點。這些提醒我們，在整個供應鏈中實施正確的安全協(xié)議至關重要，從人工智能識別和響應系統(tǒng)到高質(zhì)量的網(wǎng)絡安全意識培訓。
趨勢四：人工智能時代，全面的網(wǎng)絡安全至關重要
人工智能軍備競賽愈演愈烈，企業(yè)不能再等待最新的網(wǎng)絡安全技術發(fā)布。在社交工程仍然是大多數(shù)網(wǎng)絡攻擊的首選策略的時代，安全領導者必須確保在企業(yè)的各個層面培養(yǎng)網(wǎng)絡安全文化，并為員工提供保護組織所需的資源。
IBM表示，員工培訓是數(shù)據(jù)泄露總體成本中最重要的緩解因素之一，其作用超過了保險、加密、人工智能驅(qū)動的洞察力和其他資源。人工智能和網(wǎng)絡安全培訓應該相輔相成。預計到2028年，威脅檢測和事件響應中的多智能體人工智能占人工智能實施的比例將從5%上升到70%，主要用于增強員工能力，而不是取代員工。
網(wǎng)絡安全意識培訓必須不斷發(fā)展以滿足人工智能時代的需求。這不僅僅意味著培訓員工識別復雜的LLM生成的網(wǎng)絡釣魚消息和深度偽造。它還意味著利用人工智能生成預測行為檔案，通過定制干預措施解決員工的特定弱點，并在員工不再信任自己的眼睛和耳朵的時代賦予員工阻止網(wǎng)絡攻擊的能力。企業(yè)必須優(yōu)先投資于人工智能增強員工隊伍，而不僅僅是任務自動化。為GenAI帶來的短期支出增加和長期技能需求變化做好準備。
近90%的組織仍在研究或試用生成式人工智能，因此很難預測哪些技術和應用會隨著炒作周期而消退，哪些技術和應用會繼續(xù)存在。但企業(yè)可以通過制定全面的網(wǎng)絡安全戰(zhàn)略來應對未來的任何情況，該戰(zhàn)略既能利用人工智能的力量，又能讓員工做好準備，抵御這項革命性技術帶來的快速演變的威脅。
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。
