企業(yè)如何管理生成式人工智能風(fēng)險(xiǎn)？

去年，生成式人工智能的采用率急劇上升。雖然該技術(shù)有望實(shí)現(xiàn)創(chuàng)新和生產(chǎn)力，但數(shù)據(jù)安全和泄露的風(fēng)險(xiǎn)卻困擾著組織。與生成式人工智能相關(guān)的一些風(fēng)險(xiǎn)包括數(shù)據(jù)濫用、數(shù)據(jù)泄露和數(shù)據(jù)中毒。這是因?yàn)樯墒?a href="http://www.ygpos.cn/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能是一種大型語言模型(LLM)，它依賴于大量數(shù)據(jù)來產(chǎn)生輸出。隨著人工智能的日益普及和發(fā)展，理解和減輕固有風(fēng)險(xiǎn)對組織來說變得越來越重要。

與人工智能相關(guān)的三大風(fēng)險(xiǎn)

大多數(shù)生成式人工智能風(fēng)險(xiǎn)源于用戶如何提出提示以及工具如何收集、存儲(chǔ)和處理信息。以下是與生成式人工智能工具相關(guān)的三個(gè)主要風(fēng)險(xiǎn)。

數(shù)據(jù)泄露風(fēng)險(xiǎn)

生成式人工智能系統(tǒng)通過大型數(shù)據(jù)集和用戶提供的提示來學(xué)習(xí)和改進(jìn)。提示用于立即分析，并且通常保留在人工智能的后端中，以供將來的訓(xùn)練和模型優(yōu)化。它們也經(jīng)常由人類操作員進(jìn)行分析。這帶來了無意中暴露敏感信息的潛在風(fēng)險(xiǎn)。

與此類人工智能工具交互的員工，可能會(huì)在不知不覺中在提示中泄露機(jī)密或敏感細(xì)節(jié)。例如，最近發(fā)生的一起事件顯示，三星員工將機(jī)密代碼上傳到ChatGPT，從而暴露了企業(yè)最敏感的信息。他們還使用ChatGPT創(chuàng)建會(huì)議記錄和總結(jié)業(yè)務(wù)報(bào)告，無意中泄露了機(jī)密信息。

雖然這只是一個(gè)例子，但在很多情況下，員工在不知情的情況下將敏感信息上傳到人工智能軟件，使企業(yè)的數(shù)據(jù)面臨風(fēng)險(xiǎn)。

人工智能工具中的漏洞

與任何軟件一樣，生成式人工智能工具也不能免受安全漏洞的影響。這些漏洞可能會(huì)給用戶數(shù)據(jù)和更廣泛的系統(tǒng)安全帶來重大風(fēng)險(xiǎn)。一些潛在的違規(guī)行為包括：

數(shù)據(jù)泄露：人工智能系統(tǒng)存儲(chǔ)大量信息數(shù)據(jù)集，如果黑客利用漏洞，并滲透托管生成人工智能工具的計(jì)算機(jī)系統(tǒng)或網(wǎng)絡(luò)，這些信息可能會(huì)面臨風(fēng)險(xiǎn)。這樣，黑客就可以訪問敏感數(shù)據(jù)，包括用戶生成的提示、企業(yè)內(nèi)部文檔等。

模型操縱：惡意行為者可能操縱人工智能模型，可能導(dǎo)致有偏見或不準(zhǔn)確的輸出、錯(cuò)誤信息活動(dòng)或有害內(nèi)容。

數(shù)據(jù)中毒或竊取

生成式人工智能模型嚴(yán)重依賴的數(shù)據(jù)集通?？梢詮幕ヂ?lián)網(wǎng)上抓取，從而使數(shù)據(jù)容易受到數(shù)據(jù)中毒和竊取。

數(shù)據(jù)中毒是指惡意威脅行為者將誤導(dǎo)性或錯(cuò)誤的數(shù)據(jù)注入現(xiàn)有的訓(xùn)練集中，從而破壞或操縱人工智能的學(xué)習(xí)過程。這可能會(huì)導(dǎo)致有偏見、不準(zhǔn)確甚至有害的用戶輸出。

當(dāng)人工智能組織缺乏足夠的數(shù)據(jù)存儲(chǔ)和安全措施時(shí)，可能會(huì)發(fā)生數(shù)據(jù)竊取，從而可能暴露敏感的用戶信息或?qū)Ｓ兄R(shí)產(chǎn)權(quán)。這些被盜數(shù)據(jù)可用于各種惡意目的，例如身份盜竊。

使用生成式人工智能帶來的另一個(gè)困境是黑客利用該技術(shù)進(jìn)行威脅。黑客使用生成式人工智能發(fā)起高度復(fù)雜的網(wǎng)絡(luò)釣魚攻擊，用戶無法區(qū)分合法電子郵件和黑客編寫的電子郵件，從而導(dǎo)致網(wǎng)絡(luò)攻擊。威脅行為者還利用人工智能進(jìn)行深度虛假攻擊，利用合法機(jī)構(gòu)的面部表情、聲音或音頻來操縱目標(biāo)采取某些行動(dòng)或泄露敏感信息。

如何降低生成式人工智能風(fēng)險(xiǎn)？

組織可以通過以下幾種方式減輕生成式人工智能風(fēng)險(xiǎn)并安全地利用該技術(shù)。

教育員工：最關(guān)鍵的一步是教育員工了解使用人工智能工具的潛在風(fēng)險(xiǎn)。對收集、處理和存儲(chǔ)信息的教育可以使他們正確地進(jìn)行提示。組織可以通過制定人工智能使用指南并提及該行業(yè)所需的合規(guī)性或監(jiān)管指南來防止數(shù)據(jù)泄露和其他相關(guān)攻擊。

進(jìn)行法律審查：每個(gè)人工智能工具都有其規(guī)定。這些需要由組織的法律部門進(jìn)行審查，以確保它們保持一致。對于金融服務(wù)或醫(yī)療保健等受到嚴(yán)格監(jiān)管的行業(yè)來說，這一點(diǎn)更為重要。法律團(tuán)隊(duì)可以就數(shù)據(jù)收集、存儲(chǔ)和使用條款和條件向公司發(fā)出警告，并查看它們是否與公司一致。

保護(hù)用于訓(xùn)練人工智能的數(shù)據(jù)和數(shù)據(jù)集：數(shù)據(jù)安全應(yīng)該是構(gòu)建自己的生成人工智能工具的組織的首要任務(wù)。他們必須優(yōu)先考慮符合預(yù)期目的的數(shù)據(jù)，并避免在數(shù)據(jù)選擇時(shí)引入偏見或敏感信息。匿名信息也至關(guān)重要，因?yàn)樗梢宰畲笙薅鹊亟档妥R(shí)別個(gè)人的風(fēng)險(xiǎn)，同時(shí)保留人工智能模型的數(shù)據(jù)實(shí)用性。組織還應(yīng)通過建立明確的數(shù)據(jù)治理策略和訪問控制機(jī)制來優(yōu)先考慮數(shù)據(jù)安全措施，以限制只有授權(quán)人員才能訪問敏感數(shù)據(jù)。

建立零信任系統(tǒng)：組織可以通過采用零信任安全模型，僅向需要執(zhí)行任務(wù)的特定員工授予對敏感數(shù)據(jù)和信息的訪問權(quán)限。這種精細(xì)控制顯著減少了整體攻擊面，并防止了心懷不滿的員工或意外錯(cuò)誤可能導(dǎo)致操作人工智能工具時(shí)數(shù)據(jù)泄露或盜用的情況。

結(jié)論

生成式人工智能憑借其自動(dòng)化任務(wù)、生成獨(dú)特內(nèi)容和個(gè)性化用戶體驗(yàn)的能力，有可能徹底改變行業(yè)。然而，它也伴隨著固有的風(fēng)險(xiǎn)。其中包括數(shù)據(jù)隱私問題、偏見和濫用的可能性。

通過預(yù)防措施來應(yīng)對風(fēng)險(xiǎn)，而不是阻止生成式人工智能的使用，將使組織能夠充分利用這項(xiàng)技術(shù)。通過實(shí)施強(qiáng)有力的安全措施、促進(jìn)負(fù)責(zé)任的數(shù)據(jù)治理實(shí)踐和優(yōu)先考慮用戶教育，可以減輕這些風(fēng)險(xiǎn)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。