作者：云道士
2023年，生成式AI技術(shù)破繭成蝶，引發(fā)了一場(chǎng)全球范圍的數(shù)字革命。從最初的聊天、下棋開(kāi)始，到醫(yī)療、金融、制造、教育、科研等，生成式AI表現(xiàn)出了強(qiáng)大的創(chuàng)造力和無(wú)限潛力。
同時(shí)，生成式AI又是一把雙刃劍，它既可以幫助企業(yè)解決實(shí)際問(wèn)題，又面臨著數(shù)據(jù)泄露等巨大風(fēng)險(xiǎn)。今年年初，某大型全球化企業(yè)就在大模型訓(xùn)練過(guò)程中，泄露了企業(yè)數(shù)據(jù)庫(kù)中的機(jī)密信息，給企業(yè)帶來(lái)了巨大的負(fù)面影響。而此類事件依然層出不窮。
生成式AI在訓(xùn)練與使用過(guò)程中，有諸多環(huán)節(jié)都將面臨數(shù)據(jù)泄露風(fēng)險(xiǎn)，應(yīng)該以何種方式保障安全呢?
8月31日，亞馬遜云科技re:Inforce 2023中國(guó)站正式開(kāi)啟，此次大會(huì)以“AI時(shí)代 全面智能的安全”為主題，目標(biāo)就是幫助企業(yè)解決生成式AI在全部流程環(huán)節(jié)中的安全挑戰(zhàn)。
安全是構(gòu)建生成式AI應(yīng)用之根本
亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)代聞表示：安全是構(gòu)建生成式AI應(yīng)用不可回避的重要議題。從全棧角度出發(fā)，應(yīng)該從數(shù)據(jù)、傳輸、應(yīng)用到基礎(chǔ)設(shè)施整體構(gòu)建出可靠的合規(guī)體系，這樣才能真正保障AI應(yīng)用的安全。
代聞-亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)
亞馬遜云科技一直嚴(yán)格遵從客戶擁有和控制數(shù)據(jù)的理念，提供了行業(yè)領(lǐng)先的技術(shù)和物理措施來(lái)防止未經(jīng)授權(quán)的訪問(wèn)，為數(shù)據(jù)提供涵蓋存儲(chǔ)、傳輸、使用、治理等各個(gè)環(huán)節(jié)的加密及保護(hù)服務(wù)。
舉例而言，企業(yè)在訓(xùn)練AI模型過(guò)程中首先要訪問(wèn)數(shù)據(jù)庫(kù)，現(xiàn)代企業(yè)的業(yè)務(wù)數(shù)據(jù)是創(chuàng)新的基礎(chǔ)，也是“命脈”，一旦數(shù)據(jù)泄露就將帶來(lái)不可逆的惡劣影響。同時(shí)，在數(shù)據(jù)傳輸、使用、治理、訪問(wèn)等各個(gè)環(huán)節(jié)，也會(huì)面臨泄露風(fēng)險(xiǎn)。
因此，安全是構(gòu)建生成式AI應(yīng)用不可回避的議題!
針對(duì)生成式AI，亞馬遜云科技將安全防護(hù)劃分為三個(gè)階段，分別為：數(shù)據(jù)和模型安全、應(yīng)用安全和全球合規(guī)，并基于此提供了更為系統(tǒng)化的安全防護(hù)工具。
數(shù)據(jù)安全，從存儲(chǔ)和傳輸開(kāi)始
在數(shù)據(jù)保護(hù)方面，亞馬遜云科技重點(diǎn)推薦的第一項(xiàng)服務(wù)就是Amazon KMS。其全稱為Amazon Key Management Service，是一項(xiàng)通過(guò)硬件安全模塊來(lái)保護(hù)用戶密鑰的云端安全服務(wù)。借助AmazonKMS，用戶可以創(chuàng)建和管理加密密鑰，并控制相關(guān)權(quán)限。這些密鑰可用于跨各種亞馬遜云科技服務(wù)和用戶應(yīng)用程序訪問(wèn)加密數(shù)據(jù)。
同樣地，數(shù)據(jù)傳輸也是安全防護(hù)的重要階段，此環(huán)節(jié)可通過(guò)Amazon Nitro來(lái)構(gòu)建獨(dú)立的安全傳輸通道。Amazon Nitro是一種虛擬化基礎(chǔ)設(shè)施，AmazonNitro安全芯片可用于加密和驗(yàn)證虛擬機(jī)的訪問(wèn)，并可檢測(cè)未經(jīng)授權(quán)的硬件修改和惡意軟件的植入。依托于虛擬化技術(shù)，AmazonNitro系統(tǒng)還能夠提供更好的網(wǎng)絡(luò)和存儲(chǔ)性能。
有了安全的存儲(chǔ)和傳輸，針對(duì)計(jì)算環(huán)節(jié)亞馬遜云科技則有AmazonNitro Enclaves計(jì)算加密。它可將計(jì)算實(shí)例進(jìn)行隔離，并控制應(yīng)用互訪vCPU和內(nèi)存，可幫助用戶減少用于處理最敏感數(shù)據(jù)的應(yīng)用程序的攻擊面，從而保護(hù)計(jì)算安全。
涂鴉信息技術(shù)有限公司安全總監(jiān)劉龍威表示：涂鴉智能是一家全球化的物聯(lián)網(wǎng)解決方案商，以亞馬遜云科技AmazonNitro為安全的云基礎(chǔ)，通過(guò)硬件隔離的方式保障了整個(gè)用戶數(shù)據(jù)體系的可信。與AmazonKMS聯(lián)動(dòng)實(shí)現(xiàn)了更高基本的安全管理，從而服務(wù)于78萬(wàn)的開(kāi)發(fā)者及海量的IoT設(shè)備，并使其牢不可破。
在re:Inforce 2023大會(huì)上，亞馬遜云科技與涂鴉智能成立“聯(lián)合安全實(shí)驗(yàn)室”，雙方將在智能家居、數(shù)據(jù)安全、安全文化建設(shè)、海外合規(guī)等領(lǐng)域，重點(diǎn)就機(jī)密計(jì)算及數(shù)據(jù)隱私、Matter技術(shù)合作及體系建設(shè)、生成式AI在IoT領(lǐng)域等安全實(shí)踐展開(kāi)聯(lián)合共創(chuàng)。
此外，亞馬遜云科技中國(guó)方案開(kāi)發(fā)中心還正式發(fā)布了敏感數(shù)據(jù)保護(hù)解決方案，可實(shí)現(xiàn)自動(dòng)發(fā)現(xiàn)企業(yè)敏感數(shù)據(jù)，并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。例如在AmazonS3存儲(chǔ)中，允許用戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識(shí)別規(guī)則定義敏感數(shù)據(jù)類型，以機(jī)器學(xué)習(xí)方式來(lái)匹配并識(shí)別敏感信息，并做出警告。以可視化方式進(jìn)行管理，進(jìn)而幫助用戶實(shí)現(xiàn)對(duì)敏感數(shù)據(jù)的管理與保護(hù)。目前該解決方案已經(jīng)可以提供下載。
訓(xùn)練安全，AmazonSageMaker的模型三劍客
數(shù)據(jù)在存儲(chǔ)、傳輸及計(jì)算環(huán)節(jié)的安全得到了保障，接下來(lái)需要關(guān)注的自然就是模型的構(gòu)建環(huán)節(jié)了。
代聞表示：Amazon IAM API每秒調(diào)用次數(shù)超過(guò)10億，其為大模型的構(gòu)建提供了強(qiáng)大的源動(dòng)力。Amazon SageMaker正在為設(shè)置、授權(quán)、驗(yàn)證、調(diào)優(yōu)等環(huán)節(jié)提供針對(duì)模型的訪問(wèn)策略，并通過(guò)AmazonModel Cards、AmazonModel Monitor及AmazonModel Registry等工具全方位地監(jiān)控模型的運(yùn)行。
在AI大模型的初始爆發(fā)期，很多企業(yè)的模型訓(xùn)練環(huán)節(jié)都處于“裸奔”狀態(tài)，即原始數(shù)據(jù)與模型未加防護(hù)，此時(shí)的數(shù)據(jù)泄露風(fēng)險(xiǎn)也是最高。
針對(duì)這些痛點(diǎn)，模型三劍客之一的Amazon SageMaker Model Cards問(wèn)世了，它是一套文檔化機(jī)器學(xué)習(xí)模型的規(guī)范格式工具，可實(shí)現(xiàn)對(duì)模型信息的統(tǒng)一管理，包括模型的描述、功能、性能等信息。通過(guò)使用AmazonModel Cards，用戶可以更好地了解和評(píng)估機(jī)器學(xué)習(xí)模型，以選擇最適合其需求的模型，并為下一步監(jiān)測(cè)與管理做好準(zhǔn)備。
Amazon SageMaker Model Monitor提供的就是自動(dòng)化監(jiān)控與檢測(cè)服務(wù)，可以幫助用戶在生產(chǎn)環(huán)境中監(jiān)控模型的性能、數(shù)據(jù)質(zhì)量和數(shù)據(jù)偏差，以確保模型的準(zhǔn)確性和穩(wěn)定性。
功能方面AmazonModel Monitor提供了數(shù)據(jù)捕獲、數(shù)據(jù)分析、數(shù)據(jù)報(bào)告和數(shù)據(jù)警報(bào)，可生成詳細(xì)的報(bào)告和警報(bào)通知用戶，有利于促進(jìn)模型的持續(xù)改進(jìn)和優(yōu)化。
AmazonModel Registry則是Amazon SageMaker提供的一個(gè)功能強(qiáng)大的工具，用于管理和跟蹤機(jī)器學(xué)習(xí)模型的版本和元數(shù)據(jù)。它提供了版本控制、回滾、元數(shù)據(jù)管理和集成功能，使用戶能夠更好地管理和部署模型。
在Amazon SageMaker這三套工具的幫助下，能夠讓用戶實(shí)現(xiàn)模型管理自動(dòng)化，極大提升了工作效率。
大模型之潮已經(jīng)勢(shì)不可擋，如果企業(yè)級(jí)用戶自身技術(shù)能力較弱，是否可以嘗試構(gòu)建大模型呢?
別急，這就安排!
就在今年4月，亞馬遜云科技發(fā)布了完全托管的基礎(chǔ)模型服務(wù)Amazon Bedrock，可讓用戶根據(jù)需求通過(guò)API訪問(wèn)及使用其中的基礎(chǔ)模型。Amazon Bedrock可使用用戶自己的數(shù)據(jù)私下自定義FM，并使用相關(guān)工具和功能將它們無(wú)縫集成和部署到應(yīng)用程序中，無(wú)需管理任何基礎(chǔ)設(shè)施。
舉例而言，用戶希望在零基礎(chǔ)的情況下構(gòu)建一套文本生成大模型，那么就可以通過(guò)簡(jiǎn)單的操作在亞馬遜云端自定義出模型需求，并通過(guò)各種模型工具將其集成并部署到應(yīng)用之中，就像拼裝樂(lè)高一樣簡(jiǎn)單，極大降低了模型構(gòu)建的門(mén)檻。
開(kāi)發(fā)安全，利用AI取長(zhǎng)補(bǔ)短
度過(guò)了激動(dòng)人心的模型構(gòu)建環(huán)節(jié)，接下來(lái)是開(kāi)發(fā)。很多企業(yè)級(jí)用戶對(duì)開(kāi)發(fā)戲稱是：人多手雜，容易出錯(cuò)，同時(shí)還經(jīng)常出現(xiàn)安全性問(wèn)題。
針對(duì)這些痛點(diǎn)，亞馬遜云科技展示了兩套自動(dòng)化工具服務(wù)，能夠幫助用戶排憂解難。
Amazon CodeWhisperer 可以看作是AI編程助手，經(jīng)過(guò)數(shù)十億行代碼的訓(xùn)練，可以根據(jù)用戶需求和現(xiàn)有代碼實(shí)時(shí)生成從代碼片段到全函數(shù)的代碼建議。AmazonCodeWhisperer支持主流編程語(yǔ)言和IDE，還可以為用戶提供有關(guān) API 安全性、性能和最佳實(shí)踐的建議。融合機(jī)器學(xué)習(xí)和自動(dòng)化分析就有了Amazon CodeGuru Security，它是一套強(qiáng)大的代碼漏洞掃描工具，可提供漏洞修補(bǔ)建議，并解決檢測(cè)配置錯(cuò)誤、權(quán)限問(wèn)題和敏感數(shù)據(jù)的泄露等安全問(wèn)題。有效提升代碼的安全性和可靠性。
運(yùn)行安全，來(lái)自云端的保障
當(dāng)生成式AI大模型經(jīng)歷開(kāi)發(fā)后就迎來(lái)上線運(yùn)行，而在該階段的安全防護(hù)也不能掉以輕心。因?yàn)樵趯?shí)際操作過(guò)程中，有很多安全事件都出在運(yùn)行環(huán)節(jié)。此時(shí)，應(yīng)用程序需要保護(hù)模型本身、數(shù)據(jù)及用戶隱私等來(lái)自多方面的安全，而最有效的方式就是：驗(yàn)證。
Amazon Verified Permissions是亞馬遜云科技向開(kāi)發(fā)者提供的一種驗(yàn)證用戶訪問(wèn)權(quán)限的機(jī)制。通過(guò)該服務(wù)，開(kāi)發(fā)者可以確保用戶只能訪問(wèn)其應(yīng)用程序需要的有效權(quán)限，以保護(hù)用戶的隱私和數(shù)據(jù)安全。
當(dāng)用戶向應(yīng)用程序授權(quán)時(shí)，亞馬遜會(huì)驗(yàn)證并返回一個(gè)訪問(wèn)令牌，該令牌包含用戶已授權(quán)的權(quán)限。開(kāi)發(fā)者可以使用這個(gè)令牌來(lái)驗(yàn)證用戶的權(quán)限，并根據(jù)需要執(zhí)行相應(yīng)的操作。通過(guò)令牌式驗(yàn)證，開(kāi)發(fā)者可以確保用戶數(shù)據(jù)的安全性，并且遵守隱私法規(guī)和規(guī)定。同時(shí)也通過(guò)訪問(wèn)權(quán)限控制來(lái)保障應(yīng)用程序的數(shù)據(jù)安全。
構(gòu)建全球化安全合規(guī)
在全球安全合規(guī)方面，亞馬遜云科技的全球化基礎(chǔ)設(shè)施包括超過(guò)200大類廣泛而深入的云服務(wù)和解決方案，包括覆蓋全球的安全合規(guī)、高速穩(wěn)定的云基礎(chǔ)設(shè)施，以及來(lái)自亞馬遜的全球資源和創(chuàng)新文化。
據(jù)了解，亞馬遜云科技現(xiàn)已在全球獲得超過(guò)140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證。并進(jìn)一步通過(guò)在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用 AI 技術(shù)，大幅提升了自身的合規(guī)效率，將審計(jì)時(shí)間節(jié)約了53%。
此外，亞馬遜云科技還通過(guò)零信任架構(gòu)，來(lái)幫助用戶增強(qiáng)安全性、靈活性、擴(kuò)展性并有效降低來(lái)自安全方面的成本，幫助企業(yè)構(gòu)建更安全、高效和可靠的云安全體系。
生成式AI為我們帶來(lái)更多的創(chuàng)作、個(gè)性化服務(wù)、與用戶的交互以及創(chuàng)新和研究的可能性。也為人類創(chuàng)造力和智慧的拓展提供了新的工具和平臺(tái)。
在短短幾個(gè)月的時(shí)間里，生成式AI在中國(guó)市場(chǎng)就掀起了一場(chǎng)全行業(yè)的“百模大戰(zhàn)”，并將AI創(chuàng)新推向了一個(gè)新的高峰。諸多企業(yè)開(kāi)始了探索與嘗試，同時(shí)也迎來(lái)了更為復(fù)雜的安全性挑戰(zhàn)。為了幫助企業(yè)迎接這日益復(fù)雜的安全挑戰(zhàn)，亞馬遜云科技通過(guò)技術(shù)積累、創(chuàng)新能力和對(duì)AI的深入理解，推出了多項(xiàng)面向生成式AI全流程的安全服務(wù)，著力幫助企業(yè)解決實(shí)際問(wèn)題。
正如代聞所說(shuō)：我們從第一天開(kāi)始，就應(yīng)該把安全當(dāng)做第一最高優(yōu)先級(jí)。
安全之事無(wú)小事，關(guān)乎企業(yè)發(fā)展之命脈。此次大會(huì)亞馬遜云科技攜同合作伙伴一起，以客戶為中心，通過(guò)安全服務(wù)深入到應(yīng)用AI的每一個(gè)環(huán)節(jié)，共同構(gòu)建起面向AI的未來(lái)安全。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
