2023年初，ChatGPT橫空出世，標(biāo)志著生成式人工智能崛起。
作為一種新興的數(shù)據(jù)安全技術(shù)范式，隱私計(jì)算借此契機(jī)，再次成為焦點(diǎn)。
近日，召開的2023中國人工智能大會(huì)共有8個(gè)平行專題論壇，其中就包含聚焦隱私計(jì)算的“隱私計(jì)算與人工智能發(fā)展專題論壇”。無獨(dú)有偶，今年7月初舉辦的2023世界人工智能大會(huì)上，同樣針對(duì)隱私計(jì)算技術(shù)開設(shè)了“數(shù)據(jù)要素與隱私計(jì)算高峰論壇”。
2023年，被視為隱私計(jì)算“融合應(yīng)用之年”，是隱私計(jì)算在多個(gè)行業(yè)場景大規(guī)模應(yīng)用的關(guān)鍵年份，在人工智能加速落地的時(shí)代，這一“數(shù)據(jù)安全技術(shù)基座”將迎來更多的爆發(fā)機(jī)遇。
隱私計(jì)算是在保護(hù)數(shù)據(jù)本身不對(duì)外泄露的前提下實(shí)現(xiàn)數(shù)據(jù)分析計(jì)算的技術(shù)集合，達(dá)到對(duì)數(shù)據(jù)“可用、不可見”的目的;在充分保護(hù)數(shù)據(jù)和隱私安全的前提下，實(shí)現(xiàn)數(shù)據(jù)價(jià)值的轉(zhuǎn)化和釋放?；谶@一特性，隱私計(jì)算可以確保在不泄露數(shù)據(jù)內(nèi)容的情況下，幫助人工智能獲取更多、更廣、更深的數(shù)據(jù)資源。
從1949年香農(nóng)開創(chuàng)現(xiàn)代密碼學(xué)時(shí)代起，安全多方計(jì)算、零知識(shí)證明被陸續(xù)提出，多種新的技術(shù)路線和隱私計(jì)算方案(例如混淆電路、基于秘密分享的MPC、半同態(tài)加密等協(xié)議和算法等)也陸續(xù)出現(xiàn)，七十余年間，隱私計(jì)算的技術(shù)體系逐步發(fā)展和壯大，并開始有大規(guī)模的項(xiàng)目落地。
2019年后，隱私計(jì)算進(jìn)入應(yīng)用期，在數(shù)據(jù)要素市場建設(shè)和數(shù)據(jù)價(jià)值發(fā)揮的時(shí)代背景下，產(chǎn)業(yè)需求快速增長，隱私計(jì)算走出學(xué)院派與實(shí)驗(yàn)室，廣泛與行業(yè)應(yīng)用場景相結(jié)合。各類隱私計(jì)算廠商也如雨后春筍一般涌現(xiàn)出來，激發(fā)了隱私計(jì)算技術(shù)可用性的快速提升。
時(shí)間來到2023年。數(shù)字經(jīng)濟(jì)建設(shè)提檔加速，人工智能方興未艾，人們開始了對(duì)區(qū)塊鏈、元宇宙等概念的探索。新技術(shù)崛起，為隱私計(jì)算帶來了全新的挑戰(zhàn)與機(jī)遇。
融合發(fā)展：人工智能帶來挑戰(zhàn)與機(jī)遇
2023中國人工智能大會(huì)期間，上海交通大學(xué)講席教授、博導(dǎo)、日本工程院外籍院士李頡在演講中指出，人工智能的三大基礎(chǔ)是算法、數(shù)據(jù)、算力。聚焦數(shù)據(jù)層面，如何在合規(guī)尊重用戶隱私的條件下充分發(fā)揮數(shù)據(jù)價(jià)值，如何打破壁壘、連接數(shù)據(jù)孤島、提高可用數(shù)據(jù)的數(shù)量和質(zhì)量，已成為人工智能發(fā)展需要解決的關(guān)鍵問題，而隱私計(jì)恰恰就是打破數(shù)據(jù)孤島、拓展數(shù)據(jù)疆界的關(guān)鍵技術(shù)。
人工智能技術(shù)革命背后意味著巨大的隱私挑戰(zhàn)。
在以深度學(xué)習(xí)為主導(dǎo)的人工智能浪潮中，基于大數(shù)據(jù)的深度學(xué)習(xí)技術(shù)最開始在互聯(lián)網(wǎng)領(lǐng)域成功落地，并廣泛運(yùn)用于搜索、推薦、語音識(shí)別、機(jī)器翻譯等各個(gè)方面。隨著人工智能超級(jí)模型工作的推進(jìn)，算法訓(xùn)練模型所使用的數(shù)據(jù)規(guī)模越大，模型參數(shù)規(guī)模越大，模型在使用時(shí)候識(shí)別精度就越高。至此，AI進(jìn)入大模型時(shí)代，并有望在醫(yī)療、金融、教育等數(shù)據(jù)豐富的行業(yè)首先落地。
AIGC的出現(xiàn)標(biāo)志著人工智能發(fā)展史走到了“奇點(diǎn)”。數(shù)字技術(shù)迎來顛覆性的變局，也將會(huì)帶來新的沖擊和挑戰(zhàn)。尤其是AIGC的訓(xùn)練過程基于大量數(shù)據(jù)集，這一屬性也會(huì)使數(shù)據(jù)收集、使用、流通和計(jì)算面臨更多合規(guī)要求。因此，在展望AIGC未來的同時(shí)，仍需要增強(qiáng)隱私計(jì)算技術(shù)的應(yīng)用，并通過建立監(jiān)管機(jī)制、增強(qiáng)相關(guān)立法，確保AIGC合規(guī)發(fā)展。
未來方向：乘時(shí)乘勢，帶入千行百業(yè)
AIGC崛起，有望成為隱私計(jì)算迎來“原爆點(diǎn)”的契機(jī)。
在技術(shù)層面，隱私計(jì)算不同技術(shù)路線正在走向融合，實(shí)現(xiàn)“1+1>2”的效果。與此同時(shí)，隱私計(jì)算與區(qū)塊鏈、人工智能、工業(yè)互聯(lián)網(wǎng)也逐步融合，尤其是隱私計(jì)算與硬件的結(jié)合已產(chǎn)生多款一體機(jī)等軟硬件結(jié)合產(chǎn)品，預(yù)計(jì)將會(huì)越來越豐富。聚焦AIGC，當(dāng)前業(yè)內(nèi)均在嘗試使用各種方式保護(hù)用戶數(shù)據(jù)隱私。除了較為直接的方法，如向用戶提供警告信息之外，隱私計(jì)算也已成為AIGC中隱私保護(hù)的重要工具，聯(lián)邦學(xué)習(xí)和可信執(zhí)行環(huán)境是其中較有代表性的技術(shù)路線。
在AIGC服務(wù)的生命周期中，用于訓(xùn)練的大規(guī)模數(shù)據(jù)集和用戶的私人信息需要得到保護(hù)，可以利用聯(lián)邦學(xué)習(xí)來解決訓(xùn)練數(shù)據(jù)的安全問題。由于AIGC應(yīng)用與互聯(lián)網(wǎng)高度集成，用于AIGC模型訓(xùn)練的數(shù)據(jù)發(fā)生在邊緣服務(wù)器和移動(dòng)設(shè)備上，它們對(duì)各種威脅隱私的攻擊的防御能力較弱。最近，研究人員已經(jīng)提出幾個(gè)分布式學(xué)習(xí)框架用于隱私保護(hù)，利用聯(lián)邦學(xué)習(xí)技術(shù)，可以實(shí)現(xiàn)在邊緣服務(wù)器和移動(dòng)設(shè)備上進(jìn)行模型微調(diào)和推理，聯(lián)邦學(xué)習(xí)在訓(xùn)練期間不傳輸原始數(shù)據(jù)，從而確保AIGC模型訓(xùn)練過程的安全性。
在此基礎(chǔ)上，將可信執(zhí)行環(huán)境(TEE)和聯(lián)邦學(xué)習(xí)技術(shù)結(jié)合，可以為大語言模型提供更完善的隱私和數(shù)據(jù)保護(hù)。借助基于TEE的聯(lián)邦學(xué)習(xí)解決方案，在訓(xùn)練階段，TEE中的數(shù)據(jù)處理都處于加密狀態(tài)，在推理階段TEE能夠保護(hù)用戶輸入和模型結(jié)果的隱私;同時(shí)，TEE的硬件隔離和安全驗(yàn)證機(jī)制可以防止未經(jīng)授權(quán)的訪問和攻擊，增強(qiáng)模型運(yùn)行時(shí)的安全性。
伴隨著技術(shù)的不斷成熟，國內(nèi)外隱私計(jì)算產(chǎn)業(yè)化的步伐明顯加快。未來幾年，將是隱私計(jì)算技術(shù)產(chǎn)品加速迭代、應(yīng)用場景快速拓展、產(chǎn)業(yè)生態(tài)逐步成熟的重要階段。
以AIGC的“奇點(diǎn)”為契機(jī)，隱私計(jì)算有望迎來“原爆點(diǎn)”，被帶入千行百業(yè)。聯(lián)邦學(xué)習(xí)、TEE等多種技術(shù)體系間也將實(shí)現(xiàn)更深刻的融合。
在不遠(yuǎn)的將來，這項(xiàng)技術(shù)將如同移動(dòng)互聯(lián)網(wǎng)、水、電網(wǎng)一般，成為數(shù)字時(shí)代的底層基礎(chǔ)設(shè)施。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
