近日，昇思MindSpore支撐華為OCR云服務(wù)正式通過(guò)獨(dú)立機(jī)構(gòu)的AI C4審計(jì)認(rèn)證，安全目標(biāo)100%達(dá)成。這標(biāo)志著昇思MindSpore的安全能力達(dá)到了業(yè)界領(lǐng)先水平，能夠滿足業(yè)界最高水平的AI云服務(wù)審計(jì)要求。此前，在德國(guó)，華為基于業(yè)務(wù)用例的試點(diǎn)項(xiàng)目向德國(guó)聯(lián)邦信息安全辦公室(BSI) 提供建議，支持其發(fā)布了AI云服務(wù)合規(guī)標(biāo)準(zhǔn)目錄(AI C4)，這是業(yè)界首個(gè)面向AI云服務(wù)的安全標(biāo)準(zhǔn)。
伴隨著人工智能不斷發(fā)展，在極大提升人們生產(chǎn)生活品質(zhì)的同時(shí)，AI具有的技術(shù)特性如通用目的性、算法黑箱性以及數(shù)據(jù)依賴性等，在社會(huì)、企業(yè)、個(gè)人等維度引發(fā)了不小的風(fēng)險(xiǎn)與挑戰(zhàn)，僅憑C5標(biāo)準(zhǔn)還不足以完全應(yīng)對(duì)。為此，德國(guó)聯(lián)邦信息安全局制定了一項(xiàng)特定于AI云服務(wù)的審計(jì)標(biāo)準(zhǔn)AI C4（AI Cloud Service Compliance Criteria Catalogue）——該標(biāo)準(zhǔn)設(shè)定了安全的基線水平，可通過(guò)獨(dú)立審計(jì)機(jī)構(gòu)對(duì)于AI云服務(wù)在其生命周期內(nèi)的安全性進(jìn)行可靠評(píng)估。
OCR服務(wù)是利用光學(xué)設(shè)備對(duì)圖像進(jìn)行捕獲并完成文字識(shí)別的過(guò)程，可兼顧達(dá)成人力節(jié)約與效率提升的雙目標(biāo)。但痛點(diǎn)就在于，當(dāng)攻擊者對(duì)待識(shí)別的文字做出肉眼不易察覺(jué)的修改時(shí)，將會(huì)導(dǎo)致實(shí)施算法的模型無(wú)法對(duì)該修改做出正確的識(shí)別或處理，造成OCR服務(wù)對(duì)文字的識(shí)別準(zhǔn)確率下降，但使用人員卻很難看到這問(wèn)題背后的真因。
昇思MindSpore從開(kāi)源AI框架的角度出發(fā)，圍繞AI全生命周期，構(gòu)建出以下重點(diǎn)技術(shù)能力：
①模型安全
通過(guò)魯棒性評(píng)測(cè)、對(duì)抗測(cè)評(píng)、對(duì)抗訓(xùn)練、模型加密等，實(shí)現(xiàn)模型保護(hù)；
②隱私保護(hù)
構(gòu)建了隱私評(píng)估、差分隱私訓(xùn)練、聯(lián)邦學(xué)習(xí)等技術(shù)，保障數(shù)據(jù)隱私；
③可解釋性
通過(guò)原創(chuàng)語(yǔ)義級(jí)可解釋技術(shù)、可解釋方法工具集等，提高模型的可解釋性，增強(qiáng)用戶理解度，讓用戶更信任并有效地使用模型。
本次認(rèn)證中，華為技術(shù)團(tuán)隊(duì)使用了昇思MindSpore模型安全評(píng)測(cè)工具M(jìn)indSpore Armour對(duì)OCR服務(wù)進(jìn)行安全性測(cè)評(píng)。從中發(fā)現(xiàn)，目前大多數(shù)OCR服務(wù)的算法模型均存在識(shí)別自然擾動(dòng)和防御樣本對(duì)抗能力差的問(wèn)題，如文本框檢測(cè)模型在校驗(yàn)噪聲、PGD、PSO（粒子群）等攻擊算法下的準(zhǔn)確率小于66%。華為技術(shù)團(tuán)隊(duì)針對(duì)這些問(wèn)題對(duì)模型開(kāi)發(fā)進(jìn)行指導(dǎo)，通過(guò)對(duì)抗樣本檢測(cè)、數(shù)據(jù)增強(qiáng)訓(xùn)練等技術(shù)，使模型對(duì)惡意樣本的識(shí)別準(zhǔn)確率達(dá)到 95+%，提高了模型及OCR服務(wù)的魯棒性，達(dá)成了AI C4標(biāo)準(zhǔn)對(duì)AI云服務(wù)安全和魯棒性的要求。
除助力華為OCR云服務(wù)通過(guò)AI C4認(rèn)證外，昇思MindSpore率先出擊，攜手法荷多方權(quán)威評(píng)估和認(rèn)證機(jī)構(gòu)，在2021年完成了AI框架領(lǐng)域的認(rèn)證標(biāo)準(zhǔn)制定，并于今年4月獲得荷蘭NSCIB頒發(fā)的CC EAL2+認(rèn)證證書，填補(bǔ)了AI框架領(lǐng)域在安全標(biāo)準(zhǔn)上的空白，成為全球首個(gè)獲得CC認(rèn)證的AI框架，實(shí)現(xiàn)從0到1的突破。
此外，昇思MindSpore經(jīng)過(guò)云計(jì)算開(kāi)源產(chǎn)業(yè)聯(lián)盟（OSCAR）評(píng)估，榮獲全國(guó)首批《可信開(kāi)源社區(qū)評(píng)估體系》認(rèn)證。
在智能時(shí)代的浪潮中，昇思MindSpore致力于實(shí)現(xiàn)可信AI的最高要求，從安全技術(shù)和安全治理上不斷提升AI安全水平。未來(lái)，昇思MindSpore仍將持續(xù)創(chuàng)新，與行業(yè)客戶共同應(yīng)對(duì)人工智能領(lǐng)域安全的風(fēng)險(xiǎn)與挑戰(zhàn)，為客戶提供更安全更可信的應(yīng)用及服務(wù)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
