近日，昇思MindSpore支撐華為OCR云服務正式通過獨立機構的AI C4審計認證，安全目標100%達成。這標志著昇思MindSpore的安全能力達到了業(yè)界領先水平，能夠滿足業(yè)界最高水平的AI云服務審計要求。此前，在德國，華為基于業(yè)務用例的試點項目向德國聯(lián)邦信息安全辦公室(BSI) 提供建議，支持其發(fā)布了AI云服務合規(guī)標準目錄(AI C4)，這是業(yè)界首個面向AI云服務的安全標準。
伴隨著人工智能不斷發(fā)展，在極大提升人們生產(chǎn)生活品質的同時，AI具有的技術特性如通用目的性、算法黑箱性以及數(shù)據(jù)依賴性等，在社會、企業(yè)、個人等維度引發(fā)了不小的風險與挑戰(zhàn)，僅憑C5標準還不足以完全應對。為此，德國聯(lián)邦信息安全局制定了一項特定于AI云服務的審計標準AI C4（AI Cloud Service Compliance Criteria Catalogue）——該標準設定了安全的基線水平，可通過獨立審計機構對于AI云服務在其生命周期內(nèi)的安全性進行可靠評估。
OCR服務是利用光學設備對圖像進行捕獲并完成文字識別的過程，可兼顧達成人力節(jié)約與效率提升的雙目標。但痛點就在于，當攻擊者對待識別的文字做出肉眼不易察覺的修改時，將會導致實施算法的模型無法對該修改做出正確的識別或處理，造成OCR服務對文字的識別準確率下降，但使用人員卻很難看到這問題背后的真因。
昇思MindSpore從開源AI框架的角度出發(fā)，圍繞AI全生命周期，構建出以下重點技術能力：
①模型安全
通過魯棒性評測、對抗測評、對抗訓練、模型加密等，實現(xiàn)模型保護；
②隱私保護
構建了隱私評估、差分隱私訓練、聯(lián)邦學習等技術，保障數(shù)據(jù)隱私；
③可解釋性
通過原創(chuàng)語義級可解釋技術、可解釋方法工具集等，提高模型的可解釋性，增強用戶理解度，讓用戶更信任并有效地使用模型。
本次認證中，華為技術團隊使用了昇思MindSpore模型安全評測工具MindSpore Armour對OCR服務進行安全性測評。從中發(fā)現(xiàn)，目前大多數(shù)OCR服務的算法模型均存在識別自然擾動和防御樣本對抗能力差的問題，如文本框檢測模型在校驗噪聲、PGD、PSO（粒子群）等攻擊算法下的準確率小于66%。華為技術團隊針對這些問題對模型開發(fā)進行指導，通過對抗樣本檢測、數(shù)據(jù)增強訓練等技術，使模型對惡意樣本的識別準確率達到 95+%，提高了模型及OCR服務的魯棒性，達成了AI C4標準對AI云服務安全和魯棒性的要求。
除助力華為OCR云服務通過AI C4認證外，昇思MindSpore率先出擊，攜手法荷多方權威評估和認證機構，在2021年完成了AI框架領域的認證標準制定，并于今年4月獲得荷蘭NSCIB頒發(fā)的CC EAL2+認證證書，填補了AI框架領域在安全標準上的空白，成為全球首個獲得CC認證的AI框架，實現(xiàn)從0到1的突破。
此外，昇思MindSpore經(jīng)過云計算開源產(chǎn)業(yè)聯(lián)盟（OSCAR）評估，榮獲全國首批《可信開源社區(qū)評估體系》認證。
在智能時代的浪潮中，昇思MindSpore致力于實現(xiàn)可信AI的最高要求，從安全技術和安全治理上不斷提升AI安全水平。未來，昇思MindSpore仍將持續(xù)創(chuàng)新，與行業(yè)客戶共同應對人工智能領域安全的風險與挑戰(zhàn)，為客戶提供更安全更可信的應用及服務。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
