ChatGPT帶火了一系列GPT產(chǎn)品,AIGC(AI generated content,生成式AI)技術逐步走向實用。ChatGPT的面世推動發(fā)展史走到了奇點,但不得不承認的是,同時也帶來了風險和挑戰(zhàn)。近期上海警方公布的一則詐騙案例,正是利用“AI P圖”實施的詐騙,為各行各業(yè)都敲響了安全警鐘。
“我們迫切需要重構信任,在技術上、制度上有效對抗AI虛假,建立防范AI操縱的防火墻,維護圖像內(nèi)容的安全與可信性”有專家呼吁道。
標準出臺,助力新時代AI安全體系建設
為貫徹落實《中華人民共和國網(wǎng)絡安全法》《生成式人工智能服務管理》等文件中對于AI服務的規(guī)范性要求,系統(tǒng)性建立圖像內(nèi)容安全行業(yè)發(fā)展秩序,中國信息通信研究院(以下簡稱“中國信通院”)啟動了《文檔圖像篡改檢測標準》制定工作。該項標準由中國信通院牽頭,上海合合信息科技股份有限公司、中國圖象圖形學學會、中國科學技術大學等科技創(chuàng)新企業(yè)及知名學術機構聯(lián)合編制。
《文檔圖像篡改檢測標準》將為文檔圖像內(nèi)容安全提供可靠保障,助力新時代AI安全體系建設。作為牽頭方,中國信通院表示,《文檔圖像篡改檢測標準》將基于產(chǎn)業(yè)現(xiàn)狀,圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點議題,凝聚行業(yè)共識,以期為行業(yè)提供有效指引。
合合信息圖像篡改檢測技術解決行業(yè)難題
隨著技術的發(fā)展和電子設備普及率的提升,人們修改圖像的門檻變得越來越低,以往圖像內(nèi)容加工需要使用專業(yè)的軟件,現(xiàn)在通過某些平臺或者軟件,動動手指即可產(chǎn)出一張?zhí)摷賵D片,數(shù)字圖像的原始性和真實性面臨嚴峻挑戰(zhàn)。
據(jù)悉,合合信息研發(fā)了基于深度學習的圖像篡改檢測技術及相關系統(tǒng),可檢測出多種篡改形式,智能捕捉圖像在篡改過程中留下的細微痕跡,并以熱力圖的形式展示圖像區(qū)域篡改地點,相關技術已被應用于銀行、保險等行業(yè)中。
合合信息圖像篡改檢測技術對戶口本圖片篡改痕跡進行定位
公開資料顯示,合合信息專注于智能文檔處理底層技術及應用產(chǎn)品的研究工作,相關技術在國際頂會ICPR、ICFHR 等十余項競賽中獲得冠軍,并于CVPR、AAAI、ACL、ACM MM等國際頂會上發(fā)表。目前,公司已獲得超百項自主知識產(chǎn)權發(fā)明專利,為全球超過200個國家和地區(qū)的上億用戶提供智能文字識別產(chǎn)品及AI服務。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )