人臉識別技術的道德原則人臉識別技術在各個領域的巨大潛力幾乎是不可想象的。然而,在實現(xiàn)其最復雜的應用程序之前,需要解決其功能中常見的某些錯誤和一些道德方面的考慮。
一個準確的人臉識別系統(tǒng)使用生物識別技術從照片或視頻中繪制面部特征。其將這些信息與已知人臉數(shù)據(jù)庫進行比對,以找到匹配。人臉識別可以幫助驗證一個人的身份,但也會引發(fā)隱私問題。
幾十年前,我們無法預測到人臉識別在未來會成為我們生活中幾乎不可缺少的一部分。從解鎖智能手機到進行在線(或線下)交易,這項技術已經(jīng)深深扎根于我們的日常生活中。這是人工智能計算機視覺和機器學習組件的不可思議的應用。
人臉識別系統(tǒng)的工作方式如下: 經(jīng)過訓練的算法確定一個人面部的各種獨特細節(jié),例如眼睛之間的像素數(shù)或嘴唇弧度,在其他細節(jié)之間進行邏輯解釋,以在系統(tǒng)內(nèi)重建面部。然后,將這些重現(xiàn)的面孔與存儲在系統(tǒng)數(shù)據(jù)庫中的大量面孔進行比較。如果算法檢測到重現(xiàn)的人臉在數(shù)學上與數(shù)據(jù)庫中存在的人臉相匹配,那么系統(tǒng)就會“識別”它,并執(zhí)行用戶的任務。除了在幾納秒內(nèi)完成整個過程外,現(xiàn)今的人臉識別系統(tǒng)即使在光線不足、圖像分辨率和視角不佳的情況下也能勝任工作。與其他人工智能技術一樣,人臉識別系統(tǒng)在用于各種目的時需要遵循一些道德原則。這些規(guī)定包括:1、人臉識別中的公正性首先,人臉識別設備的開發(fā)必須使系統(tǒng)完全防止,或至少最大限度地減少基于種族、性別、面部特征、畸形或其他方面對任何人或群體的偏見?,F(xiàn)在,有充分的證據(jù)表明,人臉識別系統(tǒng)在其操作中不可能100%公平。因此,構建支持該技術的系統(tǒng)的公司,通常要花費數(shù)百個小時來消除系統(tǒng)中發(fā)現(xiàn)的所有偏見痕跡。像微軟等知名組織通常會從盡可能多的種族社區(qū)雇傭合格的專家。在他們的人臉識別系統(tǒng)的研究、開發(fā)、測試和設計階段,多樣性使他們能夠創(chuàng)建大量的數(shù)據(jù)集來訓練AI數(shù)據(jù)模型。雖然龐大的數(shù)據(jù)集降低了偏差商,但多樣性也是象征性的。從世界各地挑選個體有助于反映現(xiàn)實世界的多樣性。為了消除人臉識別系統(tǒng)的偏見,組織機構必須付出額外的努力。為了實現(xiàn)這一點,用于機器學習和標記的數(shù)據(jù)集必須多樣化。最重要的是,一個公平的人臉識別系統(tǒng)的輸出質(zhì)量將是難以置信的高,因為其將在世界任何地方無縫工作,沒有任何偏見的元素。為了確保人臉識別系統(tǒng)的公平性,開發(fā)人員還可以在beta測試階段讓終端客戶參與進來。在真實場景中測試這樣一個系統(tǒng)的能力只會提高其功能的質(zhì)量。2、人工智能內(nèi)部運作的開放性在工作場所和網(wǎng)絡安全系統(tǒng)中使用人臉識別系統(tǒng)的組織,需要知道機器學習信息存儲位置的所有詳細信息。這樣的組織在日常操作中實施技術之前,需要了解技術的局限性和能力。提供人工智能技術的公司必須對客戶完全透明地了解這些細節(jié)。此外,服務提供商還必須確保他們的人臉識別系統(tǒng)可以被客戶從任何位置使用,基于他們的便利性。系統(tǒng)中的任何更新必須在獲得客戶端的有效批準后才能進行。3、對利益相關者的責任如前所述,人臉識別系統(tǒng)部署在多個部門。制造此類系統(tǒng)的組織必須對其負責,特別是在技術可能直接影響任何人或團體(執(zhí)法、監(jiān)視)的情況下。這種系統(tǒng)中的責任制意味著包含用例,以防止身體或基于健康的傷害、財務挪用或其他可能由系統(tǒng)引起的問題。為了將控制元素引入過程中,一個合格的個人負責組織中的系統(tǒng),以做出衡量和合乎邏輯的決策。除此之外,將人臉識別系統(tǒng)納入日常運營的組織必須立即解決客戶對該技術的不滿。4、監(jiān)測前的同意和通知在正常情況下,未經(jīng)個人、團體同意,人臉識別系統(tǒng)不得用于窺探個人、團體或其他行為。某些機構,如歐盟(EU),有一套標準化的法律(GDPR),以防止未經(jīng)授權的組織在管理機構的管轄范圍內(nèi)監(jiān)視個人。擁有此類系統(tǒng)的組織必須遵守美國所有的數(shù)據(jù)保護和隱私法。5、合法監(jiān)控以避免侵犯人權除非獲得國家政府或決定性管理機構的授權,用于與國家安全或其他引人注目的情況相關的目的,否則一個組織不能使用人臉識別系統(tǒng)來監(jiān)控任何人或團體?;旧希@項技術被嚴格禁止用于侵犯受害者的人權和自由。盡管人臉識別系統(tǒng)被編程為無一例外地遵守這些規(guī)定,但也可能因為操作失誤而造成問題。與該技術相關的一些主要問題是:6、購買時的驗證錯誤如前所述,數(shù)字支付應用程序中包含了人臉識別系統(tǒng),用戶可以通過該技術驗證交易。由于這種技術的存在,以支付為目的的犯罪活動,如面部身份盜竊和借記卡詐騙是很有可能的。顧客選擇人臉識別系統(tǒng)是因為其為用戶提供了極大的便利。然而,在這種系統(tǒng)中可能會發(fā)生一個錯誤,即當同卵雙胞胎使用他們從對方的銀行賬戶進行未經(jīng)授權的支付時。令人擔憂的是,盡管人臉識別系統(tǒng)中存在安全協(xié)議,但人臉復制會導致資金挪用。7、執(zhí)法申請中的不準確之處人臉識別系統(tǒng)被用于在抓捕罪犯之前識別公開的罪犯。雖然該技術作為一個概念在執(zhí)法中無疑是有用的,但在其工作中存在一些明顯的問題。犯罪分子可以通過幾種方式濫用這項技術。例如,有偏見的人工智能概念為執(zhí)法人員提供了不準確的結果,因為系統(tǒng)有時無法區(qū)分有色人種。通常,這類系統(tǒng)是用包含白人男性圖像的數(shù)據(jù)集訓練的。因此,在識別來自其他種族的人時,該系統(tǒng)的工作方式是錯誤的。有幾起組織或公共機構被指控使用先進的人臉識別系統(tǒng)非法監(jiān)視平民的案件。由持續(xù)監(jiān)控的個人收集的視頻數(shù)據(jù)可以用于多種不正當?shù)哪康?。人臉識別系統(tǒng)最大的缺點之一是,其提供的輸出過于泛化。例如,如果一個人被懷疑犯了重罪,他們的照片會被拍攝下來,并與幾個罪犯的照片一起運行,以檢查這個人是否有任何犯罪記錄。然而,將這些數(shù)據(jù)疊加在一起意味著人臉識別數(shù)據(jù)庫將保留該男子和經(jīng)驗豐富的重罪犯的照片。所以,盡管個人相對無辜,但他或她的隱私還是受到了侵犯。其次,這個人可能會被認為是不好的,盡管據(jù)所有的說法表明其是清白的。正如所述,與人臉識別技術相關的主要問題和錯誤源于,技術缺乏進步、數(shù)據(jù)集缺乏多樣性,以及組織對系統(tǒng)的低效處理。但,人工智能及其應用在現(xiàn)實需求中的應用范圍應是無限的。人臉識別技術的風險通常發(fā)生在當該技術的工作方式與實際需求不同時。
但可預見,隨著未來技術的不斷進步,與技術相關的問題將會得到解決。人工智能算法中與偏見相關的問題最終將被消除。然而,要使這項技術完美地工作而不違反任何道德規(guī)范,組織必須對此類系統(tǒng)保持嚴格的治理水平。通過更大程度的治理,人臉識別系統(tǒng)的錯誤可以在未來得到解決。因此,必須對此類系統(tǒng)的研究、開發(fā)和設計進行改進,以實現(xiàn)積極的解決方案。
- 蜜度索驥:以跨模態(tài)檢索技術助力“企宣”向上生長
- 中國電信再次出讓三家金融機構股權 價值規(guī)模近10億
- 中國移動無源器件產(chǎn)品集采:規(guī)模為1807.93萬件
- 中國移動分天線產(chǎn)品集采:規(guī)模為1588.82萬面
- 訊飛中標沈陽市大東區(qū)人工智能大模型項目
- 中國衛(wèi)通集團轉(zhuǎn)讓中衛(wèi)普信20%股權
- 中國移動5G大功率(2.6G單頻)直放站設備集采:京信、銳捷等6家中標
- 天翼云擊敗聯(lián)通數(shù)科,中標天津軌道云項目
- 相愛相殺:三大運營商聯(lián)合中標山西省電子政務外網(wǎng)項目
- 北京聯(lián)通中標中信信托機柜租賃采購項目
- 中國聯(lián)通11月5G套餐用戶凈增127.8萬戶
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。