“AI換臉”火了，有人10分鐘被騙400萬，誰來擔責？丨亮見31期

丨劃重點

1. 對AI生成內容進行標記是法律法規(guī)要求的，這不意味著平臺能完全免責，平臺還需要履行技術識別、停止傳輸、處置措施和報告等責任。

2. 直播間使用明星面孔，侵犯了明星的肖像權，還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。

3. 如果在銀行有能力識別非真實人臉的情況下間接導致了AI換臉詐騙給儲戶造成損失，這種情況下可能需要擔責。

4. 消費者需要更加重視個人信息的保護，盡量避免無必要的授權，可以拒絕使用要求授權過多個人信息的應用。

丨概述

AIGC的爆火讓人們看到了人工智能日常應用的可能，其場景覆蓋文字/圖片/音頻/視頻等形式的內容生成，在特定領域，AIGC相關的內容的質量、可靠性已經遠超人類，然而這種高度的“仿真”，也衍生出了新的問題——AI詐騙。

北京市岳成律師事務所高級合伙人岳屾山認為，技術具有兩面性，對待其態(tài)度不能一概而論，需要將其納入法律框架下規(guī)范發(fā)展。而針對AI詐騙，岳律師認為個人信息泄露的情況仍很普遍，普通人在使用相關設備和軟件時需盡量避免無必要的授權，但詐騙分子不斷變化和“創(chuàng)新”，最根本的防范防范還是保持警惕、提高對詐騙的認知。

01

AI內容標記無法完全規(guī)避責任

劉興亮：現在，許多平臺對AIGC生成的內容會有明確風險提示標記，這種提示有效嗎？

岳屾山：標記是根據法規(guī)明確規(guī)定的，要求新技術和應用來制作、發(fā)布、傳播非真實音視頻信息，應該采用顯著的方式進行標記。標記只是一種規(guī)避責任的方式，因為法律要求標記，但并不意味著完全免除責任，除了標記之外還有其他的義務需要履行。

例如，平臺應該部署一些用于識別違法違規(guī)音視頻和非真實音視頻的技術，如果發(fā)現違反法律禁止或規(guī)定的信息內容，必須依法停止傳輸這些信息，并采取刪除等處置措施來防止信息的擴散。同時，還需要妥善保存相關記錄，并向相關部門等進行報告。

所以，平臺有很多義務需要履行，僅僅進行標記是不能完全免除責任的。

劉興亮：新技術、新應用帶來的潛在風險，我們應該采取什么樣的態(tài)度對待？

岳屾山：因為涉及到較為技術性的內容，就我個人而言，對于新的技術或應用，包括新的營商模式和經營模式的出現，應該給予適度的關注和寬松的環(huán)境來培育它們，看它們是否能夠發(fā)展起來。

不過，對于人工智能換臉，目前沒有看到多少正面評價。

不過，也有少量的人嘗試用這項技術“復活”已故親人，以慰藉思念之情，我認為這可能是人工智能換臉技術對我們的生活和社會產生積極影響的一種可能性存在。

只要這項技術具有正面意義的可能，對待它的態(tài)度就不能一“封”了之，應在現有的法律框架內對其進行必要的規(guī)制，以避免它成為一匹脫韁的野馬。

02

“AI孫燕姿”存在諸多侵權風險

劉興亮：關于AI孫燕姿的話題，最近孫燕姿發(fā)布相關聲明，意思是不會去追責，這種情況下用戶能隨便使用嗎？

岳屾山：AI換臉明星翻唱，涉及的法律問題主要涉及肖像權。

民法典規(guī)定，未經他人同意使用他人肖像屬于肖像侵權，使用AI換臉就存在這種可能性，特別是在直播間中使用明星的面孔進行直播，明顯侵犯了明星的肖像權，因為明星不可能授權他人使用他們的面孔進行直播。另外，這種行為還涉及到虛假宣傳、欺詐消費者和不正當競爭等問題。

直播中的AI換臉，來源：網絡

有關“聲音”的權利，民法典明確了將其按照肖像權規(guī)定處理。如果孫燕姿未允許他人使用其聲音，就會構成侵權，并且可能還涉及侵犯姓名權的問題。此外，如果使用她的歌曲進行商業(yè)活動，還需要支付費用，并可能需要獲得詞曲作者等進行著作權的授權。

劉興亮：以銀行轉賬為例，轉賬過程中，因為人臉識別被騙，誰來承擔責任，銀行需要擔責嗎？

岳屾山：轉賬過程人臉驗證，會有眨眼、搖頭等動作的驗證，如果這個過程中遭遇詐騙，銀行是否需要擔責，取決于銀行在人臉識別技術方面是否存在一些罕見的漏洞。比如，通過調用攝像頭時，銀行APP能否辨認出真實的攝像頭，或者是否使用了其他技術手段對人臉進行了改變。

如果在銀行有能力識別非真實人臉的情況下，因為詐騙分子通過第三方設備，比如通過攝像頭畫面欺騙了銀行的人臉識別系統，（給儲戶帶來了直接損失），這種情況下銀行可能需要擔責；如果技術監(jiān)測確實發(fā)現銀行無法識別出這種情況，即技術無法達到防止欺詐的要求，就不能要求銀行承擔責任。

除了銀行，也需要考慮平臺是否有發(fā)現欺詐行為的標志，是否具備識別的義務等，如果平臺違反了這些義務，相應地就要承擔責任。

但實際上，很多詐騙行為都是點對點進行，銀行或平臺很少直接參與其中，詐騙分子往往會規(guī)避銀行或平臺的驗證方式，以盡量減少被發(fā)現的可能，畢竟這是一種犯罪行為。

03

防范數據泄露，是反詐騙的核心

劉興亮：現在有很多觀點認為我們目前防范AI詐騙關鍵在于防范數據泄露，這種觀點你認同嗎？

岳屾山：個人信息泄露的問題一直都非常嚴重。電信詐騙之所以成功的一大原因就是因為詐騙者獲取了相應的個人信息。

刑法中有關個人信息保護的方面規(guī)定了非法泄露公民個人信息屬于侵犯個人信息罪，需要追究責任。在民法典的《消費者權益保護法》、《數據安全法》、《網絡安全法》等法律中，都要求企業(yè)在收集個人信息時必須遵循合法、正當和必要的原則。特別是對于涉及人臉等生物特征的信息，屬于敏感信息，每次收集都需要單獨獲得用戶的同意，并受到其他限制性規(guī)定的約束。

這些法律法規(guī)，旨在保護我們的個人隱私，并要求所有收集到個人信息的企業(yè)，在處理和使用時都必須嚴格按照約定和法律規(guī)定進行，并具備必要的技術和軟件條件來保護信息不被泄露。

所以，消費者需要更加重視個人信息的保護，盡量避免無必要的授權。如果某個應用要求我們授權過多的個人信息，可以拒絕授權，即使這樣可能導致無法使用應用?，F在法律也有明確，應用不允許索取過多個人信息相關權限，且不能拒絕用戶使用。

例如，以前我們使用某個導航軟件要求訪問通訊錄，實際上只需要位置信息即可，這種情況下，《國家的網絡安全法》、《數據安全法》和《個人信息保護法》等都進行了詳細的規(guī)定。

另外，詐騙分子通常會使用各種手段篩選目標客戶，比如發(fā)送大量的短信，他們不需要知道每個人的具體個人信息，而是通過通用的手法來吸引潛在受害者的注意力。比如最近的“上門槍決”短信，詐騙分子不需要每個人都相信，只需要找到那些容易受騙的人，這種方式可以幫助詐騙分子最大限度地減少成本并加快篩選的速度。

近期在網絡中熱議的“上門槍斃”詐騙短信，來源：網絡

04

技術不是萬能的，治理與監(jiān)管關鍵在人

劉興亮: 對AI換臉詐騙的治理和監(jiān)管還需要哪些主體，以什么樣的形式參與？

岳屾山：社會治理的層面確實是多主體參與的，這樣才能形成良好的氛圍。在制定規(guī)則和框架方面，一方面是在政府層面或立法層面進行，需要有相應規(guī)則和標準來界定詐騙行為，這些規(guī)則可能需要在立法層面進行制定，包括對其性質和標準的界定等。

另外，通過立法或政府的行政政策可能需要一定時間，存在不及時的可能，所以很多時候可以通過行業(yè)協會的形式提前制定一些規(guī)范或標準，雖然它們可能沒有強制力，但可以起到引導作用。

針對法律法規(guī)在落地過程中的執(zhí)行，需要執(zhí)法部門加強監(jiān)管，且這種場景也考驗監(jiān)管的技術，我認為這種情況下雙方都在看誰的技術更高超，誰能夠限制住這種行為。技術本身并不是萬能的，它的應用取決于人們如何使用和管理。

劉興亮：針對不同的主體行為的規(guī)范，目前有哪些具體的法律法規(guī)？

岳屾山：目前在互聯網信息服務深度合成管理規(guī)定方面已經有一些具體的規(guī)定，特別是針對人工智能和AI換臉等技術。

今年4月份，互聯網信息辦公室發(fā)布了關于生成式人工智能服務管理辦法的征求意見稿，進一步規(guī)范了相關服務的管理。通過這些規(guī)定，針對人工智能和AI換臉等方面有了較為直接的管理措施。

國家法律層面也有一些原則層面的法律和規(guī)定，包括《民法典》、《網絡安全法》、《數據安全法》、《互聯網信息服務管理辦法》等，這些法律和規(guī)定都涉及到保護個人信息和肖像權，以及對實施詐騙等行為應承擔的責任，為相關問題提供了一定的規(guī)范。

劉興亮：普通人在遭遇AI詐騙時應該怎樣處理，有什么建議嗎？

岳屾山：作為一名律師，我認為對于那些侵犯他人權益的行為，尤其是在涉及AI詐騙和肖像侵權的行為，受害者可以采取一些維權措施，以避免他人隨意使用其肖像等信息，這種動作可以防止肖像被濫用，并對軟件的使用和研發(fā)產生一定的約束。

我建議加強對肖像權的保護，特別是在如今AI換臉技術如此便利的情況下。除了個人的自我保護外，平臺和執(zhí)法機構也應承擔起相應的責任，確保提供一種便捷的維權途徑。

除了肖像權，類似問題也會涉及到著作權，如果消費者的肖像被制作成視頻并由他人傳播和使用，這涉及到視聽節(jié)目的內容，平臺可能更多地基于著作權方面的處理和保護，而不是針對肖像或其他行為。

在這方面，我建議更多地依賴平臺。平臺應該及時發(fā)現這類侵權行為，并提供便捷的投訴渠道或途徑，以便及時處理這些問題。

另外，正如我們一直在討論的那樣，法律的威懾力往往不是來自其嚴苛程度，而是來自于執(zhí)法的及時性。對于那些實施侵權行為的用戶，平臺方面應該采取相應的懲罰或限制措施。這完全可以在平臺自身的范疇內實施，根據相關的用戶協議和約定對其進行懲罰和限制。通過這樣的方式，可以盡量減少侵權行為的發(fā)生，因為侵權有時候會成為一種上癮的行為。

生成海報

免責聲明：此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網無關。文章僅供讀者參考，并請自行核實相關內容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。