劉興亮｜這部法規(guī)為“大模型”亮起哪些“紅燈”和“綠燈”

全球首部AIGC（人工智能生成內(nèi)容）管理辦法出臺了。

近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），該辦法將自2023年8月15日起施行。

全球最早的生成式AI是去年11月上線，在中國則最早是今年3月份上線。而僅僅到了4月份，關于生成式人工智能服務管理的《征求意見稿》就出來了，現(xiàn)在才7月份，就正式頒布了，其速度之快堪比生成式AI的發(fā)展速度。

01

這些“紅燈”規(guī)定值得關注

《辦法》的內(nèi)容豐富，其中，對生成式人工智能亮起了哪些“紅燈”頗受關注。

除了“煽動顛覆國家政權”“暴力色情”等違法內(nèi)容外，《辦法》還在信息數(shù)據(jù)安全、知識產(chǎn)權保護、倫理風險規(guī)避等方面提出了較為嚴格的要求。

在信息數(shù)據(jù)安全方面，其實之前很多用戶會擔心使用生成式AI會泄露自己輸入的個人信息，《辦法》對這一點做出了明確的要求：生成式人工智能技術提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

所以，對于用戶來說，在《辦法》的規(guī)范下，未來可以放心使用生成式人工智能。而對于技術提供者來說，應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡信息安全義務，涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

知識產(chǎn)權問題也是生成式AI領域關注度最高的問題之一。

《辦法》明確生成式人工智能服務提供者應當使用具有合法來源的數(shù)據(jù)和基礎模型，涉及知識產(chǎn)權的，不得侵害他人依法享有的知識產(chǎn)權；應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。而不管是提供者還是使用者，都要尊重知識產(chǎn)權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為。

也就是說，今后通過AI生成的內(nèi)容，會有一定的標識，用戶能夠辨別自己的“AI作品”是否運用了別人產(chǎn)出的圖片、視頻等內(nèi)容，避免濫用。這在很大程度上保護了知識產(chǎn)權。

除此之外，《辦法》在倫理方面也有相應的要求：在算法設計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視。

在這一規(guī)范下，其實各個生成式AI提供方的技術水準也將受到檢驗。比如當用戶問到相關倫理問題，它是為了避免風險簡單粗暴地回復：我無法回答、我不知道；還是會答非所問，或者是會被使用者所迷惑，答出了不符合倫理道德的答案；抑或，能夠提供既符合倫理要求又言之有理的答案……這體現(xiàn)出的是不同層次的AIGC能力。

在未成年保護方面，《辦法》也提出了要求：生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

02

這些“綠燈”指引令人鼓舞

當然，《辦法》里并不都是嚴格的限制，還有一些溫和的舉措以及提倡和鼓勵的方向。

當前，生成式AI的一個非常突出的特點就是所謂“一本正經(jīng)的胡說八道”，這目前是全球都無法解決的難題，在能夠看到的有限未來都很難解決。之前，征求意見稿要求生成式AI生成的內(nèi)容應當真實準確，而《辦法》則更新為，提高生成內(nèi)容的準確性和可靠性。

再比如《辦法》強調(diào)“虛假有害信息”，而不是《征求意見稿》一刀切的“虛假信息”。“虛假有害信息”和“虛假信息”相比，雖然只多了兩個字，但二者卻有天壤之別。這些都使得《辦法》比《征求意見稿》溫和了一些，可操作性強了一些。

和《征求意見稿》相比，《辦法》也新增加了不少對于生成式AI服務的相關鼓勵。

例如，在第二章技術發(fā)展與治理的第五條與第六條，都提到了要鼓勵生成式AI技術在各行業(yè)、各領域的創(chuàng)新應用，探索優(yōu)化應用場景，構建應用生態(tài)體系。

這一點令人鼓舞。因為這些領域和方向是我們國家生成式AI的未來?；ヂ?lián)網(wǎng)和AI的發(fā)展歷史證明，我們在應用層，尤其是在千行百業(yè)的應用，是最大的優(yōu)勢所在。尤其對于廣大的創(chuàng)業(yè)公司來說，生成式AI在千行百業(yè)的應用，是廣闊天地，大有可為。

《生成式人工智能服務管理暫行辦法》作為首部AIGC管理法規(guī), 將使得生成式人工智能健康發(fā)展、防范生成式人工智能服務風險邁入全新階段。

有理由相信，在維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益的前提下，我國生成式人工智能會迎來蓬勃發(fā)展。

生成海報

免責聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關。文章僅供讀者參考，并請自行核實相關內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。