自ChatGPT發(fā)布以來，生成式人工智能研究與應用熱度居高不下。和以往的人工智能技術相比，生成式人工智能(AIGC)體現(xiàn)出強人機交互、強語料依賴等典型特征，在技術發(fā)展與風險控制兩方面存在諸多挑戰(zhàn)。
10月18日，為進一步促進AIGC服務健康發(fā)展和規(guī)范應用，推動高校院所與產業(yè)界協(xié)同創(chuàng)新，由北京市科學技術協(xié)會指導，北京軟件和信息服務業(yè)協(xié)會主辦，北京人工智能產業(yè)聯(lián)盟人工智能安全專委會協(xié)辦的“生成式人工智能應用與安全”專場活動在北京舉辦，來自信通院、中國政法大學、騰訊等各界專家學者受邀參會。在圓桌交流會上，騰訊安全內容安全總經理王翔圍繞AIGC相關政策、技術趨勢、安全風險與治理等問題作重點分享。
(騰訊安全內容安全總經理王翔在專場活動上發(fā)言)
王翔介紹到，隨著《生成式人工智能服務管理暫行辦法》正式施行，我國首次填補在生成式人工智能研發(fā)與服務方面的政策空白，這也是全球首部針對生成式人工智能進行監(jiān)管的法律文件。“《辦法》對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，規(guī)定推動公共數(shù)據分類分級有序開放，將促進行業(yè)的發(fā)展和應用更加健康規(guī)范，進一步激發(fā)市場活力和社會創(chuàng)造力。”
生成式人工智能的發(fā)展，標志著人工智能正在從專用智能發(fā)展到通用智能，進入了嶄新的發(fā)展階段。相關數(shù)據顯示，我國人工智能產業(yè)蓬勃發(fā)展，核心產業(yè)規(guī)模達到5000億元，創(chuàng)新成果不斷涌現(xiàn)，AIGC行業(yè)將迎來更大的發(fā)展機遇。其中，AIGC廠商共有300多家，主要分為應用層、模型層、數(shù)據層、算力層。王翔提到，目前應用層廠商占極大比重，主要集中在營銷、客服、辦公、交互設計、數(shù)字人、寫作助手等六大場景，因此能夠快速貼合終端用戶的公司仍有機會突破;而模型層、數(shù)據層、算力層的技術要求則相對較高，因此這些賽道的企業(yè)需重點圍繞效果、成本、服務質量不斷精進，以實現(xiàn)更大的突破。
生成式人工智能的快速發(fā)展也存在內容安全、數(shù)據安全、AI應用安全等諸多潛在風險。從風險來源來看，基本涵蓋模型訓練階段、生成階段到應用上線之后的全鏈路;從風險類型來看，數(shù)據質量和可信度問題、對抗樣本攻擊、信息安全問題、技術濫用和道德風險、用戶隱私和身份安全等問題同樣飽受詬病。此外，由于AIGC的生成能力主要來自數(shù)據和模型，而數(shù)據來源本身可能就會產生侵犯他人著作權、肖像權、名譽權、個人信息等多項權利的風險，因此全球范圍內關于如何保護人類主體的智力活動呼聲將會越來越高。
王翔提到，AIGC賽道的企業(yè)需嚴格把控從模型訓練到上線運營的全鏈路內容安全治理，保障數(shù)據源的真實、無害和可用性，同時搭建安全團隊，通過機器審核+人工審核對生成內容進行全方位審核，以滿足監(jiān)管需求和避免侵權問題。同時，企業(yè)也可以尋求外部三方廠商的接入和助力。
針對這些問題，騰訊安全具備AIGC全鏈路的內容安全解決方案，提供包含審校服務、安全專家服務、機器審核服務、版權保護服務四大能力板塊，覆蓋AIGC類應用從模型訓練到內容生成再到事后運營全過程的內容安全建設，可以助力企業(yè)更高效地應對挑戰(zhàn)。
該方案可以通過三個層面的風控措施來幫助企業(yè)解決AIGC內容風控難題。首先是在輸入端部署相應的風控策略，來判斷輸入指令是否違規(guī)，從源頭上避免違規(guī)內容的產出。然后再加以屏蔽的措施，例如當輸入的違規(guī)詞條觸發(fā)部署的風控策略后，該詞條會反饋給客戶，并提示問法有問題，或者是不合規(guī)等等，以避免不合規(guī)的消息吐出。在輸出端也會進行相應風控，可以通過標記黑樣本并保存至樣本庫，在輸出端匹配關聯(lián)特征并攔截，避免模型生成不合規(guī)內容。
目前，騰訊安全在AIGC內容安全領域有多個場景實踐落地，為文生文、文生圖、醫(yī)療級視頻內容、長小說文本等類型企業(yè)提供內容安全服務。從2019年9月起, 騰訊安全就對B站平臺上UP主上傳的原創(chuàng)視頻進行版權監(jiān)測服務,累計監(jiān)測作品500余萬部,累計發(fā)現(xiàn)侵權鏈接近3000萬條,發(fā)起維權近百萬次,維權成功率達98%。此外，依托豐富的版權素材庫，騰訊安全通過“生成圖片”與“圖片庫”的版權比對，成功幫助某文生圖AIGC創(chuàng)作APP消除侵權風險。
王翔提到，“雖然全世界都在積極擁抱AIGC，但其內容安全風險也將給社會、經濟、文化等多個層面帶來影響，如何促進生成式人工智能有序健康發(fā)展值得政府、企業(yè)等社會各界共同關注。未來，騰訊會秉持科技向善理念，打造安全可信的AIGC技術和應用，助力AIGC時代實現(xiàn)高質量、健康可持續(xù)的發(fā)展。”
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
