9月11日上午，第六屆CSS互聯(lián)網(wǎng)安全領(lǐng)袖峰會(huì)正式開幕。來(lái)自中國(guó)信通院、IDC、小紅書、騰訊等相關(guān)領(lǐng)域的專家，共同圍繞“產(chǎn)業(yè)上云，安全先行”主題展開探討，分享產(chǎn)業(yè)安全不同領(lǐng)域的最佳實(shí)踐。
小紅書安全業(yè)務(wù)負(fù)責(zé)人周達(dá)受邀出席大會(huì)并發(fā)表題為《小紅書與安全》的主題演講。他認(rèn)為，社區(qū)安全治理是一個(gè)長(zhǎng)期不間斷的工作，其安全本質(zhì)就是解決平臺(tái)、發(fā)布者、消費(fèi)者三方訴求，終極解決之道就是加持大數(shù)據(jù)、人工智能等技術(shù)創(chuàng)新手段，才能實(shí)現(xiàn)打擊質(zhì)效的進(jìn)一步提升。
以“三方”訴求為導(dǎo)向，構(gòu)建“識(shí)別+處罰+宣導(dǎo)”社區(qū)安全管理機(jī)制
周達(dá)指出，對(duì)于社區(qū)平臺(tái)而言，用戶發(fā)布的內(nèi)容，需要符合相關(guān)的法律法規(guī)，以及平臺(tái)的價(jià)值觀。這要求平臺(tái)強(qiáng)化內(nèi)容安全審核時(shí)，要以科技創(chuàng)新為基礎(chǔ)，通過(guò)“機(jī)器審核+人工審核+高展復(fù)合”機(jī)制提高對(duì)內(nèi)容安全的監(jiān)管能力，始終圍繞社區(qū)定位做好內(nèi)容安全管理。
周達(dá)舉例說(shuō)，在機(jī)器審核環(huán)節(jié)中，通過(guò)與騰訊的合作，我們引入了騰訊安全天御的AI技術(shù)，完善了機(jī)器審核能力，同時(shí)大幅提高了人工審核效率，以及減少了人工審核的數(shù)量，為小紅書的發(fā)布者提供了一個(gè)更加優(yōu)質(zhì)的體驗(yàn)。
關(guān)于發(fā)布者和消費(fèi)者二者之間的關(guān)系和安全訴求，周達(dá)以一個(gè)譬喻來(lái)生動(dòng)形象地說(shuō)解答說(shuō)：小紅書像是一座城市，內(nèi)容的發(fā)布者參與到社會(huì)的生產(chǎn)活動(dòng)中，我們認(rèn)定其為“商人”，而用戶付出的是時(shí)間機(jī)會(huì)成本，在經(jīng)濟(jì)學(xué)中被稱之為“消費(fèi)者”。那么，“商人”更加畏懼刷粉、刷量、刷贊等破壞市場(chǎng)規(guī)則的不正當(dāng)競(jìng)爭(zhēng)手段，這樣會(huì)導(dǎo)致優(yōu)質(zhì)的發(fā)布者無(wú)法獲得足夠的流量，最終被淘汰。但消費(fèi)者安全訴求本質(zhì)是信息的不對(duì)稱，無(wú)論是以什么樣的方式，都是通過(guò)信息不對(duì)稱的結(jié)果，導(dǎo)致了我們的消費(fèi)者最終上當(dāng)受騙，或者對(duì)你們的利益產(chǎn)生了損害。
針對(duì)以上三方面臨的安全問(wèn)題，小紅書在實(shí)踐過(guò)程中逐漸摸索一套“識(shí)別+處罰+宣導(dǎo)”專業(yè)化安全治理體系，并且效果日漸凸顯。據(jù)小紅書2020年第二季度社區(qū)生態(tài)治理報(bào)告數(shù)據(jù)顯示，小紅書當(dāng)季處理涉嫌刷量筆記 66萬(wàn)篇、實(shí)時(shí)攔截和清理黑產(chǎn)行為超過(guò)1.3億次、巡回?cái)r截和清理黑灰產(chǎn)行為超過(guò)1.3億次，對(duì)網(wǎng)絡(luò)黑灰產(chǎn)形成了巨大的威懾力和殺傷力。
創(chuàng)新技術(shù)手段加持，“大數(shù)據(jù)服務(wù)+用戶隱私保護(hù)”驅(qū)動(dòng)社區(qū)安全建設(shè)發(fā)展
流量為王時(shí)代，針對(duì)內(nèi)容安全治理如何破解的問(wèn)題。周達(dá)則表示，創(chuàng)新技術(shù)是內(nèi)容平臺(tái)安全管理的終極解決之道，通過(guò)建立安全新思維，體系化機(jī)制來(lái)解決安全問(wèn)題。
他以小紅書和騰訊安全聯(lián)合打擊真人眾包合作為例，天御系統(tǒng)會(huì)把在站外識(shí)別到的黑灰產(chǎn)打上標(biāo)簽，當(dāng)這些黑灰產(chǎn)用戶來(lái)到小紅書的時(shí)候，我們就已經(jīng)提前一步知曉黑灰產(chǎn)的目的動(dòng)機(jī)，可以第一時(shí)間采取防御措施。
除了持續(xù)的迭代策略對(duì)抗、加強(qiáng)內(nèi)容模型識(shí)別外，小紅書還自主開發(fā)、升級(jí)清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對(duì)有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識(shí)別能力在治理中也起到了關(guān)鍵作用。同時(shí)，小紅書還將大數(shù)據(jù)分析、人工智能、機(jī)器學(xué)習(xí)等新技術(shù)運(yùn)用于安全體系，對(duì)安全事件事前偵知預(yù)警、事中察知阻斷和事后溯源修復(fù)，全流程有效防范和嚴(yán)厲打擊黑灰產(chǎn)。
正如騰訊副總裁丁珂在演講中所說(shuō)：“目前大多數(shù)企業(yè)安全體系的完備程度，相比數(shù)字化的發(fā)展速度，還存在比較大的差距。不能簡(jiǎn)單的把安全寄希望于一筆預(yù)算的投入，而是應(yīng)該系統(tǒng)性地重新思考安全的戰(zhàn)略定位，選擇恰當(dāng)?shù)穆窂胶褪侄危业浇鉀Q安全風(fēng)險(xiǎn)的‘最優(yōu)解’。”
在大數(shù)據(jù)及人工智能飛速發(fā)展的今天，周達(dá)也對(duì)大數(shù)據(jù)服務(wù)和用戶隱私保護(hù)等新技術(shù)趨勢(shì)做出預(yù)測(cè)。在演講最后他表示，小紅書正逐步將位置保護(hù)技術(shù)、同態(tài)加密技術(shù)、聯(lián)邦計(jì)算技術(shù)、OT傳輸技術(shù)等多方技術(shù)應(yīng)用于用戶數(shù)據(jù)保護(hù)，從根源上確保用戶隱私被盜用、竊取，讓用戶對(duì)自己個(gè)人數(shù)據(jù)享有絕對(duì)的“自主權(quán)”。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
