引言：隨著數(shù)字經(jīng)濟(jì)蓬勃發(fā)展，以及疫情加速的線上娛樂迅猛攀升，各種數(shù)字產(chǎn)品形態(tài)的風(fēng)潮迭起，興趣社交、娛樂直播、電商帶貨、互動游戲等行業(yè)孕育無數(shù)機(jī)會的同時(shí)，也暗藏潛伏的危險(xiǎn)，是“風(fēng)口”，也是“風(fēng)險(xiǎn)口”。受利益的誘惑與驅(qū)使，涉黃、涉政、暴恐、低俗等違法違禁信息，以各種形式泛濫于網(wǎng)絡(luò)，讓各大平臺應(yīng)用防不勝防，不斷被迫充當(dāng)著間接“作惡工具”，隨之而來的是約談、整頓、下架甚至關(guān)停。環(huán)信作為國內(nèi)領(lǐng)先的即時(shí)通訊服務(wù)平臺，如何保障企業(yè)的消息內(nèi)容安全、合規(guī)，如何幫助企業(yè)規(guī)避內(nèi)容風(fēng)險(xiǎn)，在安全的環(huán)境下專注自身業(yè)務(wù)發(fā)展也是環(huán)信一直以來的使命!
Why 互聯(lián)網(wǎng)不是法外之地
強(qiáng)大的網(wǎng)絡(luò)安全產(chǎn)業(yè)實(shí)力是保障我國網(wǎng)絡(luò)空間安全的根本和基石。據(jù)不完全統(tǒng)計(jì)，2021年6月至8月間，執(zhí)法監(jiān)管部門共查辦涉網(wǎng)絡(luò)行政和刑事案件822起，處置低俗有害信息40余萬條，取締關(guān)閉網(wǎng)站4800余個(gè)，處置違法違規(guī)賬號800余萬個(gè)。
工信部：組織對多種類型應(yīng)用軟件及平臺開展專項(xiàng)檢查，已集中通報(bào)6批侵害用戶權(quán)益行為的APP，下架處理逾期未整改的APP超250款;進(jìn)一步啟動開展互聯(lián)網(wǎng)行業(yè)專項(xiàng)整治行動，聚焦擾亂市場秩序、侵害用戶權(quán)益、威脅數(shù)據(jù)安全、違反資源和資質(zhì)管理規(guī)定等四方面8類問題，推動行業(yè)規(guī)范健康有序發(fā)展。
網(wǎng)信辦：加強(qiáng)網(wǎng)絡(luò)生態(tài)治理，深入開展整治網(wǎng)上歷史虛無主義、整治未成年人網(wǎng)絡(luò)環(huán)境、整治網(wǎng)上文娛及熱點(diǎn)排行亂象等“清朗”系列專項(xiàng)行動，進(jìn)一步出臺十項(xiàng)舉措整治“飯圈”亂象，累計(jì)清理有害信息15萬余條，處置違規(guī)賬號4000余個(gè)，關(guān)閉問題群組1300余個(gè)。
What 產(chǎn)品、場景和解決方案
在內(nèi)容監(jiān)管日趨嚴(yán)重、行政監(jiān)管愈發(fā)嚴(yán)格的大環(huán)境之下，令各大平臺應(yīng)用憂心忡忡的不再只有“流量”，還有“合規(guī)”和“內(nèi)容安全”。平臺必須承擔(dān)起主體責(zé)任，“大步快跑”的同時(shí)，加強(qiáng)正向引導(dǎo)嚴(yán)防內(nèi)容風(fēng)險(xiǎn)。過去，在內(nèi)容審核方面，互聯(lián)網(wǎng)“老大哥”們往往通過增加審核人員規(guī)模來解決問題，動輒上萬人的內(nèi)容審核團(tuán)隊(duì)，讓其他一眾中小廠商望而卻步，而隨著互聯(lián)網(wǎng)內(nèi)容愈發(fā)繁雜且海量，信息傳播形態(tài)更加多樣化，音視頻等新的媒介形式興起，傳統(tǒng)的人工審核已經(jīng)無法再從容應(yīng)對內(nèi)容安全危機(jī)。
正是在這樣的行業(yè)背景之下，環(huán)信推出內(nèi)容審核服務(wù)，聚焦在“內(nèi)容安全”領(lǐng)域，結(jié)合人工智能技術(shù)打造全棧式智能內(nèi)容識別產(chǎn)品，致力于幫助社交、直播、電商、游戲等行業(yè)的開發(fā)者，精準(zhǔn)識別即時(shí)通訊場景中的文本、圖片、語音等各類違規(guī)內(nèi)容，為開發(fā)者提供高效、準(zhǔn)確、全面的內(nèi)容審核過濾服務(wù)。讓無論是“大廠”還是“小廠”，都有機(jī)會在集成通信云平臺能力的同時(shí)，享受到內(nèi)容識別技術(shù)所帶來的“安全感”，從而沒有后顧之憂地在市場上開疆拓土。
內(nèi)容安全(Content security)是網(wǎng)絡(luò)信息安全的一個(gè)重要分支，其目的為識別、阻斷不良信息傳播，例如濫發(fā)電子消息(Spamming)、色情內(nèi)容、犯罪內(nèi)容、恐怖主義內(nèi)容、政治敏感內(nèi)容等。涉及技術(shù)包括自然語言處理、計(jì)算機(jī)視覺等，涉及內(nèi)容包括文字、圖片、音頻、視頻等。環(huán)信內(nèi)容審核產(chǎn)品1.0以IM即時(shí)通訊場景作為切入點(diǎn)，主打消息場景下各類信息的內(nèi)容審核安全，打造IM即時(shí)通訊場景下內(nèi)容安全的一站式解決方案。環(huán)信內(nèi)容審核產(chǎn)品無縫對接即時(shí)通訊IM 四大類消息類型，零集成開發(fā)成本，開通服務(wù)即可為消息傳播提供“安保措施”;文本類型和圖片類型更是采取實(shí)時(shí)審核，有效降低審核延遲，提供即時(shí)的IM聊天體驗(yàn)。
環(huán)信內(nèi)容審核服務(wù)詳情：
https://www.easemob.com/product/im/antispam
1、支持4大內(nèi)容類型、5大必備基礎(chǔ)審核內(nèi)容場景：
具備文本、圖片、音頻、視頻全類型的審核能力，基于業(yè)界先進(jìn)的深度學(xué)習(xí)網(wǎng)絡(luò)技術(shù)及線上海量真實(shí)樣本，有效識別通訊場景中涉政、色情、違禁、暴恐、廣告導(dǎo)流等違規(guī)內(nèi)容，并支持結(jié)合客戶自身場景進(jìn)行精準(zhǔn)防控。
2、有效解決各類型內(nèi)容識別中的審核難點(diǎn)：
文本審核支持變體識別，使違規(guī)無處遁形，解決業(yè)內(nèi)只能事后配置變體規(guī)則的被動情況
音頻審核支持轉(zhuǎn)譯文本識別和聲紋特征識別，實(shí)時(shí)監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢
圖片審核支持全方位識別數(shù)百種涉政暴恐圖片、數(shù)十種色情圖片、各式各樣的變體廣告圖片等違規(guī)內(nèi)容，極大降低平臺監(jiān)管風(fēng)險(xiǎn)。
視頻審核支持對視頻內(nèi)容中畫面、聲音、文字進(jìn)行全方位綜合檢測，提高平臺內(nèi)容治理質(zhì)量和效率，提升用戶體驗(yàn)。
3、支持個(gè)性化設(shè)置審核策略，提供功能強(qiáng)大的審核管理后臺：
審核規(guī)則靈活設(shè)置：支持按單聊、群聊、聊天室維度細(xì)分消息，滿足業(yè)務(wù)不同消息場景下設(shè)置不同審核規(guī)則的需求;
審核模型靈活調(diào)整：支持定制調(diào)整模型審核標(biāo)準(zhǔn)，結(jié)合客戶自身場景進(jìn)行精準(zhǔn)防控，輕松適配不同行業(yè)客戶的審核標(biāo)準(zhǔn);
自定義消息處置策略：針對消息審核結(jié)果，支持客戶設(shè)置消息下發(fā)或攔截的策略，保障消息處置結(jié)果滿足業(yè)務(wù)需求。
4、提供多行業(yè)適用的審核解決方案：
社交平臺
精準(zhǔn)識別單聊、群聊中文本消息、圖片消息、音頻消息、視頻消息中的涉政、色情、辱罵、暴恐、違禁、廣告導(dǎo)流詐騙等風(fēng)險(xiǎn)內(nèi)容，凈化應(yīng)用內(nèi)聊天環(huán)境，有效降低用戶流失風(fēng)險(xiǎn)
直播聊天室
精準(zhǔn)識別直播聊天室、彈幕中的涉政、涉黃、暴恐、廣告導(dǎo)流等風(fēng)險(xiǎn)內(nèi)容，降低違規(guī)內(nèi)容傳播風(fēng)險(xiǎn)，保障大型直播活動安全推廣
游戲互動
精準(zhǔn)識別游戲公屏聊天中涉政、涉黃、暴恐、廣告導(dǎo)流等風(fēng)險(xiǎn)內(nèi)容，精準(zhǔn)識別微信號、手機(jī)號等垃圾廣告內(nèi)容，降低平臺用戶流失風(fēng)險(xiǎn)
How good 環(huán)信的優(yōu)勢與價(jià)值
1、后臺一鍵開通，0集成開發(fā)成本，更低延遲的消息審核體驗(yàn)：
環(huán)信內(nèi)容審核直接無縫對接IM消息發(fā)送環(huán)節(jié)，同一數(shù)據(jù)中心調(diào)用審核，實(shí)現(xiàn)更低延遲的審核服務(wù)體驗(yàn)，高效幫助客戶解決傳統(tǒng)方案中消息審核環(huán)節(jié)的痛點(diǎn)。
相對于客戶自行回調(diào)消息至應(yīng)用服務(wù)器后再自行審核處理方案，一是能有效節(jié)省網(wǎng)絡(luò)傳輸環(huán)節(jié)并避免網(wǎng)絡(luò)波動造成延遲大的風(fēng)險(xiǎn)，從全鏈路上大大降低加入審核環(huán)節(jié)對消息發(fā)生產(chǎn)生的延遲影響;二是幫助客戶節(jié)省大量的服務(wù)器處理成本、以及開發(fā)和維護(hù)的人力成本，環(huán)信內(nèi)容審核無需客戶集成、0開發(fā)成本，開通服務(wù)即可使用;
相對于客戶應(yīng)用客戶端先自行審核再發(fā)送消息方案，一是客戶端網(wǎng)絡(luò)環(huán)境無法保證從而延遲風(fēng)險(xiǎn)更大，環(huán)信審核服務(wù)采取同一數(shù)據(jù)中心調(diào)用方式，有效避免審核環(huán)節(jié)的網(wǎng)絡(luò)延遲風(fēng)險(xiǎn);二是客戶端調(diào)用存在被攻擊的安全風(fēng)險(xiǎn)，一旦被攻擊審核環(huán)節(jié)則形同虛設(shè)，環(huán)信內(nèi)容審核采用服務(wù)器送審安全有保障;三是客戶端送審開發(fā)邏輯復(fù)雜，會產(chǎn)生開發(fā)和維護(hù)成本，環(huán)信內(nèi)容審核無需客戶集成、0開發(fā)成本，開通服務(wù)即可使用，省時(shí)省力省心。
2、智能AI技術(shù)為內(nèi)容安全保駕護(hù)航，極大降低監(jiān)管風(fēng)險(xiǎn)：
復(fù)雜模型體系，違規(guī)識別高準(zhǔn)確：基于先進(jìn)的人工智能技術(shù)，構(gòu)建復(fù)雜模型體系，避免單一模型的誤殺和漏殺，違規(guī)識別高準(zhǔn)確;
違規(guī)態(tài)勢實(shí)時(shí)追蹤，實(shí)現(xiàn)產(chǎn)品快速迭代升級：實(shí)時(shí)監(jiān)測音頻輿情趨勢，動態(tài)追蹤違規(guī)態(tài)勢，產(chǎn)品防御升級;
多種違規(guī)內(nèi)容全面識別，極大降低監(jiān)管風(fēng)險(xiǎn)：深入不同行業(yè)審核場景，提供高效、精細(xì)、全面的個(gè)性化內(nèi)容審核方案。
3、高質(zhì)量服務(wù)，支持客戶結(jié)合自身場景進(jìn)行精準(zhǔn)防控：
首次開通服務(wù)提供7天免費(fèi)試用期，幫助客戶充分測試并了解內(nèi)容審核產(chǎn)品效果;更有專業(yè)技術(shù)服務(wù)人員7*24小時(shí)支持客戶根據(jù)業(yè)務(wù)個(gè)性化需求調(diào)整審核模型的效果，保障消息審核結(jié)果100%滿足企業(yè)業(yè)務(wù)需求。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
