近日，新型開放式社交平臺(tái)Soul App(下簡稱“Soul”)發(fā)布《2024年第二季度Soul生態(tài)安全報(bào)告》。報(bào)告顯示，該季度平臺(tái)重點(diǎn)動(dòng)作在詐騙治理、網(wǎng)絡(luò)暴力治理、未成年保護(hù)、完善社交禮儀體系等方面展開。
隨著近年來“清朗”系列專項(xiàng)行動(dòng)全面深化，Soul始終將企業(yè)責(zé)任放在首位，積極響應(yīng)有關(guān)部門提出的網(wǎng)絡(luò)安全問題及其他潛在風(fēng)險(xiǎn)，堅(jiān)決遏制不良行為對網(wǎng)絡(luò)環(huán)境的負(fù)面影響，同時(shí)關(guān)注未成年人用戶網(wǎng)絡(luò)安全。
期間，Soul 持續(xù)上線反詐新策略，前置攔截高危風(fēng)險(xiǎn);建設(shè)完善社交禮儀體系，加強(qiáng)對違規(guī)內(nèi)容識別能力;聚焦網(wǎng)絡(luò)暴力治理，分辨打擊站內(nèi)網(wǎng)暴問題;筑牢未成年人保護(hù)防線，完善相關(guān)保護(hù)體系。
持續(xù)上線新策略 賦能反詐工作
Soul一直致力于采用先進(jìn)的技術(shù)手段，打造了一個(gè)全面而高效的反詐風(fēng)控體系。在本季度，Soul引入了多種創(chuàng)新的風(fēng)險(xiǎn)預(yù)警機(jī)制，包括"鎖定對話框"、"對話框橫欄強(qiáng)提醒"和"客服電話強(qiáng)提醒"等，根據(jù)用戶面臨的風(fēng)險(xiǎn)等級，實(shí)施了分級預(yù)警策略，并取得了顯著的成效。
數(shù)據(jù)顯示，本季度Soul利用其強(qiáng)大的大模型和內(nèi)容理解能力，成功識別并甄別超過3000個(gè)“假軍警”人設(shè)案例，同時(shí)對超過2萬起網(wǎng)絡(luò)乞討行為發(fā)出預(yù)警。
此外，Soul還積極與全國各地的執(zhí)法機(jī)構(gòu)合作，協(xié)助調(diào)查了37起案件，并向司法機(jī)關(guān)提供了近千條涉及黑灰產(chǎn)業(yè)鏈的線索，為從根本上打擊網(wǎng)絡(luò)犯罪活動(dòng)做出積極貢獻(xiàn)。
建設(shè)完善社交禮儀體系 打造文明友善社交環(huán)境
第二季度中，Soul在違規(guī)行為和低質(zhì)內(nèi)容的治理、社區(qū)的共同建設(shè)和治理、群聊管理以及私聊社交生態(tài)的構(gòu)建等方面持續(xù)發(fā)力，不斷完善社交禮儀體系，致力于打造一個(gè)積極健康的社區(qū)環(huán)境，確保用戶在無壓力的氛圍中享受社交樂趣。
Soul將群聊治理作為工作重點(diǎn)之一。通過技術(shù)手段，Soul在本季度成功識別超過1.5萬條疑似違規(guī)的消息流內(nèi)容，并攔截了2.8萬條違規(guī)文字消息;采用人工審核、用戶舉報(bào)審核和自動(dòng)化策略相結(jié)合的方式，對7800名違規(guī)用戶實(shí)施了梯度處罰，以維護(hù)平臺(tái)的秩序和安全。
同時(shí)，Soul也在積極推動(dòng)私聊社交生態(tài)的建設(shè)。其中“消息盒子”和“守護(hù)彈窗”功能，每天平均保護(hù)超過1萬名用戶免受騷擾，為用戶營造更加健康、友好的社交環(huán)境。
此外，Soul一直在鼓勵(lì)和邀請用戶參與到社區(qū)的共治共建中來。截至2024年第二季度，已有超過3萬名用戶擔(dān)任站內(nèi)內(nèi)容推薦官。他們積極參與平臺(tái)對爭議性動(dòng)態(tài)的評審工作，幫助篩選和推廣健康優(yōu)質(zhì)的內(nèi)容，為打造一個(gè)更加積極、優(yōu)質(zhì)的社區(qū)環(huán)境做出貢獻(xiàn)。
聚焦網(wǎng)絡(luò)暴力治理 讓不文明社交“止于微末”
2024年6月12日，國家互聯(lián)網(wǎng)信息辦公室正式出臺(tái)《網(wǎng)絡(luò)暴力信息治理規(guī)定》，體現(xiàn)了監(jiān)管機(jī)構(gòu)對網(wǎng)絡(luò)暴力零容忍的態(tài)度和保護(hù)網(wǎng)民權(quán)益的堅(jiān)定意志。Soul 緊跟步伐，不斷優(yōu)化群聊和公共互動(dòng)區(qū)的反網(wǎng)絡(luò)暴力措施，通過報(bào)警和自動(dòng)處罰機(jī)制，最大限度地減少用戶遭受的網(wǎng)絡(luò)暴力和騷擾，確保網(wǎng)絡(luò)空間的清朗與文明。
在本季度，Soul積極引導(dǎo)用戶在私聊中文明發(fā)言，提醒次數(shù)超過20萬次，日均發(fā)送友善評論提醒6088次。網(wǎng)絡(luò)暴力的整治，需要每位網(wǎng)民用戶的身體力行，Soul鼓勵(lì)用戶參與到抵制網(wǎng)絡(luò)暴力的行動(dòng)中，共同營造一個(gè)文明的社區(qū)環(huán)境。截至第二季度，已有超過17萬用戶簽署了友善互動(dòng)聲明，顯示了Soul社區(qū)成員對建設(shè)積極網(wǎng)絡(luò)文化的高度認(rèn)同。
此外，Soul的官方"風(fēng)紀(jì)球長"在本季度發(fā)布了多條關(guān)于生態(tài)安全的重要信息，信息觸達(dá)63萬用戶，進(jìn)一步強(qiáng)化了Soul對網(wǎng)絡(luò)文明的承諾和對用戶安全的保障。
筑牢未成年人保護(hù)防線 保障青少年網(wǎng)絡(luò)安全
Soul App始終把未成年人網(wǎng)絡(luò)安全作為重中之重，不斷完善身份認(rèn)證、防沉迷、隱私保護(hù)等措施，構(gòu)建了全面的未成年人網(wǎng)絡(luò)保護(hù)體系。
在本季度，Soul對未成年用戶識別模型進(jìn)行了重要迭代，從單一消息識別擴(kuò)展到復(fù)雜場景下的多維度識別，顯著提高了識別潛在未成年用戶的能力。
目前，Soul平臺(tái)不允許18歲以下的用戶注冊賬號。對于可能存在的少數(shù)未成年存量用戶，Soul通過實(shí)施一系列保護(hù)策略、先進(jìn)的年齡識別技術(shù)和有效的舉報(bào)系統(tǒng)，迅速識別并引導(dǎo)這些賬號切換到專為青少年設(shè)計(jì)的"青少年模式"。此外，我們平臺(tái)還提供了隱私保護(hù)和陌生對話過濾等功能，以最大限度地保障未成年用戶的網(wǎng)絡(luò)安全。
在數(shù)據(jù)方面，本季度Soul推出了40多項(xiàng)未成年識別和保護(hù)策略，這些策略在識別虛假成年人身份方面取得了高達(dá)98.0%的貢獻(xiàn)率，進(jìn)一步證明識別策略的有效性和精確性。
維護(hù)網(wǎng)絡(luò)生態(tài)是項(xiàng)長期的社會(huì)工程。Soul 利用自身的技術(shù)專長和全面的管理策略，全力以赴地參與到這一進(jìn)程中——通過嚴(yán)格查處違規(guī)現(xiàn)象、拓展宣傳網(wǎng)絡(luò)、豐富積極內(nèi)容，并與用戶、行業(yè)和執(zhí)法部門等進(jìn)行廣泛協(xié)作，不斷加強(qiáng)平臺(tái)的自我監(jiān)管，力求提高治理效能，助力構(gòu)建一個(gè)健康、有序的網(wǎng)絡(luò)環(huán)境，推動(dòng)網(wǎng)絡(luò)生態(tài)的持續(xù)進(jìn)步。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
