20世紀，美國人靠計算機讓導(dǎo)彈飛行地更精準，如今我們卻把鍵盤當(dāng)武器，在互聯(lián)網(wǎng)上對我們的同胞發(fā)起戰(zhàn)爭。
01 網(wǎng)絡(luò)暴力，是一場眾人之罪
近期，網(wǎng)絡(luò)暴力事件頻發(fā)，并且還在持續(xù)不斷發(fā)酵，其產(chǎn)生的惡劣影響也在快速擴大。從尋親男孩劉學(xué)州，到染頭發(fā)女孩鄭靈華，再到前幾天震驚全網(wǎng)的5.25校園交通事故，被撞身亡的六歲小學(xué)生母親因網(wǎng)暴而選擇輕生，甚至是近日的“國企高管牽手異性逛街”網(wǎng)絡(luò)反腐事件，都已演變成了一場對男女當(dāng)事人的“網(wǎng)暴狂歡”。
在網(wǎng)絡(luò)世界中，施暴者躲在角落，無所顧忌地發(fā)表言論，將鍵盤當(dāng)作“利刃”隨意攻擊著別人。然而，躲在一張張“匿名”面具之后的他們，大多數(shù)只是現(xiàn)實中的普通人，他們在網(wǎng)絡(luò)上表現(xiàn)出了極度的冷酷、漠然。有心理學(xué)家對網(wǎng)暴者的心理進行分析，認為他們多為“兩面人”：現(xiàn)實生活中的“羊”、虛擬世界中的“狼”。
網(wǎng)絡(luò)暴力的侵害形式主要包括威脅、騷擾、侮辱和社會性孤立等，行為通常伴有侵犯他人名譽、披露他人隱私等情況。由于違法成本低，社交媒體、網(wǎng)絡(luò)集體性地放大了人性陰暗的一面，網(wǎng)暴對公眾人身權(quán)利造成的實質(zhì)性傷害，已經(jīng)遠遠超出了網(wǎng)絡(luò)輿論的邊界。
02 網(wǎng)絡(luò)空間，不存在法外之地
網(wǎng)絡(luò)空間，不存在法外之地。倘若人人都可以躲在屏幕背后，披著匿名的殼子，或抱著無知者無罪、法不責(zé)眾的心態(tài)，不帶任何思量就去任意一次次地敲下回車鍵，去傷害一個陌生人，這不僅是道德敗壞行為，更是一種私人執(zhí)法行為，是對法律威嚴的無視。
網(wǎng)暴頑疾由來已久，這一頑疾的復(fù)雜程度、治理難度，確實超乎想象。迄今為止，沒有任何國家、任何企業(yè)成功根治網(wǎng)暴。與傳統(tǒng)違法犯罪不同，網(wǎng)絡(luò)暴力往往針對素不相識的陌生人實施，被害人在確認侵害人、收集證據(jù)等方面存在現(xiàn)實困難，維權(quán)成本極高，同時也存在著定性難、監(jiān)管難的問題。法律定罪需要完成的證據(jù)鏈，在落地過程中往往需要耗費巨大的成本和資源。所以世界各國往往會采用政府監(jiān)管、企業(yè)互動、社會自治和教育等“組合拳”形式推動網(wǎng)絡(luò)生態(tài)的健康發(fā)展。
作為最早對網(wǎng)絡(luò)作出規(guī)范的國家，1997年6月，德國聯(lián)邦議院通過了世界上首部全面規(guī)范網(wǎng)絡(luò)的法律《多媒體法》(德文簡稱IUKDG)，該法實施的目的在于保護用戶公民權(quán)利和公共利益，并以專門篇幅對網(wǎng)絡(luò)服務(wù)商的責(zé)任、義務(wù)作出具體規(guī)定。
在美國，對網(wǎng)絡(luò)暴力沒有明確的界定，理論上主要是分為網(wǎng)絡(luò)欺凌、網(wǎng)絡(luò)跟蹤和網(wǎng)絡(luò)騷擾。2009年4月，美國出臺了歷史上第一部針對青少年網(wǎng)絡(luò)欺凌的專項法律，將青少年網(wǎng)絡(luò)隱私安全作為防治青少年網(wǎng)絡(luò)欺凌工作的重心，出臺的法律不僅限制網(wǎng)絡(luò)上有害信息的傳播，還保護兒童在網(wǎng)絡(luò)世界的隱私安全，從而有效保護青少年免受或少受網(wǎng)絡(luò)欺凌的威脅。
這些年，中國始終高度重視互聯(lián)網(wǎng)的發(fā)展，從來沒有停止過對網(wǎng)絡(luò)環(huán)境的治理。2022年，國家網(wǎng)信辦就發(fā)布《關(guān)于切實加強網(wǎng)絡(luò)暴力治理的通知》，明確要求禁止針對個人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息;禁止侵害他人合法權(quán)益，擾亂正常網(wǎng)絡(luò)秩序;要求網(wǎng)站平臺壓實主體責(zé)任，健全完善長效工作機制，有效保障廣大網(wǎng)民合法權(quán)益。
近日，最高人民法院、最高人民檢察院、公安部三部門起草了《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(征求意見稿)》，向社會公開征求意見，對在信息網(wǎng)絡(luò)上制造、散布謠言，采取肆意謾罵、惡毒攻擊、披露隱私等方式公然侮辱他人的行為將進行依法嚴懲。此次“兩高一部”的聯(lián)合動作，可能迎來史上最嚴厲的網(wǎng)絡(luò)暴力懲治法規(guī)。
“兩高一部”的《征求意見》將重點針對以下行為和人群：
1.重點打擊行為: 對于網(wǎng)絡(luò)誹謗、網(wǎng)絡(luò)侮辱、侵擾公民個人信息、線下滋擾以及借網(wǎng)暴事件進行惡意營銷炒作的，將依法進行嚴懲。比如網(wǎng)絡(luò)誹謗行為，將以誹謗罪定罪處罰，網(wǎng)絡(luò)侮辱行為，將以侮辱罪定罪處罰。
2. 重點打擊對象：對惡意發(fā)起者、組織者、推波助瀾以及屢教不改的群體，將堅持嚴格執(zhí)法，對于網(wǎng)絡(luò)暴力違法犯罪，應(yīng)當(dāng)依法嚴肅追究，切實矯正“法不責(zé)眾”錯誤傾向。
3.重點犯罪情形：(1)針對未成年人、殘疾人實施的;(2)組織“水軍“、“打手”實施的;(3)編造“涉性”話題侵害他人人格尊嚴的;(4)利用“深度合成”技術(shù)發(fā)布違法或者不良信息，違背公序良俗、倫理道德的;(5)網(wǎng)絡(luò)服務(wù)提供者發(fā)起、組織的。對實施以上的網(wǎng)絡(luò)暴力違法犯罪，將從重處罰。
因為網(wǎng)暴而造成被害人精神失常、自 殺等嚴重后果的，將會被認定為刑法第 246 條的「嚴重危害社會秩序」罪。
從《征求意見》中所覆蓋的重點人群和違法行為中可以看出，目前網(wǎng)絡(luò)暴力的施加者不僅僅包括普通網(wǎng)民，也包含了網(wǎng)絡(luò)暴力團伙、有組織性的網(wǎng)絡(luò)黑產(chǎn)等群體。這些群體在利益的驅(qū)動下，通常會繞開平臺的相關(guān)機制，進行有組織、有手段地實施網(wǎng)絡(luò)暴力行為，比如通過注冊運營大量社交賬號，通過社交平臺相互推廣引流，或者通過鼓動網(wǎng)民、水軍造勢等方式使輿論發(fā)酵，以此牟利。
對平臺企業(yè)來說，平臺生態(tài)惡化及社會輿論帶來負面聲譽足以讓企業(yè)產(chǎn)生巨大的運營商業(yè)風(fēng)險。當(dāng)商業(yè)與社會現(xiàn)實擺在面前，平臺如何以法律為準繩，并通過技術(shù)、平臺規(guī)則和機制等手段去解決這些異化現(xiàn)象，重新衡量、規(guī)劃和引導(dǎo)平臺空間與用戶的行為關(guān)系，讓平臺回歸健康的生態(tài)運營是目前無法逃避的一個問題。
03 用 AI 技術(shù)，對抗網(wǎng)暴
網(wǎng)易易盾，依托于網(wǎng)易集團20多年的技術(shù)沉淀與傳媒行業(yè)的深厚積累，在網(wǎng)絡(luò)輿論的風(fēng)險控制和平臺不良內(nèi)容的監(jiān)測管理上有豐富的實踐經(jīng)驗，可以通過輿情預(yù)警、建設(shè)【人工+AI+舉報】三級審核流程、建立審核員培訓(xùn)制度維護平臺內(nèi)容的生態(tài)治理和風(fēng)險管控，有效減少平臺不良言論，控制網(wǎng)絡(luò)暴力的影響力和危害性。
其中輿情預(yù)警建設(shè)是放在首位的，易盾可以幫助平臺打造輿情系統(tǒng)，實時搜索網(wǎng)絡(luò)傳播中的熱點問題及有害言論，并將敏感信息錄入形成相應(yīng)規(guī)避詞與輿情工作報告，上報主管部門，直接規(guī)避用戶在平臺上發(fā)出存有規(guī)避詞的信息。
同時，易盾的AI能力在幫助網(wǎng)暴治理方面可發(fā)揮出重要作用，其中，對嘲諷、低俗內(nèi)容的識別以及情感正負面判斷等能力，是AI技術(shù)的重要應(yīng)用之一。
首先，AI可以利用自然語言處理技術(shù)識別出帶有嘲諷、低俗成分的言論，并對其進行分類與標記。通過對這些言論進行識別和分類，網(wǎng)絡(luò)管理人員可以更快速地發(fā)現(xiàn)和處理違規(guī)言論，從而減少網(wǎng)暴事件的發(fā)生。其次，AI可以通過情感分析技術(shù)對言論的情感正負面進行判斷，從而更好地評估言論的影響力和危害程度。例如，對于帶有負面情感的言論，AI可以快速判斷其可能會引起的社會影響，從而更好地采取應(yīng)對措施，保障公關(guān)安全與社會穩(wěn)定。
在用戶管理方面，易盾還可以幫助平臺進行用戶的實名認證來限制匿名用戶發(fā)布的不良言論。對用戶產(chǎn)生的內(nèi)容方面做分層處理，建立不同層級違規(guī)、違法內(nèi)容數(shù)據(jù)庫，再用AI技術(shù)對違規(guī)、違法等內(nèi)容進行識別算法建模，并不斷完善模型數(shù)據(jù)庫。當(dāng)用戶發(fā)出內(nèi)容后， 可以結(jié)合內(nèi)容與數(shù)據(jù)庫做對照，將違規(guī)內(nèi)容直接篩出。
我們相信人性有向善的本能，但就像向日葵一樣，面對陽光才能生長。網(wǎng)絡(luò)暴力的背后，不管人心之惡、技術(shù)之惡還是資本之惡，易盾一直希望能成為那道可以驅(qū)散黑暗的陽光，給網(wǎng)民一個陽光、向上、溫暖的網(wǎng)絡(luò)空間。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
