20世紀，美國人靠計算機讓導彈飛行地更精準，如今我們卻把鍵盤當武器，在互聯(lián)網(wǎng)上對我們的同胞發(fā)起戰(zhàn)爭。
01 網(wǎng)絡暴力，是一場眾人之罪
近期，網(wǎng)絡暴力事件頻發(fā)，并且還在持續(xù)不斷發(fā)酵，其產生的惡劣影響也在快速擴大。從尋親男孩劉學州，到染頭發(fā)女孩鄭靈華，再到前幾天震驚全網(wǎng)的5.25校園交通事故，被撞身亡的六歲小學生母親因網(wǎng)暴而選擇輕生，甚至是近日的“國企高管牽手異性逛街”網(wǎng)絡反腐事件，都已演變成了一場對男女當事人的“網(wǎng)暴狂歡”。
在網(wǎng)絡世界中，施暴者躲在角落，無所顧忌地發(fā)表言論，將鍵盤當作“利刃”隨意攻擊著別人。然而，躲在一張張“匿名”面具之后的他們，大多數(shù)只是現(xiàn)實中的普通人，他們在網(wǎng)絡上表現(xiàn)出了極度的冷酷、漠然。有心理學家對網(wǎng)暴者的心理進行分析，認為他們多為“兩面人”：現(xiàn)實生活中的“羊”、虛擬世界中的“狼”。
網(wǎng)絡暴力的侵害形式主要包括威脅、騷擾、侮辱和社會性孤立等，行為通常伴有侵犯他人名譽、披露他人隱私等情況。由于違法成本低，社交媒體、網(wǎng)絡集體性地放大了人性陰暗的一面，網(wǎng)暴對公眾人身權利造成的實質性傷害，已經遠遠超出了網(wǎng)絡輿論的邊界。
02 網(wǎng)絡空間，不存在法外之地
網(wǎng)絡空間，不存在法外之地。倘若人人都可以躲在屏幕背后，披著匿名的殼子，或抱著無知者無罪、法不責眾的心態(tài)，不帶任何思量就去任意一次次地敲下回車鍵，去傷害一個陌生人，這不僅是道德敗壞行為，更是一種私人執(zhí)法行為，是對法律威嚴的無視。
網(wǎng)暴頑疾由來已久，這一頑疾的復雜程度、治理難度，確實超乎想象。迄今為止，沒有任何國家、任何企業(yè)成功根治網(wǎng)暴。與傳統(tǒng)違法犯罪不同，網(wǎng)絡暴力往往針對素不相識的陌生人實施，被害人在確認侵害人、收集證據(jù)等方面存在現(xiàn)實困難，維權成本極高，同時也存在著定性難、監(jiān)管難的問題。法律定罪需要完成的證據(jù)鏈，在落地過程中往往需要耗費巨大的成本和資源。所以世界各國往往會采用政府監(jiān)管、企業(yè)互動、社會自治和教育等“組合拳”形式推動網(wǎng)絡生態(tài)的健康發(fā)展。
作為最早對網(wǎng)絡作出規(guī)范的國家，1997年6月，德國聯(lián)邦議院通過了世界上首部全面規(guī)范網(wǎng)絡的法律《多媒體法》(德文簡稱IUKDG)，該法實施的目的在于保護用戶公民權利和公共利益，并以專門篇幅對網(wǎng)絡服務商的責任、義務作出具體規(guī)定。
在美國，對網(wǎng)絡暴力沒有明確的界定，理論上主要是分為網(wǎng)絡欺凌、網(wǎng)絡跟蹤和網(wǎng)絡騷擾。2009年4月，美國出臺了歷史上第一部針對青少年網(wǎng)絡欺凌的專項法律，將青少年網(wǎng)絡隱私安全作為防治青少年網(wǎng)絡欺凌工作的重心，出臺的法律不僅限制網(wǎng)絡上有害信息的傳播，還保護兒童在網(wǎng)絡世界的隱私安全，從而有效保護青少年免受或少受網(wǎng)絡欺凌的威脅。
這些年，中國始終高度重視互聯(lián)網(wǎng)的發(fā)展，從來沒有停止過對網(wǎng)絡環(huán)境的治理。2022年，國家網(wǎng)信辦就發(fā)布《關于切實加強網(wǎng)絡暴力治理的通知》，明確要求禁止針對個人集中發(fā)布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息;禁止侵害他人合法權益，擾亂正常網(wǎng)絡秩序;要求網(wǎng)站平臺壓實主體責任，健全完善長效工作機制，有效保障廣大網(wǎng)民合法權益。
近日，最高人民法院、最高人民檢察院、公安部三部門起草了《關于依法懲治網(wǎng)絡暴力違法犯罪的指導意見(征求意見稿)》，向社會公開征求意見，對在信息網(wǎng)絡上制造、散布謠言，采取肆意謾罵、惡毒攻擊、披露隱私等方式公然侮辱他人的行為將進行依法嚴懲。此次“兩高一部”的聯(lián)合動作，可能迎來史上最嚴厲的網(wǎng)絡暴力懲治法規(guī)。
“兩高一部”的《征求意見》將重點針對以下行為和人群：
1.重點打擊行為: 對于網(wǎng)絡誹謗、網(wǎng)絡侮辱、侵擾公民個人信息、線下滋擾以及借網(wǎng)暴事件進行惡意營銷炒作的，將依法進行嚴懲。比如網(wǎng)絡誹謗行為，將以誹謗罪定罪處罰，網(wǎng)絡侮辱行為，將以侮辱罪定罪處罰。
2. 重點打擊對象：對惡意發(fā)起者、組織者、推波助瀾以及屢教不改的群體，將堅持嚴格執(zhí)法，對于網(wǎng)絡暴力違法犯罪，應當依法嚴肅追究，切實矯正“法不責眾”錯誤傾向。
3.重點犯罪情形：(1)針對未成年人、殘疾人實施的;(2)組織“水軍“、“打手”實施的;(3)編造“涉性”話題侵害他人人格尊嚴的;(4)利用“深度合成”技術發(fā)布違法或者不良信息，違背公序良俗、倫理道德的;(5)網(wǎng)絡服務提供者發(fā)起、組織的。對實施以上的網(wǎng)絡暴力違法犯罪，將從重處罰。
因為網(wǎng)暴而造成被害人精神失常、自 殺等嚴重后果的，將會被認定為刑法第 246 條的「嚴重危害社會秩序」罪。
從《征求意見》中所覆蓋的重點人群和違法行為中可以看出，目前網(wǎng)絡暴力的施加者不僅僅包括普通網(wǎng)民，也包含了網(wǎng)絡暴力團伙、有組織性的網(wǎng)絡黑產等群體。這些群體在利益的驅動下，通常會繞開平臺的相關機制，進行有組織、有手段地實施網(wǎng)絡暴力行為，比如通過注冊運營大量社交賬號，通過社交平臺相互推廣引流，或者通過鼓動網(wǎng)民、水軍造勢等方式使輿論發(fā)酵，以此牟利。
對平臺企業(yè)來說，平臺生態(tài)惡化及社會輿論帶來負面聲譽足以讓企業(yè)產生巨大的運營商業(yè)風險。當商業(yè)與社會現(xiàn)實擺在面前，平臺如何以法律為準繩，并通過技術、平臺規(guī)則和機制等手段去解決這些異化現(xiàn)象，重新衡量、規(guī)劃和引導平臺空間與用戶的行為關系，讓平臺回歸健康的生態(tài)運營是目前無法逃避的一個問題。
03 用 AI 技術，對抗網(wǎng)暴
網(wǎng)易易盾，依托于網(wǎng)易集團20多年的技術沉淀與傳媒行業(yè)的深厚積累，在網(wǎng)絡輿論的風險控制和平臺不良內容的監(jiān)測管理上有豐富的實踐經驗，可以通過輿情預警、建設【人工+AI+舉報】三級審核流程、建立審核員培訓制度維護平臺內容的生態(tài)治理和風險管控，有效減少平臺不良言論，控制網(wǎng)絡暴力的影響力和危害性。
其中輿情預警建設是放在首位的，易盾可以幫助平臺打造輿情系統(tǒng)，實時搜索網(wǎng)絡傳播中的熱點問題及有害言論，并將敏感信息錄入形成相應規(guī)避詞與輿情工作報告，上報主管部門，直接規(guī)避用戶在平臺上發(fā)出存有規(guī)避詞的信息。
同時，易盾的AI能力在幫助網(wǎng)暴治理方面可發(fā)揮出重要作用，其中，對嘲諷、低俗內容的識別以及情感正負面判斷等能力，是AI技術的重要應用之一。
首先，AI可以利用自然語言處理技術識別出帶有嘲諷、低俗成分的言論，并對其進行分類與標記。通過對這些言論進行識別和分類，網(wǎng)絡管理人員可以更快速地發(fā)現(xiàn)和處理違規(guī)言論，從而減少網(wǎng)暴事件的發(fā)生。其次，AI可以通過情感分析技術對言論的情感正負面進行判斷，從而更好地評估言論的影響力和危害程度。例如，對于帶有負面情感的言論，AI可以快速判斷其可能會引起的社會影響，從而更好地采取應對措施，保障公關安全與社會穩(wěn)定。
在用戶管理方面，易盾還可以幫助平臺進行用戶的實名認證來限制匿名用戶發(fā)布的不良言論。對用戶產生的內容方面做分層處理，建立不同層級違規(guī)、違法內容數(shù)據(jù)庫，再用AI技術對違規(guī)、違法等內容進行識別算法建模，并不斷完善模型數(shù)據(jù)庫。當用戶發(fā)出內容后， 可以結合內容與數(shù)據(jù)庫做對照，將違規(guī)內容直接篩出。
我們相信人性有向善的本能，但就像向日葵一樣，面對陽光才能生長。網(wǎng)絡暴力的背后，不管人心之惡、技術之惡還是資本之惡，易盾一直希望能成為那道可以驅散黑暗的陽光，給網(wǎng)民一個陽光、向上、溫暖的網(wǎng)絡空間。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！
