天津大學法學院王燃在《法律科學》2024年第2期上發(fā)表題為《論網(wǎng)絡暴力的平臺技術治理》的文章中指出：

隨著社交網(wǎng)絡媒體的深入發(fā)展，侮辱、謾罵、造謠、誹謗等行為開始在網(wǎng)絡空間蔓延，網(wǎng)絡暴力成為法律亟須回應的社會熱點問題。網(wǎng)絡暴力是以網(wǎng)絡為媒介，通過誹謗侮辱、煽動滋事、公開隱私等人身攻擊方式，侵害他人人格權益，危害網(wǎng)絡空間正常秩序的失范行為。網(wǎng)絡暴力的治理，從賬號管理、信息發(fā)布審核、監(jiān)測預警到舉報救助等各個環(huán)節(jié)，均離不開平臺技術手段的支持。

網(wǎng)絡暴力的行為特殊性導致既有法律治理難見成效。無論是傳統(tǒng)個案司法救濟模式，還是網(wǎng)信部門“信息內容”監(jiān)管模式，均無法有效預防、控制網(wǎng)絡暴力。平臺技術治理成為目前的主要方案并被相關立法所規(guī)定。技術治理可實現(xiàn)對網(wǎng)絡暴力的事前預防、事中阻斷以及信息的準確識別；平臺作為“守門人”，是控制網(wǎng)絡暴力信息的最佳著力點，其數(shù)據(jù)壟斷地位也使得相關技術方案有落地可能性。

在技術治理方式上，相關立法規(guī)定建立網(wǎng)絡暴力識別模型、用戶保障機制以及阻斷處置機制等。其中，建立網(wǎng)絡暴力識別模型是關鍵，其包括對信息內容的識別模型和對高危賬號的識別模型。此外，除了傳統(tǒng)的方式外，平臺可傳播良性信息與有害信息進行對抗性互動，以遏制、降低網(wǎng)絡暴力信息的影響?？赏ㄟ^社交機器人等智能生成技術來對網(wǎng)絡暴力言論進行正向引導。社交機器人是自動化的軟件程序，通過算法自動生成內容并建立互動，很容易被視為人類賬戶。社交機器人技術本身是中立的，其完全有能力去生成并引導正向信息的傳播，從而減輕網(wǎng)絡暴力信息對用戶的傷害。

平臺在進行網(wǎng)絡暴力技術治理的過程中，面臨著諸多法律與技術風險：針對“不良信息型”網(wǎng)絡暴力的認定，應將個體感受、人物關系、上下文情境等要素納入識別模型；針對平臺用戶權利保障風險，引入“技術正當程序”與比例原則，保障用戶的被通知權、知情權、算法解釋權等權利并限制平臺權力；針對社交機器人安全風險，要考慮網(wǎng)絡暴力治理場景的正當性，加強其價值觀引導，確保內容可靠并控制傳播邊界；此外，要合理界定注意義務主體范圍，由大型平臺與超大型平臺承擔網(wǎng)絡暴力治理義務。