本刊記者 焦艷 白楚玄

在數(shù)字時代的浪潮下，個性化算法推薦正深刻重構(gòu)青少年的學習與娛樂方式。從短視頻平臺精準推送，到教育類App智能適配，算法在為未成年人創(chuàng)造便捷體驗的同時，衍生出誘導(dǎo)沉迷、信息繭房等新型風險。構(gòu)建科學有效的算法治理體系，護航未成年人數(shù)字未來，成為保護未成年人網(wǎng)絡(luò)安全的重要課題。受訪的專家學者指出，破解難題需法治監(jiān)管與素養(yǎng)教育雙軌并行，共同構(gòu)筑未成年人數(shù)字世界的安全屏障。

未成年人易受算法侵害

“AI比真人更體貼”“Ta完全符合我對戀人的所有想象”……當前，AI模擬戀愛聊天軟件通過所提供的“虛擬戀愛”等新奇體驗，對于好奇心重、模仿能力強的未成年人來說極具吸引力。2024年10月，美國發(fā)生一起引發(fā)全球關(guān)注的訴訟案：一名母親指控某AI公司通過“擬人化、過度性化”的算法設(shè)計誘導(dǎo)其未成年子女沉迷虛擬戀愛對話，最終導(dǎo)致悲劇發(fā)生。

中國政法大學教授郭旨龍認為，該類案件暴露了算法治理的全球性難題——沉迷“當AI以‘完美伴侶’介入未成年人情感世界時，其背后的數(shù)據(jù)收集、模型訓(xùn)練和推薦邏輯可能直接威脅青少年身心健康?！?/p>

目前，不乏未成年人在算法推薦下通過交友軟件、鏈接而遭遇網(wǎng)絡(luò)侵害的案事例?！?023年網(wǎng)絡(luò)性侵未成年人全球風險評估報告》顯示，社交游戲平臺上的對話可以在短短19秒內(nèi)從第一條信息發(fā)展成為高風險的誘騙事件，凸顯了算法推薦與未成年人網(wǎng)絡(luò)侵害的高度關(guān)聯(lián)。

“無論未成年人還是成年人，皆已自愿或被動地裹挾于算法推薦之中?！敝袊鴤髅酱髮W教授王四新強調(diào)，對于未成年人而言，算法呈現(xiàn)出一種“二律背反”的困境?！捌脚_本應(yīng)提供適宜內(nèi)容，卻因無法有效區(qū)分或者為實現(xiàn)商業(yè)目的，導(dǎo)致青少年被精準營銷卻缺乏足夠保護。”王四新說。

法治監(jiān)管建好制度堤壩

面對算法對未成年人可能帶來的潛在威脅，目前我國算法治理框架與未成年人網(wǎng)絡(luò)保護法治建設(shè)方面初具雛形。業(yè)內(nèi)人士表示，當前我國已逐步構(gòu)建起一個覆蓋法律規(guī)則、執(zhí)法行動與常態(tài)化監(jiān)管治理體系。

在法律規(guī)則層面，我國有《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《科技倫理審查辦法(試行)》等涉及算法的法律法規(guī)，對生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)進行了規(guī)范，同時明確要求算法推薦服務(wù)提供者應(yīng)定期審核、評估、驗證其算法機制、模型、數(shù)據(jù)及應(yīng)用結(jié)果，確保不設(shè)置任何誘導(dǎo)用戶沉迷、過度消費等違反法律法規(guī)或違背倫理道德的算法模型。

對涉及未成年人的保護方面，《未成年人網(wǎng)絡(luò)保護條例》對內(nèi)容分類管理、適齡提示、有害信息過濾等作出規(guī)定，旨在從源頭減少不良信息對未成年人的影響，為未成年人營造健康的網(wǎng)絡(luò)環(huán)境。2024年11月15日，國家網(wǎng)信辦發(fā)布《移動互聯(lián)網(wǎng)未成年人模式建設(shè)指南》，升級目前“青少年模式”為“未成年人模式”，進一步促進企業(yè)平臺在時間管理、內(nèi)容審核、功能設(shè)計三個方面實現(xiàn)重要改進。

在執(zhí)法行動層面，通過積極開展算法綜合治理專項行動，切實保障未成年人的合法權(quán)益。2024年11月，中央網(wǎng)信辦、工信部、公安部等四部門發(fā)布《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》，要求進一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，專項行動要求增強算法向上向善服務(wù)保護網(wǎng)民合法權(quán)益，持續(xù)優(yōu)化完善面向未成年人的算法推薦服務(wù)，便利未成年人獲取有益身心健康的信息。

從常態(tài)化監(jiān)管來看，2022年3月1日上線運行互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)，定期分批公布算法備案信息，并要求通過算法備案的平臺進行算法公示。業(yè)內(nèi)專家認為，備案制度一定意義上倒逼算法推薦服務(wù)提供者積極進行風險評估和全流程記錄，促進執(zhí)法機關(guān)監(jiān)督算法活動。

多方共筑免疫屏障

網(wǎng)絡(luò)空間治理面臨艱巨而復(fù)雜的挑戰(zhàn)，技術(shù)迭代會不斷產(chǎn)生新情況、新問題，加大了治理難度。受訪人士認為，除了加強對算法推薦的規(guī)制管理，更需要幫助孩子建立“數(shù)字防護盾”?；ヂ?lián)網(wǎng)平臺應(yīng)當建立青少年模式的“防火墻”，家長和學校也要教會孩子識別算法推薦套路，共同提升青少年在網(wǎng)絡(luò)空間自我保護能力。

中國青少年研究中心青年發(fā)展研究所副所長張曉冰認為，很多未成年人在面對算法推送的信息時，缺乏辨別能力，容易被誤導(dǎo)、被誘導(dǎo)。不少未成年人可能會盲目相信算法推薦的內(nèi)容，陷入信息繭房，無法接觸到多元的觀點與知識;也可能會在算法設(shè)計的成癮機制下難以自拔，對自身成長造成負面影響。

張曉冰建議，學校應(yīng)將數(shù)字素養(yǎng)教育納入課程體系，開設(shè)專門的課程或講座，向?qū)W生普及算法的基本原理、運行機制以及潛在風險。通過案例分析、實踐操作等方式，引導(dǎo)學生辨別信息真?zhèn)危硇詫Υ惴ㄍ扑]，避免沉迷網(wǎng)絡(luò)。

家庭教育的協(xié)同作用不容忽視。中國青少年研究會副秘書長孫宏艷在調(diào)研中注意到，若家長支持孩子適度上網(wǎng)，沉迷網(wǎng)絡(luò)的比例只占2%左右;若嚴格管理或放任不管，未成年人網(wǎng)絡(luò)沉迷的比例將大幅提升。

多位受訪專家認為，未成年人算法治理是一項系統(tǒng)工程，法治監(jiān)管與素養(yǎng)教育相輔相成，缺一不可。北京數(shù)字經(jīng)濟與數(shù)字治理法治研究會副秘書長梁偉亮指出，算法問題不應(yīng)孤立看待，法律規(guī)制不應(yīng)僅關(guān)注單個算法，應(yīng)考慮數(shù)字生態(tài)中的聯(lián)動關(guān)系。

北京航空航天大學法學院副教授趙精武表示，現(xiàn)階段，多維度治理人工智能技術(shù)應(yīng)用已成為社會共識，除了傳統(tǒng)意義上的監(jiān)管機構(gòu)介入，家長、學校、平臺協(xié)同保護之外，還需要行業(yè)協(xié)會等社會機構(gòu)形成良好的商業(yè)慣例，提前設(shè)置未成年人特殊保護機制，比如嚴格落實實名制、增設(shè)風險提示等。