算法如何可知可控可信？互聯(lián)網(wǎng)平臺掌門人共議推動算法向善向上
3月30日，2025中國網(wǎng)絡媒體論壇“堅持主流價值導向 推動算法向上向善”主題分享會在廣西南寧舉行。主題分享會上發(fā)布了“算法向善”南寧宣言，重點互聯(lián)網(wǎng)企業(yè)代表集體簽署。中央網(wǎng)信辦副主任、國家網(wǎng)信辦副主任牛一兵在“堅持主流價值導向 推動算法向上向善”主題分享會上致辭時強調，中央網(wǎng)信辦聚焦黨中央關心、人民群眾關切的算法問題，以壓實網(wǎng)站平臺主體責任為抓手，出臺系列政策法規(guī)，構建算法備案、安全評估、監(jiān)測檢查、執(zhí)法處罰等全流程監(jiān)管體系，算法應用生態(tài)持續(xù)向好。
會議指出，加強算法治理，是維護網(wǎng)絡安全和意識形態(tài)安全的關鍵環(huán)節(jié)，是推動平臺經(jīng)濟健康可持續(xù)發(fā)展的有力保障，是維護人民群眾利益的具體行動。要內(nèi)化導向要求，把準算法治理“定盤星”，堅持黨管互聯(lián)網(wǎng)原則，把主流價值導向貫穿算法設計、開發(fā)、應用全過程。要凈化內(nèi)容生態(tài)，守好算法應用“責任田”，加強網(wǎng)上正能量推送，嚴禁算法助推低俗信息傳播，提高算法設計的透明度和算法運行的可解釋性。要深化創(chuàng)新驅動，樹立算法發(fā)展“新標桿”，開發(fā)具有創(chuàng)新性、引領性的算法產(chǎn)品和服務，創(chuàng)造更多物質財富和精神財富。要強化多元共治，繪就算法向善“同心圓”，加強部門聯(lián)動，督促平臺建立長效機制，動員行業(yè)組織、廣大網(wǎng)民積極參與治理，形成共治共享良好局面。
在這場主題分享會上，抖音、微博、快手、阿里巴巴、美團、騰訊、京東等企業(yè)的相關負責人還分別發(fā)表了主旨演講，分享了如何理解算法，如何為算法糾偏，如何推動算法向上向善的相關做法。
如何理解算法？
算法是“鹽”
應該放在更需要的地方
騰訊副總裁陳勇稱，算法可以比喻為鹽，鹽是身體不可或缺的成分，鹽加多了會傷身體?！八惴佣嗔恕睍霈F(xiàn)信息繭房、榜單操作、大數(shù)據(jù)殺熟等問題。向上向善應該是算法治理的方向，也是算法工作的出發(fā)點和回歸點。算法應該是可用的，讓全社會共享技術紅利，避免技術鴻溝。應該把算法放在更需要的地方。
陳勇表示，算法應該可靠的，網(wǎng)上的一些“羊毛黨”和黑灰產(chǎn)會利用平臺的漏洞，對用戶和平臺造成傷害，隨著算法的應用，這個領域的問題甚至會越加嚴重?，F(xiàn)在網(wǎng)民、平臺聯(lián)系越發(fā)密切，許多平臺都在自發(fā)打擊黑灰產(chǎn)。但這不是一家平臺可以抵抗的。應該以行業(yè)角度，共同打擊黑產(chǎn)、水軍，讓平臺抵抗攻擊的能力越來越強。算法還應該是可知的，運行機制和決策層應該透明可知，這應該是牢牢堅守的規(guī)則，時刻提醒自己不能黑箱操作。
抖音總裁韓尚佑則提到，在人們的印象中，推薦算法首先是通過一系列內(nèi)容理解技術，把所有內(nèi)容打上標簽，比如新聞、美食、唱歌、跳舞等。然后通過用戶數(shù)據(jù)挖掘，給用戶打上標簽，比如性別、年齡、可能的興趣愛好，再通過大量歷史數(shù)據(jù)運算，計算標簽的相關性，把對應標簽的內(nèi)容推送給對應的用戶。隨著機器學習的發(fā)展，抖音的推薦系統(tǒng)已經(jīng)不依賴給用戶打標簽了，而是通過一系列神經(jīng)網(wǎng)絡算法直接預估每一個用戶對每一個內(nèi)容的下滑、點贊、關注、分享等一系列行為的概率，在幾億個內(nèi)容中選擇概率最大的內(nèi)容推薦給用戶。這種大規(guī)模計算模型的優(yōu)勢是顯然的，畢竟不能通過幾十個頻道，幾百個標簽就去刻畫所有的內(nèi)容。也沒辦法通過幾億用戶的興趣愛好，刻畫每一個用戶的興趣愛好的傾向。
韓尚佑表示，這種神經(jīng)網(wǎng)絡算法的機制給真正理解算法、調試算法帶來了很大挑戰(zhàn)。抖音投入非常多資源建立完整的內(nèi)容治理體系。通過對內(nèi)容的機器識別和人工識別，在不同階段過濾內(nèi)容，來解決因為系統(tǒng)對內(nèi)容理解的缺失而帶來的安全問題。抖音會在用戶看到內(nèi)容之前，對內(nèi)容聚類打散，并進行重組。避免內(nèi)容過度密集和同質化。這就需要回歸到算法的原理，對算法進行持續(xù)改善。
算法如何可知可控可信？
公布算法推薦規(guī)則
設置一鍵關閉功能，強化內(nèi)容識別能力
快手聯(lián)合創(chuàng)始人楊遠熙表示，快手以用戶為本，從知情權、選擇權、隱私權三方面形成保護閉環(huán)，讓算法可知可控可信。通過公布熱搜榜單的排序規(guī)則和算法運行規(guī)則，讓算法更透明，讓用戶知道算法、理解算法。并且完善算法運行規(guī)則的答疑渠道，設置智能客服24小時回答用戶關于算法的相關問題。
“讓用戶掌握內(nèi)容推薦的遙控器”，楊遠熙表示，快手設置了一鍵關閉推薦功能，上線個性化推薦管理面板，對站內(nèi)視頻隨機發(fā)布調查問卷，用戶可以實時標記“滿意/不滿意/不確定”。平臺根據(jù)用戶意見調整內(nèi)容推薦頻次。
楊遠熙提到，為保護特殊群體，快手引入多元群體保護機制，設置糾偏策略，糾正曝光內(nèi)容可能存在的偏見。針對未成年人、老年人、殘障人士，搭建專屬流量池，開發(fā)無障礙推薦模型，讓弱勢群體也能體會到科技帶來的樂趣。把內(nèi)容選擇權交給用戶，建立用戶陪審團機制，以技術監(jiān)管技術，用大模型監(jiān)控推薦偏差，對低質內(nèi)容進行智能熔斷，輔助審核模型訓練，強化內(nèi)容識別與治理能力。
如何打破信息繭房？
避免推薦內(nèi)容過度集中
和低質內(nèi)容蔓延
楊遠熙認為，數(shù)智時代，算法既是社會創(chuàng)新的引擎，也是社會治理的課題。2022年快手成立了算法安全委員會，全面統(tǒng)籌算法安全管理監(jiān)督工作。構建了算法安全、算法糾偏、算法透明、算法共治四個體系。持續(xù)用流量和技術的平等、普惠，實現(xiàn)內(nèi)容的真實、向善。快手通過規(guī)則+技術+人工三維治理體系，確保算法始終服務于健康內(nèi)容生態(tài)的建設。
談到如何發(fā)現(xiàn)優(yōu)質內(nèi)容，楊遠熙表示，通過建立的多維度內(nèi)容評價體系，加強優(yōu)質內(nèi)容發(fā)現(xiàn)力。這個評價體系引入了社會價值、知識密度、原創(chuàng)性、用戶喜愛度等指標，對內(nèi)容進行分類，讓優(yōu)質內(nèi)容獲得更高算法權重，對劣質內(nèi)容進行降權、清理，降低爭議話題推薦熱度。
如何打破信息繭房？楊遠熙表示，通過自主研發(fā)的智能分發(fā)系統(tǒng)，避免推薦內(nèi)容的過度集中和低質內(nèi)容的蔓延，完善內(nèi)容隨機+流量隨機的策略，為用戶推送跨興趣優(yōu)質內(nèi)容，通過“無偏流量池”為中小創(chuàng)作者提供高曝光扶持。
如何引領正能量內(nèi)容傳播？楊遠熙表示，以頭部賬號為引領，以政務號、媒體號為主體，通過算法分發(fā)鏈路不斷調優(yōu)，優(yōu)化正能量內(nèi)容循環(huán)體系，引導更多正能量的內(nèi)容生產(chǎn)與曝光。
微博首席執(zhí)行官王高飛介紹，算法不僅是技術手段，更體現(xiàn)平臺的價值觀，算法不僅影響用戶內(nèi)容獲取，也深刻影響網(wǎng)絡空間內(nèi)容生態(tài)。微博是最早推進媒體融合的平臺，為媒體提供了內(nèi)容載體和豐富的傳播手段。經(jīng)過十多年發(fā)展，媒體賬號已經(jīng)成為微博主要的內(nèi)容生態(tài)，是微博正能量宣傳和熱點事件回應的主要力量。微博通過算法升級，進一步提升媒體內(nèi)容的推薦權重。去年創(chuàng)建了媒體共建機制，讓更多正能量話題可以登上熱搜榜。通過流量加持，助力更多媒體關注社會熱點和正能量事件，去年的熱搜榜內(nèi)容中媒體提供的熱點環(huán)比增長90%。去年熱搜榜中的社會熱點、時事熱點96%都來自媒體。
“前段時間米湯可以代替奶粉的言論在網(wǎng)絡傳播，媒體的及時報道回應了謠言。媒體的權威解讀在熱搜榜單高位呈現(xiàn)，微博也對傳播偽科學的博主進行了社區(qū)處置。”王高飛說，媒體的及時介入和高效回應有力回擊了謠言，消除了雜音噪音，破除了信息繭房的現(xiàn)象，是媒體公信力的絕佳體現(xiàn)。
王高飛介紹，目前，微博在熱搜等主要流量場景進行算法升級，把平臺的內(nèi)容的標簽向媒體開放，除了之前的“原創(chuàng)”“首發(fā)”“暖新聞”外，還把“辟謠”“主題宣傳”“官方回應”等標簽開放給媒體。平臺根據(jù)媒體的標注進行推薦。（吳陽）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號