算法如何可知可控可信?互聯(lián)網(wǎng)平臺掌門人共議推動(dòng)算法向善向上
3月30日,2025中國網(wǎng)絡(luò)媒體論壇“堅(jiān)持主流價(jià)值導(dǎo)向 推動(dòng)算法向上向善”主題分享會在廣西南寧舉行。主題分享會上發(fā)布了“算法向善”南寧宣言,重點(diǎn)互聯(lián)網(wǎng)企業(yè)代表集體簽署。中央網(wǎng)信辦副主任、國家網(wǎng)信辦副主任牛一兵在“堅(jiān)持主流價(jià)值導(dǎo)向 推動(dòng)算法向上向善”主題分享會上致辭時(shí)強(qiáng)調(diào),中央網(wǎng)信辦聚焦黨中央關(guān)心、人民群眾關(guān)切的算法問題,以壓實(shí)網(wǎng)站平臺主體責(zé)任為抓手,出臺系列政策法規(guī),構(gòu)建算法備案、安全評估、監(jiān)測檢查、執(zhí)法處罰等全流程監(jiān)管體系,算法應(yīng)用生態(tài)持續(xù)向好。
會議指出,加強(qiáng)算法治理,是維護(hù)網(wǎng)絡(luò)安全和意識形態(tài)安全的關(guān)鍵環(huán)節(jié),是推動(dòng)平臺經(jīng)濟(jì)健康可持續(xù)發(fā)展的有力保障,是維護(hù)人民群眾利益的具體行動(dòng)。要內(nèi)化導(dǎo)向要求,把準(zhǔn)算法治理“定盤星”,堅(jiān)持黨管互聯(lián)網(wǎng)原則,把主流價(jià)值導(dǎo)向貫穿算法設(shè)計(jì)、開發(fā)、應(yīng)用全過程。要凈化內(nèi)容生態(tài),守好算法應(yīng)用“責(zé)任田”,加強(qiáng)網(wǎng)上正能量推送,嚴(yán)禁算法助推低俗信息傳播,提高算法設(shè)計(jì)的透明度和算法運(yùn)行的可解釋性。要深化創(chuàng)新驅(qū)動(dòng),樹立算法發(fā)展“新標(biāo)桿”,開發(fā)具有創(chuàng)新性、引領(lǐng)性的算法產(chǎn)品和服務(wù),創(chuàng)造更多物質(zhì)財(cái)富和精神財(cái)富。要強(qiáng)化多元共治,繪就算法向善“同心圓”,加強(qiáng)部門聯(lián)動(dòng),督促平臺建立長效機(jī)制,動(dòng)員行業(yè)組織、廣大網(wǎng)民積極參與治理,形成共治共享良好局面。
在這場主題分享會上,抖音、微博、快手、阿里巴巴、美團(tuán)、騰訊、京東等企業(yè)的相關(guān)負(fù)責(zé)人還分別發(fā)表了主旨演講,分享了如何理解算法,如何為算法糾偏,如何推動(dòng)算法向上向善的相關(guān)做法。
如何理解算法?
算法是“鹽”
應(yīng)該放在更需要的地方
騰訊副總裁陳勇稱,算法可以比喻為鹽,鹽是身體不可或缺的成分,鹽加多了會傷身體?!八惴佣嗔恕睍霈F(xiàn)信息繭房、榜單操作、大數(shù)據(jù)殺熟等問題。向上向善應(yīng)該是算法治理的方向,也是算法工作的出發(fā)點(diǎn)和回歸點(diǎn)。算法應(yīng)該是可用的,讓全社會共享技術(shù)紅利,避免技術(shù)鴻溝。應(yīng)該把算法放在更需要的地方。
陳勇表示,算法應(yīng)該可靠的,網(wǎng)上的一些“羊毛黨”和黑灰產(chǎn)會利用平臺的漏洞,對用戶和平臺造成傷害,隨著算法的應(yīng)用,這個(gè)領(lǐng)域的問題甚至?xí)郊訃?yán)重?,F(xiàn)在網(wǎng)民、平臺聯(lián)系越發(fā)密切,許多平臺都在自發(fā)打擊黑灰產(chǎn)。但這不是一家平臺可以抵抗的。應(yīng)該以行業(yè)角度,共同打擊黑產(chǎn)、水軍,讓平臺抵抗攻擊的能力越來越強(qiáng)。算法還應(yīng)該是可知的,運(yùn)行機(jī)制和決策層應(yīng)該透明可知,這應(yīng)該是牢牢堅(jiān)守的規(guī)則,時(shí)刻提醒自己不能黑箱操作。
抖音總裁韓尚佑則提到,在人們的印象中,推薦算法首先是通過一系列內(nèi)容理解技術(shù),把所有內(nèi)容打上標(biāo)簽,比如新聞、美食、唱歌、跳舞等。然后通過用戶數(shù)據(jù)挖掘,給用戶打上標(biāo)簽,比如性別、年齡、可能的興趣愛好,再通過大量歷史數(shù)據(jù)運(yùn)算,計(jì)算標(biāo)簽的相關(guān)性,把對應(yīng)標(biāo)簽的內(nèi)容推送給對應(yīng)的用戶。隨著機(jī)器學(xué)習(xí)的發(fā)展,抖音的推薦系統(tǒng)已經(jīng)不依賴給用戶打標(biāo)簽了,而是通過一系列神經(jīng)網(wǎng)絡(luò)算法直接預(yù)估每一個(gè)用戶對每一個(gè)內(nèi)容的下滑、點(diǎn)贊、關(guān)注、分享等一系列行為的概率,在幾億個(gè)內(nèi)容中選擇概率最大的內(nèi)容推薦給用戶。這種大規(guī)模計(jì)算模型的優(yōu)勢是顯然的,畢竟不能通過幾十個(gè)頻道,幾百個(gè)標(biāo)簽就去刻畫所有的內(nèi)容。也沒辦法通過幾億用戶的興趣愛好,刻畫每一個(gè)用戶的興趣愛好的傾向。
韓尚佑表示,這種神經(jīng)網(wǎng)絡(luò)算法的機(jī)制給真正理解算法、調(diào)試算法帶來了很大挑戰(zhàn)。抖音投入非常多資源建立完整的內(nèi)容治理體系。通過對內(nèi)容的機(jī)器識別和人工識別,在不同階段過濾內(nèi)容,來解決因?yàn)橄到y(tǒng)對內(nèi)容理解的缺失而帶來的安全問題。抖音會在用戶看到內(nèi)容之前,對內(nèi)容聚類打散,并進(jìn)行重組。避免內(nèi)容過度密集和同質(zhì)化。這就需要回歸到算法的原理,對算法進(jìn)行持續(xù)改善。
算法如何可知可控可信?
公布算法推薦規(guī)則
設(shè)置一鍵關(guān)閉功能,強(qiáng)化內(nèi)容識別能力
快手聯(lián)合創(chuàng)始人楊遠(yuǎn)熙表示,快手以用戶為本,從知情權(quán)、選擇權(quán)、隱私權(quán)三方面形成保護(hù)閉環(huán),讓算法可知可控可信。通過公布熱搜榜單的排序規(guī)則和算法運(yùn)行規(guī)則,讓算法更透明,讓用戶知道算法、理解算法。并且完善算法運(yùn)行規(guī)則的答疑渠道,設(shè)置智能客服24小時(shí)回答用戶關(guān)于算法的相關(guān)問題。
“讓用戶掌握內(nèi)容推薦的遙控器”,楊遠(yuǎn)熙表示,快手設(shè)置了一鍵關(guān)閉推薦功能,上線個(gè)性化推薦管理面板,對站內(nèi)視頻隨機(jī)發(fā)布調(diào)查問卷,用戶可以實(shí)時(shí)標(biāo)記“滿意/不滿意/不確定”。平臺根據(jù)用戶意見調(diào)整內(nèi)容推薦頻次。
楊遠(yuǎn)熙提到,為保護(hù)特殊群體,快手引入多元群體保護(hù)機(jī)制,設(shè)置糾偏策略,糾正曝光內(nèi)容可能存在的偏見。針對未成年人、老年人、殘障人士,搭建專屬流量池,開發(fā)無障礙推薦模型,讓弱勢群體也能體會到科技帶來的樂趣。把內(nèi)容選擇權(quán)交給用戶,建立用戶陪審團(tuán)機(jī)制,以技術(shù)監(jiān)管技術(shù),用大模型監(jiān)控推薦偏差,對低質(zhì)內(nèi)容進(jìn)行智能熔斷,輔助審核模型訓(xùn)練,強(qiáng)化內(nèi)容識別與治理能力。
如何打破信息繭房?
避免推薦內(nèi)容過度集中
和低質(zhì)內(nèi)容蔓延
楊遠(yuǎn)熙認(rèn)為,數(shù)智時(shí)代,算法既是社會創(chuàng)新的引擎,也是社會治理的課題。2022年快手成立了算法安全委員會,全面統(tǒng)籌算法安全管理監(jiān)督工作。構(gòu)建了算法安全、算法糾偏、算法透明、算法共治四個(gè)體系。持續(xù)用流量和技術(shù)的平等、普惠,實(shí)現(xiàn)內(nèi)容的真實(shí)、向善??焓滞ㄟ^規(guī)則+技術(shù)+人工三維治理體系,確保算法始終服務(wù)于健康內(nèi)容生態(tài)的建設(shè)。
談到如何發(fā)現(xiàn)優(yōu)質(zhì)內(nèi)容,楊遠(yuǎn)熙表示,通過建立的多維度內(nèi)容評價(jià)體系,加強(qiáng)優(yōu)質(zhì)內(nèi)容發(fā)現(xiàn)力。這個(gè)評價(jià)體系引入了社會價(jià)值、知識密度、原創(chuàng)性、用戶喜愛度等指標(biāo),對內(nèi)容進(jìn)行分類,讓優(yōu)質(zhì)內(nèi)容獲得更高算法權(quán)重,對劣質(zhì)內(nèi)容進(jìn)行降權(quán)、清理,降低爭議話題推薦熱度。
如何打破信息繭房?楊遠(yuǎn)熙表示,通過自主研發(fā)的智能分發(fā)系統(tǒng),避免推薦內(nèi)容的過度集中和低質(zhì)內(nèi)容的蔓延,完善內(nèi)容隨機(jī)+流量隨機(jī)的策略,為用戶推送跨興趣優(yōu)質(zhì)內(nèi)容,通過“無偏流量池”為中小創(chuàng)作者提供高曝光扶持。
如何引領(lǐng)正能量內(nèi)容傳播?楊遠(yuǎn)熙表示,以頭部賬號為引領(lǐng),以政務(wù)號、媒體號為主體,通過算法分發(fā)鏈路不斷調(diào)優(yōu),優(yōu)化正能量內(nèi)容循環(huán)體系,引導(dǎo)更多正能量的內(nèi)容生產(chǎn)與曝光。
微博首席執(zhí)行官王高飛介紹,算法不僅是技術(shù)手段,更體現(xiàn)平臺的價(jià)值觀,算法不僅影響用戶內(nèi)容獲取,也深刻影響網(wǎng)絡(luò)空間內(nèi)容生態(tài)。微博是最早推進(jìn)媒體融合的平臺,為媒體提供了內(nèi)容載體和豐富的傳播手段。經(jīng)過十多年發(fā)展,媒體賬號已經(jīng)成為微博主要的內(nèi)容生態(tài),是微博正能量宣傳和熱點(diǎn)事件回應(yīng)的主要力量。微博通過算法升級,進(jìn)一步提升媒體內(nèi)容的推薦權(quán)重。去年創(chuàng)建了媒體共建機(jī)制,讓更多正能量話題可以登上熱搜榜。通過流量加持,助力更多媒體關(guān)注社會熱點(diǎn)和正能量事件,去年的熱搜榜內(nèi)容中媒體提供的熱點(diǎn)環(huán)比增長90%。去年熱搜榜中的社會熱點(diǎn)、時(shí)事熱點(diǎn)96%都來自媒體。
“前段時(shí)間米湯可以代替奶粉的言論在網(wǎng)絡(luò)傳播,媒體的及時(shí)報(bào)道回應(yīng)了謠言。媒體的權(quán)威解讀在熱搜榜單高位呈現(xiàn),微博也對傳播偽科學(xué)的博主進(jìn)行了社區(qū)處置。”王高飛說,媒體的及時(shí)介入和高效回應(yīng)有力回?fù)袅酥{言,消除了雜音噪音,破除了信息繭房的現(xiàn)象,是媒體公信力的絕佳體現(xiàn)。
王高飛介紹,目前,微博在熱搜等主要流量場景進(jìn)行算法升級,把平臺的內(nèi)容的標(biāo)簽向媒體開放,除了之前的“原創(chuàng)”“首發(fā)”“暖新聞”外,還把“辟謠”“主題宣傳”“官方回應(yīng)”等標(biāo)簽開放給媒體。平臺根據(jù)媒體的標(biāo)注進(jìn)行推薦。(吳陽)
編輯:遲明緒