7月18日，2023年中國網(wǎng)絡(luò)文明大會算法治理論壇在福建廈門舉行。論壇以“算法治理向上向善 網(wǎng)絡(luò)文明共建共享”為主題，依托人工智能技術(shù)新一輪發(fā)展浪潮，圍繞新形勢下的算法大模型發(fā)展與安全，深入探討算法治理的新趨勢新挑戰(zhàn)，拓展算法綜合治理新思路新路徑，護(hù)航新技術(shù)新應(yīng)用健康可持續(xù)發(fā)展。

論壇上，人民網(wǎng)、新華社、中國傳媒大學(xué)、中國科學(xué)院計算技術(shù)研究所、中央廣播電視總臺代表，以及各單位國家重點實驗室代表發(fā)表主題演講，多方面闡述人工智能算法治理舉措，推動人工智能大模型安全發(fā)展。

中國傳媒大學(xué)副校長王暉在現(xiàn)場分享，國家網(wǎng)信辦聯(lián)合六部委推出的《生成式人工智能服務(wù)管理暫行辦法》針對生成式人工智能算法做出了“以治理促發(fā)展”的管理定位，“科學(xué)監(jiān)管”是其中的核心要義。生成式人工智能算法能否得到科學(xué)且有效的治理，是決定AI大模型可信、可管、可控與否的關(guān)鍵，也是媒體融合與傳播國家重點實驗室研究重心。治理方案的科學(xué)性具有規(guī)范化、全局化與一體化的特點。其中，規(guī)范化指算法應(yīng)對齊主流價值觀、匹配領(lǐng)域需求、符合用戶認(rèn)知；全局化指算法治理時要具有全局觀，要從信息傳播的全流程考慮可能產(chǎn)生的潛在影響；一體化指算法治理要與算力規(guī)劃、數(shù)據(jù)治理、場景創(chuàng)新融合發(fā)展。

中國科學(xué)院計算所副所長程學(xué)旗表示，人工智能技術(shù)正在步入一個技術(shù)創(chuàng)新與顛覆式應(yīng)用模式頻現(xiàn)的爆發(fā)期，生成式大模型的爆發(fā)式涌現(xiàn)掀起新一輪發(fā)展熱潮。同時，由于智能算法的算法缺陷、算法濫用、算法對抗等核心問題，引發(fā)諸如大數(shù)據(jù)“殺熟”、隱私泄露、信息繭房、認(rèn)知極化、大模型安全問題等，為算法治理乃至社會治理帶來新挑戰(zhàn)。中國科學(xué)院計算所在落實算法綜合治理方面，主要承擔(dān)“智能算法安全重點實驗室”建設(shè)任務(wù)，重點布局基礎(chǔ)算法研究、支撐互聯(lián)網(wǎng)算法安全治理和網(wǎng)絡(luò)空間認(rèn)知安全等方向，加快突破智能算法可信域判定、算法黑箱透明化監(jiān)測、系統(tǒng)博弈臨界點感知調(diào)控三大重點難點問題，持續(xù)加強(qiáng)智庫力量與技術(shù)攻關(guān)，為算法綜合治理提供有力支撐。

論壇現(xiàn)場，百度、阿里云、美亞柏科、美圖等企業(yè)代表結(jié)合大模型領(lǐng)域的深入實踐，圍繞大模型的創(chuàng)新發(fā)展與安全風(fēng)險進(jìn)行圓桌研討，交流經(jīng)驗做法，共商發(fā)展與治理之策。（羅曉英）