人工智能浪潮深刻重塑信息內(nèi)容的生產(chǎn)與傳播方式，“善用”與“善治”成為時代之問。2026中國網(wǎng)絡(luò)媒體論壇主題論壇之一的“善用善治：AI內(nèi)容規(guī)范發(fā)展”主題論壇近日在河南鄭州舉行。論壇聚焦AI內(nèi)容規(guī)范發(fā)展，集中展示治理成效，深度交流實踐經(jīng)驗，共商網(wǎng)絡(luò)生態(tài)治理長效之策。
《100秒致敬故宮百年守護(hù)》借助AI技術(shù)還原大量歷史資料，創(chuàng)造了精彩的古今“同框”畫面；《AI創(chuàng)意視頻|哪吒敖丙悟空都來了！神話照進(jìn)現(xiàn)實有“億”點酷》“腦洞大開”，展現(xiàn)大國重器絲滑“變身”中國神話人物；《一覺醒來，蘇軾來到了2025年》讓宋代詞人蘇軾與2025年的四川浪漫相遇，巧妙展現(xiàn)四川的發(fā)展活力……2025中國正能量網(wǎng)絡(luò)傳播AI精品案例，生動展現(xiàn)了AI幫助內(nèi)容創(chuàng)作者提升效率、拓寬想象空間等作用。
同時，人工智能被濫用的風(fēng)險也隨之凸顯，成為網(wǎng)絡(luò)生態(tài)治理的新課題。中國政法大學(xué)教授、數(shù)據(jù)法治研究院院長時建中說：“當(dāng)技術(shù)被濫用，看見不再為憑，聽見不足為信。”深度偽造侵蝕信任基石�，F(xiàn)實中，有的商家未經(jīng)授權(quán)，用AI合成明星、主持人、專業(yè)人士的肖像、聲音，冒充其推薦產(chǎn)品，不僅侵害個人權(quán)益，更涉嫌商業(yè)欺詐。
AI大模型的價值觀和輸出質(zhì)量高度依賴訓(xùn)練數(shù)據(jù)。北京智譜華章科技股份有限公司首席執(zhí)行官張鵬說，大模型訓(xùn)練數(shù)據(jù)中若存在偏見、誤差，可能通過連續(xù)輸出潛移默化地影響受眾認(rèn)知。中國科學(xué)院院士、北京航空航天大學(xué)教授、未來區(qū)塊鏈與隱私計算高精尖創(chuàng)新中心主任鄭志明指出，來源不可證、邊界不可控、責(zé)任不可歸、過程不可審，是AI內(nèi)容治理的深層難題。
AI技術(shù)大幅降低內(nèi)容生產(chǎn)門檻，導(dǎo)致互聯(lián)網(wǎng)上同質(zhì)化、低質(zhì)化信息爆發(fā)式增長，通過算法實現(xiàn)的個性化信息分發(fā)機(jī)制可能加劇“信息繭房”效應(yīng)。無憂傳媒集團(tuán)有限公司創(chuàng)始人兼首席執(zhí)行官雷彬藝說：“技術(shù)越強(qiáng)大，內(nèi)容生產(chǎn)者越要有敬畏之心，始終堅持正向的價值導(dǎo)向。”
2025年11月28日，中共中央政治局就加強(qiáng)網(wǎng)絡(luò)生態(tài)治理進(jìn)行第二十三次集體學(xué)習(xí)。這對推動網(wǎng)信事業(yè)高質(zhì)量發(fā)展，加快建設(shè)網(wǎng)絡(luò)強(qiáng)國具有重大而深遠(yuǎn)的意義。頂層設(shè)計之下，治理實踐不斷深化。中央網(wǎng)信辦以“清朗”系列專項行動為抓手，針對利用AI技術(shù)制作發(fā)布不實信息、色情低俗內(nèi)容等突出問題強(qiáng)力出擊，推進(jìn)大模型生成內(nèi)容規(guī)范管理。
與此同時，法治基礎(chǔ)不斷夯實。去年，國家網(wǎng)信辦等4部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，配套的強(qiáng)制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》同時出臺，兩者于2025年9月1日起正式施行。這一套組合拳構(gòu)建了“源頭標(biāo)識—分發(fā)審核—傳播核驗—用戶聲明”的協(xié)同治理閉環(huán)，成功將原則性要求轉(zhuǎn)化為可落地執(zhí)行的治理實踐。信息內(nèi)容領(lǐng)域法規(guī)制度文件陸續(xù)制定出臺，治理體系愈加完善，治理效能日益彰顯。
技術(shù)帶來的問題，最終需要依靠技術(shù)來解決。鄭志明系統(tǒng)闡述了“可信智能”的技術(shù)框架，即通過區(qū)塊鏈技術(shù)實現(xiàn)確權(quán)、存證、溯源與歸責(zé)，通過隱私計算保障高價值數(shù)據(jù)“可用不可見、可算不可泄”，通過內(nèi)容治理從“大而全”走向“準(zhǔn)而專、穩(wěn)而可控”實現(xiàn)精準(zhǔn)智能，將治理嵌入內(nèi)容生成的“前、中、后”環(huán)節(jié)。
眾多企業(yè)探索將AI技術(shù)轉(zhuǎn)化為治理利器。騰訊推出“青禾守護(hù)”，通過強(qiáng)化學(xué)習(xí)等方式將大量樣本注入大模型，讓大模型能更好地實現(xiàn)風(fēng)險及時篩查，并構(gòu)建社交與信息流主動防御系統(tǒng)；抖音啟動“智盾計劃”，利用大模型技術(shù)從熱點、異常流量、特定情緒等全局視角研判網(wǎng)絡(luò)暴力風(fēng)險，實現(xiàn)從被動響應(yīng)到主動防御的跨越；百度研發(fā)“清流鑒”產(chǎn)品，依托文心大模型，從多模態(tài)智能檢測、內(nèi)容溯源追蹤、AI+人工協(xié)同驗證3道防線入手，助力公眾識別深度偽造內(nèi)容與網(wǎng)絡(luò)謠言；人民網(wǎng)“天目”智能識別系統(tǒng)，探索“用AI治理AI”的內(nèi)容風(fēng)控新模式，檢測深度偽造內(nèi)容，追蹤合成手段來源。
語料筑基與行業(yè)自律，共同構(gòu)建健康生態(tài)的基石。武漢理工數(shù)字傳播工程有限公司創(chuàng)始人、執(zhí)行總裁施其明強(qiáng)調(diào)，高質(zhì)量專業(yè)語料將決定模型能力的上限，成為國際AI競爭格局的分水嶺和重要變量。他建議，以出版業(yè)為切入口，利用其審核嚴(yán)格、文本完整、體系完善的優(yōu)勢，構(gòu)建自主可控、健康有序的中文AI高質(zhì)量語料供給體系。論壇上，與AI內(nèi)容發(fā)展相關(guān)的52家企業(yè)還集體簽署了《AI生成合成內(nèi)容自律公約》，齊心協(xié)力守底線、促共治。
