摘  要:生成式人工智能具有高度擬真性、規(guī)?；?、語境適應(yīng)性、交互代理等特質(zhì)，可對網(wǎng)絡(luò)信息生產(chǎn)、流通與聚合機制產(chǎn)生深刻影響。這一技術(shù)變革，既給網(wǎng)絡(luò)生態(tài)治理帶來新考驗、新課題，也為提升治理效能、壯大主流輿論、優(yōu)化內(nèi)容生態(tài)提供新的技術(shù)支撐。應(yīng)對其給現(xiàn)有輿論生態(tài)治理框架帶來的機遇和挑戰(zhàn)，需從技術(shù)、制度、素養(yǎng)等維度協(xié)同發(fā)力，夯實網(wǎng)絡(luò)空間的信用基礎(chǔ)，推動網(wǎng)絡(luò)生態(tài)治理范式轉(zhuǎn)型。

關(guān)鍵詞:生成式人工智能  網(wǎng)絡(luò)生態(tài)治理  治理范式  協(xié)同治理

【中圖分類號】G206                       【文獻標識碼】A

隨著生成式人工智能技術(shù)的快速發(fā)展，網(wǎng)絡(luò)內(nèi)容的生產(chǎn)方式與傳播格局正經(jīng)歷深刻變革。當海量虛實難辨的信息涌入輿論場，網(wǎng)絡(luò)輿論所反映的民意就需要審慎研判；當文字、圖像、聲音、視頻均可由算法生成，“公眾意見”的內(nèi)涵也在經(jīng)歷深刻變化。而這些變化，關(guān)乎網(wǎng)絡(luò)空間能否真正成為思想引領(lǐng)、道德培育、文化傳承的重要陣地。習(xí)近平總書記指出：“網(wǎng)絡(luò)生態(tài)治理是網(wǎng)絡(luò)強國建設(shè)的重要任務(wù)，事關(guān)國家發(fā)展和安全，事關(guān)人民群眾切身利益。”[1]如何構(gòu)建與新技術(shù)發(fā)展相適應(yīng)的網(wǎng)絡(luò)治理體系，持續(xù)優(yōu)化網(wǎng)絡(luò)生態(tài)，已成為我們必須回答的時代課題。

生成式人工智能的技術(shù)特質(zhì)及其對網(wǎng)絡(luò)生態(tài)的重構(gòu)

生成式人工智能對網(wǎng)絡(luò)生態(tài)的影響源于其獨特的技術(shù)特質(zhì)，主要體現(xiàn)在四個方面。一是高度擬真性。大語言模型對人類語言風(fēng)格、情感表達和論證邏輯的深度模仿，使其輸出在表面上難以與人類創(chuàng)作相區(qū)分。二是規(guī)?；赡芰?。內(nèi)容生產(chǎn)的邊際成本趨近于零，單一主體能夠在短時間內(nèi)生成海量差異化內(nèi)容，生成式人工智能使“意見”生產(chǎn)不再受制于人類表達的時間與精力限制。三是語境適應(yīng)性。模型可以根據(jù)指令調(diào)整輸出風(fēng)格、立場和受眾定位，精準針對特定群體，實現(xiàn)“千人千面”的定制化內(nèi)容生成。四是交互代理能力。人工智能不僅能夠生成靜態(tài)內(nèi)容，還能作為“對話者”持續(xù)參與輿論互動，模糊內(nèi)容生產(chǎn)與參與傳播之間的邊界。

將人工智能時代與此前的不同媒介時代相比較，可以更清晰地看到媒介生態(tài)的深刻變遷。在大眾媒體時代，信息環(huán)境主要由專業(yè)新聞機構(gòu)建構(gòu)，內(nèi)容生產(chǎn)具有明確的主體責任，信息來源可追溯、可問責。進入社交媒體時代，專業(yè)機構(gòu)的信息壟斷被打破，用戶生成內(nèi)容成為主流，但內(nèi)容仍然源于真實的人類表達。人工智能時代，信息環(huán)境則發(fā)生質(zhì)變，內(nèi)容不再僅僅被選擇性呈現(xiàn)，而是可以被大規(guī)模合成創(chuàng)造；信息環(huán)境的“原材料”本身就可能是機器生產(chǎn)的；創(chuàng)作主體從人類擴展到人機混合甚至純機器，“作者”這一概念的邊界變得模糊。生成式人工智能技術(shù)若被不當使用，可能使輿論環(huán)境從“對現(xiàn)實的選擇性呈現(xiàn)”演變?yōu)?ldquo;對現(xiàn)實的合成性替代”。這將對網(wǎng)絡(luò)生態(tài)治理構(gòu)成嚴峻挑戰(zhàn)，我們需系統(tǒng)審視其中薄弱環(huán)節(jié)，通過制度完善、技術(shù)治理與多方協(xié)同，切實筑牢治理屏障，推動形成清朗有序、向上向好的網(wǎng)絡(luò)生態(tài)。

人工智能時代網(wǎng)絡(luò)生態(tài)可能面臨的系統(tǒng)性風(fēng)險

生成式人工智能的規(guī)?；赡芰?，若缺乏有效規(guī)制，可能給網(wǎng)絡(luò)生態(tài)帶來系統(tǒng)性風(fēng)險。

主流價值影響力被稀釋。海量合成內(nèi)容會導(dǎo)致單位信息的價值被稀釋。在此情形下，真實的民意表達被淹沒在合成信息的“噪聲”中，導(dǎo)致公眾難以辨識有效信息，有限的公共注意力被大量低質(zhì)內(nèi)容消耗，使嚴肅議題難以得到充分討論。同時，由于“量”已不能反映真實民意的“質(zhì)”，傳統(tǒng)基于數(shù)量統(tǒng)計的輿情分析方法面臨失效風(fēng)險。長期接觸由特定大語言模型構(gòu)建的信息環(huán)境，會使公眾的價值觀念受到持續(xù)影響，更容易接受其中隱含的立場或觀念，進而可能對主流價值認同和社會治理效能產(chǎn)生潛在影響。[2]

公共話語生態(tài)受到?jīng)_擊。低成本、規(guī)?；娜斯ぶ悄苌蓛?nèi)容在注意力競爭中占據(jù)優(yōu)勢，而需要投入時間與精力的深度思考則面臨被邊緣化的風(fēng)險。隨著“發(fā)聲”門檻降低，理性參與者逐步離場，致使公共討論呈現(xiàn)出從實質(zhì)性觀點交鋒，滑向形式化符號堆砌的趨勢。此外，專業(yè)人士基于審慎判斷的見解，也往往會被海量看似專業(yè)、實則似是而非的人工智能“分析”所淹沒。

社會信任基礎(chǔ)面臨考驗。從信任利用角度看，生成式人工智能能夠模仿熟人語氣、冒充權(quán)威機構(gòu)、制造看似專業(yè)的論述，系統(tǒng)性利用社會信任網(wǎng)絡(luò)。然而，一旦這種利用被識別，又容易導(dǎo)致信任的全面退潮。從證據(jù)環(huán)境角度看，深度合成技術(shù)使圖片、視頻、音頻等傳統(tǒng)“證據(jù)”都可能被偽造，“以證據(jù)論事”的認知框架隨之受到挑戰(zhàn)，公共討論可能陷入“無限舉證”的困境。更值得關(guān)注的是，生成式人工智能在一定程度上突破了傳統(tǒng)輿論操縱的約束條件，既能實現(xiàn)百萬量級的規(guī)模傳播，又能進行個性化精準定制，這種技術(shù)能力是此前傳播手段所不具備的。

生成式人工智能給現(xiàn)有輿論生態(tài)治理框架帶來的機遇和挑戰(zhàn)

當前，人工智能、大數(shù)據(jù)等新技術(shù)新應(yīng)用不斷涌現(xiàn)，給網(wǎng)絡(luò)生態(tài)治理帶來挑戰(zhàn)，也提供新的支持條件。[3]就機遇而言，生成式人工智能為網(wǎng)絡(luò)生態(tài)重構(gòu)和治理范式重塑提供新的技術(shù)支撐。在賦能主流內(nèi)容生產(chǎn)、壯大網(wǎng)絡(luò)正能量方面，生成式人工智能可以大幅提升優(yōu)質(zhì)內(nèi)容的生產(chǎn)效率，輔助主流媒體創(chuàng)作有內(nèi)涵、有溫度、有影響且符合新媒體傳播規(guī)律的作品，將主流價值內(nèi)容轉(zhuǎn)化為適合不同受眾的多樣化表達形式，實現(xiàn)分眾化、精準化傳播。與此同時，相關(guān)技術(shù)能夠顯著提升輿情感知的精準性與時效性。生成式人工智能憑借其強大的自然語言理解能力，能夠?qū)崟r分析輿情的情感、路徑與趨勢，精準把握輿論氣候，并輔助識別虛假及深度偽造信息，為事實核查提供技術(shù)支撐。在網(wǎng)絡(luò)空間治理方面，生成式人工智能可以為網(wǎng)絡(luò)平臺的內(nèi)容審核提供智能輔助，在海量信息中快速識別違規(guī)內(nèi)容；在網(wǎng)絡(luò)政務(wù)服務(wù)中，驅(qū)動智能問答系統(tǒng)全天候響應(yīng)群眾咨詢；在網(wǎng)絡(luò)安全防護中，實時監(jiān)測異常行為。在支撐國際傳播能力建設(shè)方面，借助大模型多語言生成能力，可以將中國聲音高效轉(zhuǎn)化為多語種內(nèi)容，突破語言傳播壁壘，并幫助分析不同文化背景受眾的信息偏好，實現(xiàn)更精準的跨文化傳播。

就挑戰(zhàn)方面而言，生成式人工智能的廣泛應(yīng)用，給現(xiàn)有治理框架帶來一些有待解決的新課題。在感知層面，傳統(tǒng)輿情監(jiān)測主要依賴關(guān)鍵詞識別、情感分析和傳播網(wǎng)絡(luò)追蹤，這些方法難以有效區(qū)分內(nèi)容真實來源，容易導(dǎo)致對輿論態(tài)勢的誤判。在歸責層面，當人工智能生成能力擴展到廣大用戶層面時，責任鏈條在“模型開發(fā)者—部署者—使用者—分發(fā)平臺”之間變得分散，難以明確界定追責主體。在時效層面，人工審核與事實核查的速度往往落后于人工智能生成與傳播的速度，形成結(jié)構(gòu)性“時滯”。更深層的問題在于網(wǎng)絡(luò)輿論出現(xiàn)的“異化”現(xiàn)象。人工智能生成的“意見”脫離人類主體的真實意圖，成為一種無主體的符號存在；輿論渠道可能被用于影響甚至操縱公眾；表面的“公眾意見”可能與真實民意存在脫節(jié)。這種“異化”不僅降低公眾參與公共討論的積極性，也使“什么都可能是假的”成為一種較為普遍的心態(tài)，進而對社會公共生活的信任基礎(chǔ)產(chǎn)生一定影響。

網(wǎng)絡(luò)生態(tài)治理的范式轉(zhuǎn)型勢在必行

將人工智能時代網(wǎng)絡(luò)空間的輿論風(fēng)險類比為“信用危機”，治理的目標就不能局限于管理具體內(nèi)容，更重要的是夯實網(wǎng)絡(luò)空間的“信用基礎(chǔ)”。為此，需從以下幾個方面入手實現(xiàn)范式轉(zhuǎn)型。

在技術(shù)層面，建設(shè)網(wǎng)絡(luò)空間的“信用基礎(chǔ)設(shè)施”，從“事后監(jiān)管”轉(zhuǎn)向“事前與事中嵌入”，提升網(wǎng)絡(luò)生態(tài)治理的前瞻性和精準性。建立內(nèi)容溯源機制，推動人工智能生成內(nèi)容的數(shù)字水印、元數(shù)據(jù)標注等技術(shù)標準化，使內(nèi)容來源可追溯、可驗證。加強檢測能力建設(shè)，發(fā)展深度合成內(nèi)容的檢測技術(shù)，建立人工智能生成內(nèi)容的特征數(shù)據(jù)庫，支持跨平臺協(xié)同識別。推動負責任人工智能的設(shè)計嵌入，在基礎(chǔ)模型訓(xùn)練與對齊階段植入防止濫用的技術(shù)約束，推動“可信人工智能”原則落地。[4]

在制度層面，從“集中式管控”轉(zhuǎn)向“分布式協(xié)同治理”，提升網(wǎng)絡(luò)生態(tài)治理的系統(tǒng)性和協(xié)同性。必須堅持黨管媒體原則不動搖，加強對網(wǎng)絡(luò)平臺、自媒體及多頻道網(wǎng)絡(luò)機構(gòu)等的引導(dǎo)，推動其切實履行社會責任，主動傳播正能量。在責任框架設(shè)計上，應(yīng)依據(jù)主體角色明確分層責任：基礎(chǔ)模型提供者須承擔防范能力濫用的主體責任，服務(wù)部署者應(yīng)落實具體場景下的風(fēng)險管理責任，內(nèi)容分發(fā)平臺則需履行傳播環(huán)節(jié)的內(nèi)容把關(guān)責任。通過政策引導(dǎo)、許可管理等多種方式，促進行政監(jiān)管與行業(yè)自律有效銜接，統(tǒng)籌推進網(wǎng)絡(luò)領(lǐng)域立法、執(zhí)法、司法與普法各項工作，形成治理合力。

在素養(yǎng)層面，強化公眾對網(wǎng)絡(luò)信息的認知判斷能力，提升網(wǎng)絡(luò)生態(tài)治理的持久性。引導(dǎo)公眾理解生成式人工智能的能力邊界與風(fēng)險特征，培養(yǎng)公眾對信息來源的批判性審視習(xí)慣。同時，培育公眾建立基于來源評估與交叉驗證的判斷習(xí)慣，既不輕信一切信息，也不陷入虛無主義。更為關(guān)鍵的是，主流媒體需發(fā)揮網(wǎng)絡(luò)優(yōu)質(zhì)內(nèi)容供給的示范引領(lǐng)作用，在眾聲喧嘩中建立可信賴的“定海神針”，深化黨的創(chuàng)新理論網(wǎng)上宣傳，大力弘揚社會主義核心價值觀，推出多有內(nèi)涵、有溫度、有影響的網(wǎng)絡(luò)作品，為公眾正確感知輿論氣候提供權(quán)威參照系。 

在國際合作層面，推動建構(gòu)網(wǎng)絡(luò)空間命運共同體，提升網(wǎng)絡(luò)空間治理的國際話語權(quán)。習(xí)近平總書記強調(diào)：“網(wǎng)絡(luò)生態(tài)治理是世界各國面臨的共同課題。”[5]當前，面對生成式人工智能等新技術(shù)帶來的全球性挑戰(zhàn)，加強國際協(xié)作顯得尤為重要與緊迫。我們應(yīng)秉持共商共建共享的全球治理觀，主動參與并引領(lǐng)人工智能治理、數(shù)據(jù)安全、數(shù)字倫理等新興領(lǐng)域的國際規(guī)則與標準制定，以網(wǎng)絡(luò)空間命運共同體理念凝聚全球共識。同時，加強國際傳播網(wǎng)絡(luò)平臺和能力建設(shè)，積極運用人工智能等新技術(shù)賦能國際傳播全鏈條，通過更精準、更生動、更具文化穿透力的內(nèi)容生產(chǎn)和傳播，向世界展現(xiàn)可信、可愛、可敬的中國形象。

【本文作者為山東大學(xué)輿論研究中心主任，山東大學(xué)新聞傳播學(xué)院教授、博導(dǎo)；本文系國家社科基金一般項目“社會時空視角下媒體深度融合的發(fā)展策略與理論路徑研究”（項目編號：21BXW003）的階段性成果；山東大學(xué)新聞傳播學(xué)院博士研究生吳元浩，對本文亦有貢獻】

注釋略

責編：馮一帆／美編：石 玉