從創(chuàng)意領域的自動化文本生成、多模態(tài)內容創(chuàng)作，到醫(yī)藥領域的影像輔助診斷與藥品開發(fā)預測，再到AI賦能的個性化教育、規(guī)模化農業(yè)生產等，生成式人工智能正全面融入經濟社會的肌理骨骼，推動數字社會生產力躍升。然而，技術紅利往往同風險挑戰(zhàn)如影隨形。生成式人工智能系統性動搖了社會信任的“視覺真實”基礎：當AI能夠以假亂真地炮制具有嚴密邏輯的網絡謠言，“數字復活”已故名人進行商業(yè)推廣，利用合成影像實施金融詐騙時，圖像和視頻不再可信，“眼見為實”的既定認知正遭受前所未有的沖擊，更從根本上侵蝕社會交往的信任基石。

面對人工智能帶來的機遇與挑戰(zhàn)，習近平總書記強調，“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關法律法規(guī)、政策制度、應用規(guī)范、倫理準則，構建技術監(jiān)測、風險預警、應急響應體系，確保人工智能安全、可靠、可控”。在這一治理思路引導下，從2023年1月《互聯網信息服務深度合成管理規(guī)定》的實施，到同年7月《生成式人工智能服務管理暫行辦法》的發(fā)布，再到2025年9月1日《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）及配套強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標準》）的正式生效，兩年時間內，我國迅速構建起覆蓋合成技術、生成服務與內容標識，容納原則、規(guī)則與標準的多層次治理體系。作為生成式人工智能治理的最新一環(huán)，《標識辦法》與《標識標準》為AI生成內容設置全覆蓋的“身份認證”標識，以技術性規(guī)范重新錨定圖像真實，一方面為公眾提供辨別依據，重塑數字信任；另一方面也為安全監(jiān)管與合規(guī)應用劃定底線邊界。真正以標識之“規(guī)”，筑起生成式人工智能可信、可控、可持續(xù)的發(fā)展之“道”。

一、守護公眾信任：從“眼見為實”到“標識為準”

生成式人工智能技術重塑信息生產與傳播機制同時，也以高度仿真性模糊真實與虛假的邊界，其最大的挑戰(zhàn)在于，傳統以視覺感官經驗為基礎的信息真?zhèn)伪鎰e機制失效，并由此引發(fā)真實性信任危機?！稑俗R辦法》及其配套《標識標準》的出臺，不僅是防范技術濫用的重要制度回應，更是構建數字時代新型可信傳播機制的關鍵探索。其深遠意義在于，在“眼見為實”的主觀信任機制失效當下，以生成標識的客觀技術標準取代主觀判斷，并塑造人機協作內容生產的信任范式。

《標識辦法》及其配套《標識標準》設定若干關鍵機制，一是強制性的生成內容標識義務要求；二是詳細規(guī)范標識應包含的內容要素、呈現方式、機器可識別格式等技術細節(jié)。通過構建標準化、可驗證的技術披露機制，實質確立人機協同內容生產的倫理底線，有助于從源頭上為公眾提供辨識真?zhèn)蔚囊罁?，并幫助逐步建立“標識為準”的新信任認知。技術透明有助于保護消費者知情權和選擇權，也能督促技術提供方和內容生產者履行社會責任，促進人工智能技術在信任框架內健康發(fā)展。

從更深層次看，內容標識也為一般網絡用戶構筑重要的“認知底線”，防范用戶對AI技術的過度依賴。諸多研究已初步揭示，長期依賴人工智能生成的內容可能使人類面臨創(chuàng)造表達能力退化和情感鈍化風險。通過強制性的內容標識特別是顯性標識，用戶得以清晰區(qū)分人類原創(chuàng)內容與人工智能生成內容，幫助其在信息消費中做到從被動接受到理性辨識判斷，避免被誤導欺騙，抵御能力退化風險。

二、引領產業(yè)發(fā)展：從“野蠻生長”到“負責任創(chuàng)新”

生成式人工智能技術浪潮爆發(fā)以來，產業(yè)界經歷一段“野蠻生長”時期，因技術標準缺失與監(jiān)管框架滯后，市場上出現的生成服務質量參差不齊、應用邊界模糊，深度合成技術濫用問題突出、AI生成虛假信息事件頻發(fā)，不僅損害了個體用戶權益，威脅社會公共秩序，也阻礙了產業(yè)的健康發(fā)展。對于產業(yè)界而言，《標識辦法》及《標識標準》適時出臺，為產業(yè)從無序擴張轉向有序發(fā)展劃定關鍵的制度邊界與合法軌道。

《標識辦法》圍繞生成合成內容生產、分發(fā)與傳播的全產業(yè)鏈條，為生成合成服務提供者、信息內容傳播服務提供者與互聯網應用程序分發(fā)平臺設定相應的標識添加、核驗與審核義務。這些義務設置短期看雖會為企業(yè)帶來一定的合規(guī)成本，但從長遠看，制度化的義務安排有助于降低技術濫用引發(fā)的負外部效應，一方面提升用戶對生成內容消費的接受度與信任度，另一方面維持并擴大市場的可持續(xù)規(guī)模，為產業(yè)良性發(fā)展奠定基礎。從全球視角看，依托標識技術實現人工智能生成內容治理已成為國際監(jiān)管與行業(yè)界共識，在此情況下，我國率先推出人工智能生成合成內容標識的強制性國家標準，不僅推動企業(yè)切實履行標識義務、降低跨境合規(guī)風險，更顯著增強了中國企業(yè)在全球人工智能市場競爭中的軟實力，為促進國際標準互認與合作提供了“中國方案”。

更為重要的是，《標識辦法》及配套標準以強制性的規(guī)范效力，提示并推動行業(yè)邁向“負責任創(chuàng)新”的成熟新階段。在標識義務約束下，企業(yè)須從單一追求技術突破，轉向兼顧商業(yè)利益與社會責任，將倫理和法律考量深度融入技術開發(fā)、產品設計與應用傳播的全流程。這意味著產業(yè)生態(tài)的深層重構——企業(yè)的核心競爭力不再僅僅體現在模型規(guī)?；蛏赡芰ι?，而是越來越多地體現在技術的可控性、內容的安全性、應用的可持續(xù)性等社會維度。同時，標識標準建設也將促使產業(yè)鏈上下游企業(yè)加強協作，共同構建包含內容標識、質量評估、風險監(jiān)測、用戶反饋在內的完整技術體系與治理生態(tài)，避免技術孤島和惡性競爭。

三、凈化網絡生態(tài)：協同共治的標識實踐

從更為系統、宏觀的網絡信息內容生態(tài)治理而言，《標識辦法》與《標識標準》的實施，是構建多元協同、健康清朗網絡生態(tài)的關鍵舉措?；趦热輼俗R的技術與制度實踐，有助于建立政府、企業(yè)與用戶間的良性協同互動機制。

傳統治理模式下，政府承擔絕大多數監(jiān)管責任，企業(yè)被動合規(guī)，用戶則處于信息接收的末端，治理效率有限且難以適應人工智能生成合成內容海量化、隱匿化的新特征?！稑俗R辦法》以內容標識為紐帶，為政府、企業(yè)、用戶三大主體構建了協同互動的制度基礎。標識制度通過打通信息黑箱，明確各方角色與義務，為各方參與治理提供共同的信息基礎與責任共擔機制。政府可根據統一標識更加精準地識別和監(jiān)管AI生成內容，提升治理效能；企業(yè)從被動執(zhí)行轉向主動履責，通過標識技術和管理創(chuàng)新承擔主體責任；用戶則借助內容標識增強辨別能力，并通過用戶反饋與舉報機制參與社會監(jiān)督。在透明、共享的基礎上構建起了多元協同的治理新架構。

同時，內容標識也為信息質量提升與網絡生態(tài)自凈提供內在動力。在行為引導層面，內容標識作為生態(tài)自我識別、自我糾正的“催化劑”，賦予用戶更強的內容辨識能力和選擇主動權，以透明理性的信息內容選擇形成內容生產的市場正向反饋；也為平臺建立更加精細化的內容管理體系提供了技術支撐，促使平臺基于標識信息和用戶反饋，不斷優(yōu)化內容推薦策略，實施差異化治理。而在內容生產層面，內容標識要求促使內容生產者、提供者更注重信息內容的真實性、準確性，其統一規(guī)范要求也將促成行業(yè)標準與自律規(guī)范的形成，引導信息生產與供給向著更為安全、可信、可控方向發(fā)展。

四、展望未來：人機協同信息生產的信任基礎

伴隨人工智能生成合成內容標識制度的全面落地，我國在生成式人工智能治理領域邁出了系統性、前瞻性的一步?！稑俗R辦法》與《標識標準》的實施，不僅是對當前技術濫用問題的響應，更是面向人機協同信息生產新范式所構建的信任基礎。

展望未來，標識制度需與國際治理體系接軌。生成式人工智能的內容傳播跨越國界，標識標準的互認與協同已成為全球人工智能治理的當前焦點。借此國內標識規(guī)范統一建設的契機，我國應積極推動標識標準的國際化，促進內容標識國際合作框架的構建。這不僅有助于中國企業(yè)“走出去”，也能在國際規(guī)則制定中注入中國智慧。

標識制度實踐亦應成為人機協同社會中公眾素養(yǎng)提升的契機。未來教育體系應加強媒介素養(yǎng)與人工智能通識教育，使公眾不僅能夠“識標識”，更能夠“懂標識”“用標識”，形成理性判斷與技術使用的能力。只有當公眾具備對AI生成內容的批判性認知，標識才能真正發(fā)揮其信任錨點的作用。

人工智能的發(fā)展不僅是技術問題，更是社會命題，人工智能的發(fā)展也需要經歷復雜的“社會適配”過程。中國生成式人工智能治理體系建設，為國際社會應對人工智能治理挑戰(zhàn)提供寶貴的制度范本與中國經驗。唯有在技術規(guī)范、法律底線與倫理共識的共同支撐下，才能構建起真正可持續(xù)、可信賴的人機協同未來。

作者：梁 正 清華大學公共管理學院教授，人工智能國際治理研究院副院長