近期計劃外出旅游的小張，習慣性地打開某AI（人工智能）平臺“詢問”攻略。與以往一樣，兩三秒后，答案迅速生成，但略微不同的是，文本結尾處多了一句話：“由AI大模型生成，內容僅供參考，請仔細甄別。”

生成式人工智能、深度合成等新技術的快速發展，為生成合成文本、圖片、音頻和視頻等信息提供了便利工具，在促進經濟發展、豐富網上內容、便利公眾生活的同時，也造成虛假信息傳播和破壞網絡生態等問題。因此，社會廣泛呼吁加快專門立法，強化技術監管，壓實平臺責任。

近日，國家互聯網信息辦公室、工信部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。《標識辦法》以內容標識為抓手，細化前期相關部門規章的標識相關要求，進一步發揮內容標識提醒提示和監督溯源的技術作用，著力構建開放、公正、有效的治理機制。

國家網信辦有關負責人表示，《標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理，力爭打造可信賴的人工智能技術。

區分規定生成合成內容中應添加的“顯式標識”和“隱式標識”，是《標識辦法》的另一大特色。其中，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音和圖形等方式呈現并可以被用戶明顯感知到的標識；隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

針對服務提供者，《標識辦法》明確，應當對文本、音頻、圖片、視頻和虛擬場景等生成合成內容添加顯式標識，在提供生成合成內容下載、復制和導出等功能時，應當確保文件中含有滿足要求的顯式標識；應當在生成合成內容的文件元數據中添加隱式標識。

針對互聯網應用程序分發平臺，《標識辦法》提出，在應用程序上架或者上線審核時，應當要求互聯網應用程序服務提供者說明是否提供人工智能生成合成服務，并核驗其生成合成內容標識相關材料。

針對用戶，《標識辦法》要求，使用網絡信息內容傳播服務發布生成合成內容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。

此外，任何組織和個人不得惡意刪除、篡改、偽造和隱匿《標識辦法》規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

專家表示，《標識辦法》是我國推進人工智能領域安全治理、促進產業規范健康發展和引導技術向善的重要舉措，標志著我國在生成式人工智能領域邁出了構建安全可信生態的關鍵一步。

“此前出臺的《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》提出了標識有關要求，《標識辦法》進一步細化了標識的具體實施規范。”北京航空航天大學法學院副教授趙精武說。

一方面，清晰的內容標識有助于提升信息透明度，增強用戶的知情權和選擇權，培養公眾對人工智能技術的理性認知。另一方面，對于服務提供者及傳播平臺而言，內容標識制度既是責任更是機遇，在鼓勵企業追求技術能力提升的同時，也將提升對產品社會影響的關注度，推動整個行業向更加規范、健康的方向發展。

良法善治，重在實施。“伴隨標識管理與算法備案、安全評估等機制逐步實現有機銜接，生成合成內容標識合規或將成為相關部門開展人工智能監督檢查、專項行動的重點關注領域。”公安部第三研究所副所長金波指出，“如何平衡好發展與安全、創新與責任，提升執法的專業化、精細化、智慧化水平，從而培育出安全、開放、公平的人工智能產業生態環境，還需要深入探究。”

配套《標識辦法》，強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識方法》），已由國家市場監督管理總局、國家標準化管理委員會正式批準發布，2025年9月1日與《標識辦法》同步實施。

對此，國家計算機網絡應急技術處理協調中心正高級工程師張震介紹，作為配套的《標識方法》明確了元數據隱式標識的字段要素，在盡量不影響元數據處理和傳輸的前提下，嵌入必要字段，記錄生成合成內容的關鍵信息和關鍵環節，確保內容在流轉過程中始終可追溯。（夏小禾）