發(fā)文機關(guān)國家互聯(lián)網(wǎng)信息辦公室
發(fā)文日期2025年03月14日
時效性現(xiàn)行有效
施行日期2025年03月14日
效力級別部門規(guī)范性文件
近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。日前，國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人就《標識辦法》有關(guān)問題回答了記者提問。
一、 問：請介紹一下《標識辦法》的出臺背景？
答：近年來，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺傳播，在促進經(jīng)濟社會發(fā)展的同時，也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴散加劇等問題，引發(fā)社會各界的關(guān)注關(guān)切。經(jīng)深入開展調(diào)研、廣泛征求意見、多輪技術(shù)論證試點，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標識辦法》，進一步規(guī)范人工智能生成合成內(nèi)容標識活動。
《標識辦法》聚焦人工智能“生成合成內(nèi)容標識”關(guān)鍵點，通過標識提醒用戶辨別虛假信息，明確相關(guān)服務主體的標識責任義務，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為，以合理成本提高安全性，促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應用場景加快落地，同時減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風險行為，推動人工智能健康有序發(fā)展。
二、 問：請問制定《標識辦法》的總體思路是什么？
答：一是細化已有規(guī)定?！痘ヂ?lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》中提出了標識有關(guān)要求，《標識辦法》作為規(guī)范性文件，進一步細化標識的具體實施規(guī)范。二是解決關(guān)鍵問題?！稑俗R辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭打造可信賴的人工智能技術(shù)。三是統(tǒng)籌發(fā)展和安全?？紤]人工智能技術(shù)發(fā)展需要，針對在文本內(nèi)容中添加隱式標識，在多媒體文件中添加數(shù)字水印，仍是技術(shù)難點或可能增加企業(yè)成本，不作強制要求。為降低平臺企業(yè)標識成本，提升落地實施的可操作、可執(zhí)行性，創(chuàng)新提出文本符號標識、音頻節(jié)奏標識、文件元數(shù)據(jù)標識等低成本實施的可行方法。四是管理要求與技術(shù)標準一體化考慮。為推動《標識辦法》落地實施，強制性國家標準《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》同步發(fā)布，更好地指導相關(guān)主體規(guī)范開展標識活動。
三、 問：《標識辦法》適用范圍是什么？
答：《標識辦法》規(guī)定，符合《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》規(guī)定情形的網(wǎng)絡(luò)信息服務提供者開展人工智能生成合成內(nèi)容標識活動，適用本辦法。
同時，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第二條明確“法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定”，《生成式人工智能服務管理暫行辦法》第二條第二款明確“國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定”?！稑俗R辦法》同樣遵照上述適用條款，開展特定活動對內(nèi)容標識另有規(guī)定的，從其規(guī)定。
四、 問：請說明一下《標識辦法》與強制性國家標準《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》的關(guān)系？
答：《標識辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責任義務，為促進人工智能技術(shù)創(chuàng)新發(fā)展，對具體實施操作不做要求?！毒W(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》以強制性國家標準形式制定實施，主要提出強制執(zhí)行部分的標識具體實施方式和操作方法，兩者同步推出，于2025年9月1日同步實施，以更好地指導相關(guān)主體規(guī)范開展標識活動。
五、 問：強制性國家標準《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標識方法》的主要內(nèi)容？
答：標準支撐《標識辦法》，對人工智能生成合成內(nèi)容服務提供者與網(wǎng)絡(luò)信息傳播服務提供者提出了內(nèi)容標識方法的具體要求。一是明確人工智能生成合成內(nèi)容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內(nèi)容，添加文字、角標、語音、節(jié)奏等顯式標識的方法，在內(nèi)容生成合成環(huán)節(jié)提出了顯著提示公眾、防范混淆誤認的方案。二是明確服務提供者在文件中添加元數(shù)據(jù)隱式標識的方法，為內(nèi)容傳播服務提供者有效識別生成合成內(nèi)容提供便捷方案，也為內(nèi)容傳播服務提供者履行向公眾提醒提示主體責任提供了依據(jù)。三是在元數(shù)據(jù)隱式標識設(shè)置了預留字段，可用于記錄標識完整性、內(nèi)容一致性等安全防護信息，為促進標識技術(shù)創(chuàng)新發(fā)展和保護標識安全性預留了空間。
六、 問：《標識辦法》明確了服務提供者哪些具體要求？
答：《標識辦法》明確服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標識，在提供生成合成內(nèi)容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識；應當在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，隱式標識包含生成合成內(nèi)容屬性信息、服務提供者名稱或者編碼、內(nèi)容編號等制作要素信息；應當在用戶服務協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關(guān)的標識管理要求。
七、 問：《標識辦法》明確互聯(lián)網(wǎng)應用程序分發(fā)平臺應當采取哪些措施規(guī)范人工智能生成合成服務？
答：《標識辦法》第七條明確，互聯(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或者上線審核時，應當要求互聯(lián)網(wǎng)應用程序服務提供者說明是否提供人工智能生成合成服務，并核驗其生成合成內(nèi)容標識相關(guān)材料。
八、 問：如何合規(guī)獲得沒有添加顯式標識的生成合成內(nèi)容？
答：前期，國家互聯(lián)網(wǎng)信息辦公室出臺的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十七條針對“可能導致公眾混淆或者誤認的”深度合成服務情形提出顯著標識要求。在此基礎(chǔ)上，《標識辦法》第四條進一步明確了針對文本、音頻、圖片、視頻、虛擬擬真等具體場景的顯式標識要求，確保生成合成內(nèi)容在面向公眾時具有滿足要求的顯式標識。
此外，充分考慮生成合成內(nèi)容在實際場景中的落地應用，積極回應社會關(guān)切和產(chǎn)業(yè)需要，《標識辦法》第九條提出，在用戶主動要求提供未添加顯式標識內(nèi)容時，網(wǎng)站平臺在不違反相關(guān)法律法規(guī)要求前提下，可通過在用戶協(xié)議中明確責任義務并依法留存相關(guān)日志信息后，面向用戶予以提供。同時，用戶在后續(xù)使用過程中，需遵守《標識辦法》第十條等相關(guān)要求，主動聲明生成合成情況并添加顯式標識后，方可面向公眾發(fā)布和傳播。
九、 問：《標識辦法》對規(guī)范開展標識行為明確了哪些具體要求？
答：《標識辦法》第十條明確任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權(quán)益。
十、 問：關(guān)于《標識辦法》和配套強制性國家標準的正式施行時間的考慮？
答：堅持循序漸進的治理原則，考慮到企業(yè)需要時間充分理解相關(guān)規(guī)定和標準規(guī)范，針對性地開展能力建設(shè)和功能研發(fā)，基于標識技術(shù)實施的復雜程度、試點試行的實踐經(jīng)驗，設(shè)定《標識辦法》和配套強制性國家標準6個月左右的施行過渡期。
