中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成式人工智能技术快速发(fā)展，利用人工智能技术生(shēng)成(chéng)或合成文字、图像、音乐、视频、3D等数(shù)字内容成为网络空间内容的主要生产方式，不断为数字经济、产业发展甚至社会变革注入强大动力。然而，伴随内(nèi)容生成合成门槛的(de)不(bù)断降低，新技术的滥用也对网络空间治理提出了更大挑战。当前，中美欧(ōu)等均探索将(jiāng)内容披露和标(biāo)识义务入法，国内外多家互联(lián)网公司也逐步推进标识嵌入和管理举措，内容标识已然成为全球打击虚假有害信息(xī)的通(tōng)行做法。为顺应这一(yī)实(shí)践趋势和产业需求，国家互联网信息办公室等部门适时发布《人工智能生成合成内容标识办法》（下称《办法》）及配套(tào)国(guó)家标准《网络安(ān)全技术人工智能生成合成内容标识方法》（下(xià)称《标(biāo)识方法》），全方位、多层次(cì)地规范人工智能(néng)内容标识要求和方法，迈(mài)出(chū)了完善我国人工智(zhì)能治理制度的重要一步。

一、问题(tí)导向，破解人工智(zhì)能生成合成内容新需求(qiú)新(xīn)风险(xiǎn)

立足于生成式人工智能健康发展和规(guī)范应(yīng)用，《办法》以(yǐ)问题为导向，通过系统性、创新性制度设(shè)计(jì)，全面回(huí)应了对人工智(zhì)能生成合成内容(róng)标识的要求(qiú)。

一是先行提出生成合成内容标识的中国方案(àn)。针(zhēn)对人工智能内容生成合成带来的颠(diān)覆性(xìng)风(fēng)险(xiǎn)挑战，国际层面也(yě)在不(bù)断探索内容标识方法和路径。欧盟(méng)2024年8月正式生效的《人工(gōng)智(zhì)能法案》规定了要确保人(rén)工智(zhì)能生成合成内容的透明度义(yì)务，要求平(píng)台添加强(qiáng)制性水印。美国加州2024年8月发布《数字内容溯源标识法案》，要求在人工智(zhì)能生成物中嵌入(rù)可溯(sù)源数据，以确保内容来源的透明度。国际电信联盟2024年7月发(fā)布《检测深度伪造(zào)和生成式人工(gōng)智能：人工智能水印和多(duō)媒体真(zhēn)实(shí)性标(biāo)准研讨会的报告》，包括内容标识在内(nèi)，初步探讨了深度合成内容检测的标准协作安排。《办法》根植于我国发展(zhǎn)实践，立足长远(yuǎn)、着眼前瞻、行动快速，率先通(tōng)过(guò)标准完善补充(chōng)生成(chéng)式人工智能综合治理(lǐ)机制，有力支撑了科技向善的治理理念，为世界贡献发展与安(ān)全并(bìng)行的人工智能治理中国方案(àn)。

二是着力加强服务商生(shēng)成(chéng)合成内容标(biāo)识(shí)的规范性。随着人(rén)工智能生成合成内容工具的普(pǔ)及化和可及化发展，技术应用的门槛较之前大(dà)大降低。早在2022年中央网信办等就发布了《互联网信息(xī)服务深度合(hé)成管(guǎn)理规定》（以下简称《规定》），明确指出深度合成服务提供者应(yīng)当在生(shēng)成或(huò)者编辑的信息内容(róng)的合理位置、区(qū)域进行显著(zhù)标识，向公众提(tí)示深度合成情况。但《规(guī)定》主要(yào)明确了需要(yào)添加标识的情况，对于添(tiān)加标识的位置、字型和(hé)表达并(bìng)未做出具体要(yào)求，因(yīn)此各类企业在实施过程中出现了(le)文本内容显式标识不明显、难察觉，音频、视频(pín)等内容显(xiǎn)式标识未插入、浅提示，隐式标识少信息、难校验等(děng)问题，对于落实监(jiān)管提出了挑战。出台《办法》，是进一步推进(jìn)生成(chéng)合(hé)成(chéng)内容标识工作的必要举措，对规范互联网信息服务深度合成管理(lǐ)、解决生成合成内容标识突出问(wèn)题、推进(jìn)信息网络生态(tài)环境治理意义重大，影响深远。

三是进一步完善生成式人工智能监管问责体系。生成式人工智能生成合成(chéng)内容涉及多种类(lèi)型(xíng)的主体，清晰界定各主体义务更有利于压实主体责任，便利技术检测实施，进而落实精准(zhǔn)问责。《办法》不仅界定了(le)人工智能生成合成内容的(de)基(jī)本概念，更针对(duì)服务提供者、传播平台、应用服务分(fēn)发平台和用户分别规定了具体标(biāo)识要求，为各相关主(zhǔ)体落实合规指明了方向。由此，《办法》就现行责(zé)任(rèn)制度作出补充，充分细化了《规定》提(tí)出(chū)的深度合成服务(wù)提供者和技术支持者行为规范，为促进新技术新应用的规(guī)范(fàn)发展提供了有益范例。

二、明确要求，促进人工智能生成合成内容精(jīng)细化(huà)治理

人工智能生成合成内容不仅包括文(wén)本、图像、音频、视频等多种表(biǎo)现形式，更在(zài)“元宇(yǔ)宙”等交互式、沉浸式(shì)场景(jǐng)中提供了(le)更多实(shí)现(xiàn)方案。《标(biāo)识(shí)方法》对于人工智能生成合成内(nèi)容进(jìn)行了全方位覆盖，并且进(jìn)一步明确了《办法》要求和具体(tǐ)操作指引(yǐn)。

一是区分(fēn)显式标识和隐式标识规范要求(qiú)。为满足(zú)当前可感知和(hé)不可感知的两类(lèi)标识方法需要，《标识(shí)方法》清晰(xī)阐述了各自的关键要素要求，对于(yú)显式标识主要(yào)围(wéi)绕文字要素、位置、字型、颜色、音频节奏、视频(pín)像素和交互提示等提出要求，对(duì)于元数(shù)据和内容隐式(shì)标识提出生成(chéng)合成标签要素(sù)、服务提供者(zhě)要素和内(nèi)容编(biān)号要素等(děng)关键指引(yǐn)。

二是列举显式标识典型(xíng)应(yīng)用场景(jǐng)。《标(biāo)识(shí)方法》通过列举式的(de)方式对于(yú)显式标(biāo)识的应用场(chǎng)景做出了进一步细化，在《规定》中提到的五类显著标识应(yīng)用(yòng)场景(jǐng)之外加以(yǐ)补充，包括文生图片等图片内容生成服务；音(yīn)乐等音频(pín)内容生成服务；文生视频(pín)、图(tú)生视频等视频(pín)内容生成服务。新列举的三类典型应用场景属(shǔ)于2022年后迅速发展起(qǐ)来新型生成合成(chéng)内容形(xíng)式(shì)，尤其是(shì)ChatGPT、Sora展示出视频内容生成的(de)强(qiáng)大潜能。《标(biāo)识方法》囊(náng)括此三类典型应用场景有利于针对(duì)性、前瞻(zhān)性开展监管，符合生成式人工智能的技术原理与产业需要。

三是规范元数据隐(yǐn)式标识(shí)格式要(yào)求(qiú)。此前生成合成内容隐式标(biāo)识方法在不同规模、不同技术水平的企业间应用各不相同，标识的标签信息也未有(yǒu)一致，这就导致识别隐式标中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境识对于监管主体和内(nèi)容平台而(ér)言面临挑战。《标识方法》为解决这一问题，对于隐式(shì)标识扩展(zhǎn)字段关键(jiàn)词和应包括的(de)标签(qiān)、编号、预留字段的值等添加了(le)具体说(shuō)明，为行业统一、稳定、持续落(luò)实隐式标识要求提(tí)供了有效措(cuò)施。

四是展示显式(shì)和隐式标识各要求对应(yīng)示例。《标识方(fāng)法》以图片示例的形式对于各类显(xiǎn)式和隐式(shì)标识要求进行(xíng)了(le)展示，有助于企业直观(guān)了解标准要求，避免因(yīn)文字表述引发(fā)的模糊和歧义，从而推动行业协同落(luò)实，提升治(zhì)理效能。

三、守(shǒu)正创新，兼顾内容生成合成服务管理与技术创新应用

人工(gōng)智能(néng)生成合成技术应在安(ān)全的前提下规范使用、加(jiā)速发展，以高水平的治理保障高质量发展。《办法中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境》及(jí)《标(biāo)识方法》充分考(kǎo)虑“用”和(hé)“管”两侧需(xū)求，最大(dà)限度减少内容标识对于用户使(shǐ)用的影(yǐng)响，推动企业自主自愿展示标识。一是提供(gōng)多种标(biāo)识方法，适应(yīng)更(gèng)多产品形(xíng)态。《标(biāo)识(shí)方法》对于文本内容显(xiǎn)式标识(shí)创新提出角标(biāo)形式，仅需在内容末尾加注(zhù)角标“AI”即可(kě)高效满足要求(qiú)，对于(yú)音(yīn)频内(nèi)容则首次提(tí)出音(yīn)频节奏标识，在音频适当位置加入“短长短短”节奏的摩斯码表示(shì)即可达到提示作用。此类标识方(fāng)法不仅对于企业而言便于打造不同产品样态，也能保障用户使(shǐ)用体验(yàn)和认知效果，在实现监管目的的同时也为技术(shù)发展提供了(le)有效保障。二是划分不同主体责任，精细化避风(fēng)港原则适(shì)用。《办(bàn)法》虽然将标识添加的责任主要施加于服务提供者和上传内容的用(yòng)户，但未(wèi)对传播平台和应用(yòng)分发平台实施“一刀切”式的避风(fēng)港规则。《办法》采取一种更(gèng)为精细化的路径，详(xiáng)细(xì)规定传播平台应当对文件元数据中的扩展字段进行核验，提示用户生成(chéng)合成内容信息，并在文(wén)件元数据(jù)中添加传(chuán)播要素信(xìn)息；应用(yòng)服务分发(fā)平台应在应用程序上架或上线(xiàn)审核(hé)前核验服务提供者是否按要(yào)求提供生成合成内容标识功能。此举(jǔ)有助于适当调整服务提供者(zhě)、使用者和传播分发平台(tái)的义务分配，避免相关平台“隐身(shēn)”于深(shēn)度合成监管体系，从而真正实现齐抓共管、协同共治的治理机制，有(yǒu)效(xiào)维护健康向善的信息(xī)网络生态(tài)环境。

作者：魏凯，中(zhōng)国信息通信研究院人工智能研究(jiū)所所长

来源：“网信中国”微信公众号

校审 | 谨言、珊珊(shān)

编辑 | 凌霄

未经允许不得转载：天津电机维修_天津进口电机维修_天津特种电机维修_天津发电机维修中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境