AIGC标识该咋做？

又是一个周五，网信办又给大家留作业了。

《人工智能生成合成内容标识办法》（以下简称《标识办法》）及《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）都发布了，将在9月1日生效。

中国AI安全治理的架构初具雏形。

我也来标识一下：【纯人工撰写，没有借助AI】。

一、AI安全治理框架

（一）互联网信息服务算法推荐管理规定

从算法的维度进行治理，生成合成类可能用了AI，所以要做算法备案。当然，除了生成合成类，还有个性化推荐之类的其他算法也受到规制。

（二）互联网信息深度合成管理规定

之前小模型捏的数字人，还有语音转文字那些也都属于深度合成。同时大模型肯定也必然属于深度合成算法。

（三）生成式人工智能服务管理暂行规定

这个就是管大模型专门的规则，大模型上线备案、登记的要求，就是从这儿来的。

至于大模型备案具体有哪些要求，要看《生成式人工智能服务安全基本要求》，不过这个一般只有底层大模型厂商才考虑。

（四）人工智能生成合成内容标识办法

《标识办法》细化了上面三个办法的标识要求。配套还有强制性标准。

《标准化法》要求：“强制性标准必须执行”，“不符合强制性标准的产品、服务，不得生产、销售、进口或者提供”。

具体怎么落实往下看吧。

二、《办法》-啥时标识

（一）什么情况下要做标识？

《标识办法》提出，按照《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》相关要求开展人工智能生成合成内容标识活动的，应当符合《标识办法》相关要求。

这意味着，只有面向境内、公众的AI服务才需要考虑标识。

标识分两种，一种是看得见的显性标识，另一种是看不见的隐性标识。

1、显性标识

《标识办法》要求，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识。

提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。这么说来，截图也应该包含。

等于说，并非所有的AIGC内容都要标识，只有可能“导致公众混淆或误认的”才要考虑显性标识。

2、隐形标识

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识。

添加图片注释，不超过 140 字（可选）

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

所有AI生成物，都要隐形标识。

（二）什么情况可以不做标识？

1、影视创作（可能）

发文单位有广电总局，考虑到之前《生成式人工智能服务管理暂行办法》第二条第二款明确“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定”。

未来从事电影、电视剧、短剧的创作用到AI的，如果广电总局另有规定的，可能可以不显性标识。

《互联网信息服务深度合成管理规定》第二条明确“法律、行政法规另有规定的，依照其规定”，其他法律、条例有规定的，也可以不标识。

2、用户主动请求

用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。

《人工智能生成合成内容标识办法》第九条

经过用户主动请求提供无水印版本，通过用户协议明确权责后，可以把显性标识删了，但隐形标识得留着。

并且相关的日志得留着，这就体现了AI服务进行强实名制的重要性，出了事得能找到。

（三）平台、用户责任

1、社交平台识别责任

（1）主动检测隐水印，如检测到隐水印，平台显著提示；

（2）用户主动声明的，平台显著提示；

（3）无隐水印，未声明，检测到显性水印或生成痕迹的，提示疑似AI生成；

（4）发布时提供选项，让用户主动声明。公众号就有啦。

2、应用商店责任

如果有AI服务的APP，应用商店在上架时，除了大模型上线备案/登记号、算法备案号，还要检查标识能力是否符合。

3、AI服务提供者责任

提供符合要求的标识功能，在用户协议里面写清楚，出事了要配合倒查。

4、用户责任

发布AI生成物的，用户应主动声明并标识。

任何人不得删除标识，不得未删除标识提供工具，也不能恶意利用水印。

三、《标准》-标识落地

（一）显性标识

1、文字

2、图片/音频/视频

3、交互界面

（二）隐形标识

1、图片

2、音频

3、视频

4、数字签名防篡改

应该是留着看有没有被篡改的，如果隐标识被篡改了，这个签名就对不上。我猜有点像哈希。

文章来自微信公众号 “ 数据合规 “