今年3月，国家网信办等四部门联合发布了《人工智能生成合成内容标识办法》（以下简称“标识办法”）。9月1日，“标识办法”就将正式施行。其中最值得关注的是所有人工智能生成、合成的内容，必须打上标识。那么新规为何要做这样的强制要求？未做标识的AI画面会对公众造成怎样的误导呢？

用AI制造假新闻 多地查处相关案件

如今人们的日常生活与AI越来越紧密，可以用AI帮忙查找资料辅助写作；让AI将创意转化为图像、视频；用AI搭建一套高效的学习场景，可以说，我们正在进入“全民AI时代”。但是有人却利用AI，给虚假信息穿上了一层难辨真假的伪装，让耳听不一定为真，眼见也未必为实。

近年来，类似由AI生成的假新闻、谣言，频繁出现在网络空间并传播。

今年1月，西藏定日县发生6.8级地震。在全国人民关注抢险救援的时候，“小男孩被埋图”在互联网平台迅速传播，并配文日喀则地震等关键词，引发大量网民关注。由于画面中小男孩有6根手指，AI生成的痕迹明显，谣言很快被识破。相关人员也受到了处理。

但随着AI技术的迅速发展，一些AI生成工具的使用更加便捷，往往一部手机、几个软件就能完成一次AI创作。有的人员利用AI工具拼凑虚假事实，并通过购买一些自媒体账号进行传播，甚至形成了一条“谣言→AI引用→更多谣言”的传播链条。

AI生成内容必须添加

显式标识或隐式标识

AI生成合成的内容真假难辨，只有打上标识，才能让AI生成的虚假消息露出原形。那么，AI生成内容的标识具体该如何添加，新规是如何规定的？

“标识办法”明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

据法学专家介绍，添加显式或隐式标识，最主要的目的就是，解决目前相关内容“哪些是AI生成”“谁生成的”“从哪里生成”的三大核心问题。

显式标识可以确保用户能直观辨别生成内容的人工智能属性，保障公众知情权。隐式标识则既保障了标识的持久性，也为后续数据清洗、校验提供技术依据。这两种标识结合使用，既能减少对用户体验的干扰，还能为相关监管提供溯源依据。

明确全链条责任

从生成到传播闭环管理

据法学专家介绍，针对个人用户借助AI技术进行文字创作时，如果不存在侵犯个人、社会权益的情况下，个人用户则不需要进行专门的标识。但是，如果个人用户使用AI技术生成的相关内容，涉及如仿冒名人的话语表达或者容易让社会公众产生误解、混淆等内容，都必须进行显式标识。

“标识办法”区分了生成合成内容不同主体的责任，对生成人工智能这种生成合成内容进行一个全链条的监管，不管是生成人工智能服务的提供者还是用户，既要按照“标识办法”的要求去进行标识，还要按照国家强制标准的要求进行标识，这样就把从制作、传播、发布等等这个链条理得更清楚，然后相关的责任划分也更明晰。

据法学专家介绍，“标识办法”明确了相关主体的责任义务，包括服务提供者需在内容生成、传播、下载等环节确保标识完整；互联网应用程序分发平台需审核应用是否具备添加标识功能；个人用户发布生成内容时需要主动声明。

另外，“标识办法”中明确，服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

细化追责内容

划定AI治理红线

“标识办法”要求，用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

另外，法学专家认为，“标识办法”的施行实际上并不是AI内容治理的终极手段，而是更符合当下我国人工智能发展阶段的治理方法。

中国人民大学未来法治研究院执行院长张吉豫介绍，如果按照这样的规范，它其实是可以更好地去帮助相应的生成的内容被识别，并且被检测和标识，能够塑造更好的、可信的空间。当然现在的技术发展还需要不断地前进，所以我们可能也会随着技术的发展，相信还有更进一步的一些具体的措施，或者具体的标准未来会进一步推行。（重庆晨报）

本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有。如因无法联系到作者侵犯到您的权益，请与本网站联系，我们将采取适当措施。