您的位置:首页 > 移动互联

国家网信办就《互联网信息服务深度合成管理规定(征求意见稿)》公开征求意见

发布时间:2022-01-28 16:36:00  来源:互联网     背景:


 

  互联网信息服务深度合成管理规定

  (征求意见稿)

  第一条 为了规范互联网信息服务深度合成活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规,制定本规定。

  第二条 在中华人民共和国境内应用深度合成技术提供互联网信息服务(以下简称深度合成服务),以及为深度合成服务提供技术支持的活动,适用本规定。法律、行政法规另有规定的,依照其规定。

  本规定所称深度合成技术,是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术,包括但不限于:

  (一)篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术;

  (二)文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术;

  (三)音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术;

  (四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术;

  (五)图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术;

  (六)三维重建等对虚拟场景进行生成或者编辑的技术。

  深度合成服务提供者,是指提供深度合成服务以及为深度合成服务提供技术支持的组织。

  深度合成服务使用者,是指使用深度合成服务制作、复制、发布、传播信息的组织、个人。

  第三条 国家网信部门负责统筹协调全国深度合成服务治理和相关监督管理工作。地方网信部门负责统筹协调本行政区域内的深度合成服务治理和相关监督管理工作。

  第四条 深度合成服务提供者和深度合成服务使用者应当遵守法律法规,尊重社会公德和伦理,坚持正确政治方向、舆论导向、价值取向,促进深度合成服务向上向善。

  第五条 鼓励相关行业组织加强行业自律,建立健全行业标准、行业准则和自律管理制度,督促指导深度合成服务提供者制定完善服务规范、加强信息内容安全管理、依法提供服务并接受社会监督。

  第六条 任何组织和个人不得利用深度合成服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动,不得制作、复制、发布、传播含有煽动颠覆国家政权、危害国家安全和社会稳定、淫秽色情、虚假信息,以及侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止内容的信息。

  第七条 深度合成服务提供者应当落实信息安全主体责任,建立健全算法机制机理审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度,具有与新技术新应用发展相适应的安全可控的技术保障措施。

  第八条 深度合成服务提供者应当制定并公开管理规则和平台公约,完善服务协议,以显著方式提示深度合成服务使用者信息安全义务,并依法依约履行相应管理责任。

  第九条 深度合成服务提供者应当依法对深度合成服务使用者进行真实身份信息认证。深度合成服务使用者不进行真实身份信息认证的,深度合成服务提供者不得为其提供信息发布服务。

  第十条 深度合成服务提供者应当加强深度合成信息内容管理,采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核;建立健全用于识别违法和不良深度合成信息内容的特征库,完善入库标准、规则和程序;对违法和不良信息依法采取相应处置措施,并对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

  第十一条 深度合成服务提供者应当加强深度合成技术管理,定期审核、评估、验证算法机制机理;提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的,应当自行开展安全评估,预防信息安全风险。

  第十二条 深度合成服务提供者应当加强训练数据管理,确保数据处理合法、正当,采取必要措施保障数据安全。训练数据包含涉及个人信息数据的,还应当遵守个人信息保护有关规定,不得非法处理个人信息。

  深度合成服务提供者提供人脸、人声等生物识别信息的显著编辑功能的,应当提示深度合成服务使用者依法告知并取得被编辑的个人信息主体的单独同意。法律、行政法规另有规定的除外。

  第十三条深度合成服务提供者对使用其服务所制作的深度合成信息内容,应当通过有效技术措施在信息内容中添加不影响用户使用的标识,依法保存日志信息,使发布、传播的深度合成信息内容可被自身识别、追溯。

  第十四条 深度合成服务提供者提供以下深度合成服务的,应当使用显著方式对深度合成信息内容进行标识,向社会公众有效提示信息内容的合成情况:

  (一)提供智能对话、智能写作等模拟自然人进行文本生成或者编辑服务的,在文本信息内容的稿源说明处等位置进行显著标识;

  (二)提供合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务的,在音频信息内容的合理区域以语音说明等方式进行显著标识;

  (三)提供人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像、视频生成或者显著改变个人身份特征的编辑服务的,在图像、视频信息内容的明显位置进行显著标识;

  (四)提供沉浸式拟真场景等生成或者编辑服务的,在虚拟场景信息内容的明显位置进行显著标识;

  (五)提供其他具有生成或者显著改变信息内容功能的服务的,在文本、图像、音频或者视频、虚拟场景等的合理位置或者区域进行显著标识。

  深度合成服务提供者提供前款规定之外的深度合成服务的,应当向深度合成服务使用者提供对深度合成信息内容进行显著标识的功能,并提示深度合成服务使用者可以对深度合成信息内容进行显著标识。

  第十五条 深度合成服务提供者发现第十四条第一款规定的深度合成信息内容未进行显著标识的,应当立即停止传输该信息,按照规定作出显著标识后,方可继续传输。

  第十六条 互联网应用商店服务提供者应当对深度合成服务提供者提供的深度合成应用程序履行安全管理责任,依法依约核验深度合成应用程序的安全评估、备案等情况;对违反国家有关规定的,应当及时采取不予上架、暂停上架或者下架等处置措施。

  第十七条 深度合成服务提供者应当建立健全辟谣机制,发现深度合成信息服务使用者利用深度合成技术制作、复制、发布、传播虚假信息的,应当及时采取相应的辟谣措施,并将相关信息报网信等部门备案。

  第十八条 深度合成服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口,公布处理流程和反馈时限,及时受理、处理并反馈处理结果。

  第十九条 深度合成服务提供者应当按照《互联网信息服务算法推荐管理规定》的有关规定,在提供服务之日起十个工作日内履行备案手续。

  完成备案的深度合成服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

  第二十条 深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的,应当按照国家有关规定开展安全评估。

  第二十一条 各级网信部门对深度合成信息服务提供者履行深度合成信息内容管理主体责任情况开展监督检查,对存在问题的深度合成信息服务提供者及时提出整改意见并限期整改。

  深度合成服务提供者对网信部门依法实施的监督检查,应当予以配合,并提供必要的技术、数据等支持和协助。

  第二十二条 违反本规定第七条、第八条、第十条、第十一条、第十三条、第十四条、第十五条、第十六条、第十七条、第十八条、第二十条、第二十一条第二款规定,法律、行政法规有规定的,依照其规定;法律、行政法规没有规定的,由国家和省、自治区、直辖市网信部门依据职责给予警告,责令限期改正,改正前应当暂停相关业务;拒不改正或者情节严重的,责令暂停信息更新,并处一万元以上十万元以下罚款。

  违反本规定第六条、第九条、第十二条、第十九条规定的,由国家和省、自治区、直辖市网信部门依据职责,按照有关法律、行政法规和部门规章的规定予以处理。

  违反本规定,给他人造成损害的,依法承担民事责任;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。

  第二十三条 本规定中下列用语的含义:

  场景声,是指音频中非语音内容的背景声音。

  人脸操控,是指对图像、视频中人物的面部表情等进行操控。

  姿态操控,是指对图像、视频中人物的肢体动作等进行操控。

  三维重建,是指利用数据生成或者编辑场景三维立体影像的深度合成技术。

  训练数据,是指被用于训练机器学习模型的标注或者基准数据集。

  沉浸式拟真场景,是指通过深度合成技术生成或者编辑的、可供参与者体验或者互动的、具有高度真实感的虚拟场景。

  第二十四条 本规定由国家互联网信息办公室负责解释。

  第二十五条 本规定自 年 月 日起施行。

  关于《互联网信息服务深度合成管理规定(征求意见稿)》的说明

  为了规范互联网信息服务深度合成活动,弘扬社会主义核心价值观,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规,国家互联网信息办公室起草了《互联网信息服务深度合成管理规定(征求意见稿)》(以下称《规定(征求意见稿)》)。有关情况说明如下:

  一、制定的必要性

  (一)贯彻党中央决策部署的重要举措。党的十九大报告提出“加强互联网内容建设,建立网络综合治理体系,营造清朗的网络空间”的任务要求。党中央印发的《法治社会建设实施纲要(2020-2025年)》提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。落实党中央决策部署,需要统筹安全与发展,加快制定完善制度规范,促进深度合成技术依法合理有效利用。

  (二)维护网络空间良好生态的现实需要。网络空间是亿万民众共同的家园,互联网信息服务深度合成活动在服务用户需求、改进用户体验的同时,也被一些不法分子用于制作、复制、发布、传播违法信息,诋毁、贬损他人名誉、荣誉,仿冒他人身份实施诈骗等违法行为,不仅损害人民群众的切身利益,甚至危害国家安全和社会稳定,迫切需要划定“底线”、“红线”,规范发展互联网信息服务深度合成活动,维护网络空间良好生态。

  (三)深化互联网信息服务依法管理的客观要求。在前期已出台《网络信息内容生态治理规定》、《互联网信息服务算法推荐管理规定》、《网络音视频信息服务管理规定》等相关部门规章和规范性文件,明确对生成合成类算法和利用深度学习、虚拟现实等新技术新应用制作音视频内容等的监管要求的基础上,需要进一步厘清、细化深度合成技术的应用场景,明确深度合成服务提供者和使用者的信息安全义务,出台具有系统性、针对性和可操作性的专门管理规定。

  二、起草过程

  (一)开展立法调研。深入企业、科研院所、高校等单位调查研究国内深度合成技术发展、应用场景,充分研究国内外深度合成技术发展应用中存在的问题及监管情况,全面梳理互联网信息服务深度合成活动信息安全风险。

  (二)组织研究论证。组织系列专家研讨会,邀请科研院所和高校技术、法律专家对互联网信息服务深度合成活动现状、问题及法律规制进行深入分析,并就《规定》体例框架、主要制度和具体内容开展论证研究。

  (三)起草《规定(征求意见稿)》。坚持问题导向和目标导向,落实、细化《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规要求,起草形成《规定(征求意见稿)》。

  三、主要内容

  《规定(征求意见稿)》共二十五条,主要规定了以下五个方面的内容。

  (一)明确了制定目的依据、适用范围和总体要求。明确在中华人民共和国境内应用深度合成技术提供互联网信息服务,以及为深度合成服务提供技术支持的活动,适用本规定。明确深度合成技术、深度合成服务提供者和深度合成服务使用者等概念的含义。明确国家网信部门、地方网信部门的统筹协调和监督管理职责以及深度合成服务提供者、使用者的基本要求。鼓励相关行业组织加强行业自律。强调不得利用深度合成服务从事法律法规禁止的活动,不得制作、复制、发布、传播含有法律法规禁止内容的信息。(第一条至第六条)

  (二)明确了深度合成服务提供者主体责任。要求建立健全算法机制机理审核、信息内容管理、从业人员教育培训等管理制度,具有与新技术新应用发展相适应的安全可控的技术保障措施。应当制定并公开管理规则和平台公约,并对使用者依法进行真实身份信息认证。加强内容管理,采取技术或者人工方式对输入数据和合成结果进行审核,并建立健全相关特征库。加强技术管理,定期审核、评估、验证算法机制机理。提供涉及生物识别信息或者可能涉及国家安全、社会公共利益的模型、模板等工具的,应当自行开展安全评估,预防信息安全风险。加强训练数据管理,确保数据处理正当、合法,采取必要措施保障数据和个人信息安全。(第七条至第十二条)

  (三)明确了深度合成信息内容标识管理制度。要求深度合成服务提供者对使用其服务所制作的深度合成信息内容,通过有效技术措施添加不影响用户使用的标识,依法保存日志信息,使深度合成信息内容可被自身识别、追溯。对生成或者显著改变信息内容的深度合成信息内容,应当使用显著方式进行标识,向社会公众有效提示信息内容的合成情况;对其他深度合成信息内容,应当提供进行显著标识的功能,并提示使用者可以自行标识。发现应该进行显著标识而未显著标识的,应当立即停止传输该信息,按规定作出显著标识后,方可继续传输。(第十三条至第十五条)

  (四)明确了监督管理相关要求。互联网应用商店服务提供者应当对深度合成应用程序履行安全管理责任,依法依约核验安全评估、备案等情况,对违反国家有关规定的,及时采取不予上架、暂停上架或者下架等处置措施。深度合成服务提供者应当建立健全辟谣机制,设置便捷有效的用户申诉和公众投诉、举报入口;应当按照有关规定履行备案手续、标明备案编号;开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的,应当按照国家有关规定开展安全评估;对网信部门依法实施的监督检查,应当予以配合,并提供必要的技术、数据等支持和协助。(第十六条至第二十一条)

  (五)明确了法律责任、解释部门和施行日期。违反《规定》相关规定的,由国家和省、自治区、直辖市网信部门依据职责,按照《规定》和有关法律法规规章的规定予以处理。《规定》由国家互联网信息办公室负责解释。(第二十二条至第二十五条)

特别提醒:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页

本文评论
玖富集团以东南亚地区为支点 完善国内国际双线战略布局
原标题:玖富集团以东南亚地区为支点 完善国内国际双线战略布局...
日期:05-10
日活4.5亿的视频号或将超越抖音 腾讯有望成为短视频领域的“王者”
提到短视频,很多人第一反应可能是抖音快手。但不知短视频后起之秀微信“视频号”暗自发力一年多,已经悄悄改变了短视...
日期:08-26
《广播电视技术迭代实施方案》要求缩短同播过渡期 逐步关停标清频道
从黑白到彩色、从模拟到数字、从无线到有线、从地面到卫星、从标清到高清再到超高清…&hellip......
日期:12-14
中国联通:8月份4G用户净增506万户
9月20日消息 昨日,中国联通公布的业务数据公告显示,2019年8月,中国联通移动出账用户累计达3.25亿......
日期:09-20
5G终端上新 中国移动发布2020年终端产品规划
11月15日,在中国移动召开的5G泛智能终端渠道生态合作峰会上,中国移动发布2020年终端产品规划及5G......
日期:11-18
Flyme 智能思维引擎One Mind 让你在新学期更有科技范
魅族Flyme自主研发的人工智能系统服务One Mind经过不断拓展和升级,可以在多种场景下为用户带来智能......
日期:08-30
小觅智能CEO庞琳勇博士亮相赛灵思开发者大会
一年一度的赛灵思开发者大会(SDF)于10月1日-2日在美国加州圣何塞成功举办。立体视觉技术解决方案提......
日期:10-14
魅族16s预热来了?魅族官网上架“史上最贵”HIFI 解码耳放
4月12日消息,魅族官方商城上架了一款名为“魅族HIFI 解码耳放”的新产品,虚拟价格显示...
日期:04-12
谷歌确认再次下架间谍消息应用ToTok
北京时间2月18日早间消息,谷歌确认该公司再次从Google Play中删除了涉嫌从事间谍活动的应用ToTok。......
日期:02-18
深入统筹科技资源 平安科技构筑科技防疫线
近日,全国各个地区陆续开始复工复产,疫情防范也进入了一个不能放松的新阶段。科技企业作为防疫的......
日期:02-21
无好“色”,不旅行 | 华为天际通好“色”旅行家计划圆满收官
在异国他乡旅行时,如果有一个APP能将签证、机票、流量、酒店等出行问题一键搞定,那将是再惬意不过的事情,而华为天际通就是...
日期:08-30
撒狗粮神器:高通3D指纹识别技术支持两个手指同时解锁
12月4日消息 在今天的高通骁龙技术峰会上,官方没有公布新款处理器完整的技术规格。在会议的最后,......
日期:12-04
电视如何免费观看vip电影?一个葫芦视频就可以解决
很多追剧的小伙伴应该知道,现在看电影的成本越来越高了,不想去电影院看电影,越来越多人坐等线上......
日期:07-09
石墨文档 6 周年,中国云端 Office 的先行者和领先者
2014 年 5 月 6 日,武汉初心科技有限公司诞生于武汉。主要产品 —— 石墨文档,是中国第......
日期:05-06
中国移动 10086 客服系统部分已采用华为鲲鹏计算容器云平台
7 月 26 日消息 据华为官方表示,10086 是全球最大的客服系统,由中国移动集团下属子公司中移在线服......
日期:07-26
抢滩 API 和节点服务,Ankr 能否成为 Web 3.0 时代的基石?
撰文:Dove 随着 DeFi 带来汹涌的浪潮,区块链世界迭代发展的速度快得令人咂舌。以太坊也......
日期:04-27
电视可以用听的?跟着当贝市场果然打开新世界!
随着疫情离去,呆在家里一直看电视的日子也一去不复返,我们生活节奏也渐渐快起来了, 再也没有心情老......
日期:04-20
AI加持全新升级!百度输入法最新版全局适配iOS 13系统
9月20日,苹果发布会正式发布iOS 13系统,推出Dark Mode「深色模式」。百度输入法提前洞察用户需求......
日期:09-20
撸羊毛!1元就能看电影,百度App简直太给力了
圣诞刚过,又迎来了周末,紧接着元旦就要来了,在各种节日叠加的日子里,看电影成为一种必然的选择......
日期:12-27
运营商的“移动支付”还会越来越小众吗?
在移动互联网时代,运营商的布局总能走在前面,最后却又被互联网无情打一巴掌,比如在社交上的飞信......
日期:12-15