核心提示
2023年6月20日,国家互联网信息办公室公布了中国境内第一批深度合成算法备案名录,众多大厂及AIGC行业先行者成功上榜。这既是中国算法与人工智能风险治理的关键一步,也是AIGC行业合规的重大突破。
今天飒姐团队就为大家详解什么是深度合成算法备案,以及AIGC行业在什么情况下需要备案、如何备案等问题。
一、什么是深度合成算法备案?
截至目前,我国针对AIGC工具的专门性立法有两部,均由国家互联网信息办公室制订并发布:
1. 《互联网信息服务深度合成管理规定》(以下简称“《深度合成规定》”);
2. 《生成式人工智能服务管理办法(征求意见稿)》(以下简称《管理办法草案》)
由于AIGC本身具有较强的引导或者说诱导能力,借助信息网络技术传播速度快、传播面广的特性,很可能导致AIGC内容在短时间内实现病式扩散,例如不久前某自媒体平台利用ChatGPT制造假新闻并广泛传播博取流量并不当引导部分地区民众舆论的案件,已经明确的向我们展示了AIGC工具本身作为一种舆论引导工具抑或说欺诈工具的风险。正是基于该特性,我国监管机关基于维持社会公共秩序的长期和谐稳定的这一法益出发,赋予AIGC企业对自身算法进行备案的义务。
国家网信办发布第十二批境内区块链信息服务备案清单:金色财经报道,根据《区块链信息服务管理规定》,国家互联网信息办公室现发布第十二批共250个境内区块链信息服务名称及备案编号。任何单位或个人如有疑议,请发送邮件至bc_beian/img/202379222706/0.jpg" />
那么首先我们需要明白所谓深度合成技术指的是什么。根据《深度合成规定》第二十三条之规定,深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于:
(一)篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术;
(二)文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术;
国家网信办:要加大对区块链平台及衍生平台应用的监测力度:6月9日消息,国家网信办组织召开2021年国家打击治理跨境网络工作组专题会议,会议强调各成员单位和各网站平台要注重协同合作,始终保持高压严打态势,全力推动打击治理工作取得更大成效,要加强源头治理,以技术链、推广流为重点,加大对区块链平台及衍生平台应用的监测力度,持续打击为网络活动提供服务器托管、网络云存储、通讯传输、VPN 服务、CDN 加速等服务的企业。(网信中国)[2021/6/9 23:24:22]
(三)音乐生成、场景声编辑等生成或者编辑非语音内容的技术;
(四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;
(五)图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术;
(六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
声音 | 天津市委网信办主任:利用区块链等技术为智慧社会赋能:近期,天津市第十七届人大三次会议召开。天津市人大代表、市委网信办主任王芸表示,围绕“城市运行一网统管”建设“城市大脑”,整合社会治理、城市运行、政府监管等领域分散式信息系统,运用“津治通”一网统管平台提升社会治理能力,利用互联网、数据、人工智能、区块链等先进技术为智慧社会赋能,打造“物联感知城市、数联驱动服务、智联服务决策”的新型城市治理模式,提升城市精细化、精准化管理水平。(中国网)[2020/1/17]
以上列举式的六类应用外,根据《管理办法草案》第六条之规定:利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
因此在《管理办法草案》生效后,如果该条款没有大的变动,我们还应当根据该管理法版第二条之规定,将涉及“算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”囊括入“深度合成技术“的范畴内。
声音 | 网信办宋宪荣:针对数字化转型中央网信办持续推动区块链等新技术:据人民网消息,日前,在第二届中国产业高质量发展论坛上,中央网信办信息发展局处长宋宪荣表示,针对数字化转型,中央网信办为产业高质量发展打好基础,出台了若干信息技术相关战略规划和行动计划;联合相关国家部委,持续推动人工智能、区块链等大数据相关的新技术、新业务、新产业的发展和新动能的培育。[2019/4/30]
二、哪些深度合成技术算法需要备案?
飒姐团队提示,并非所有的深度合成技术都需要其服务提供商进行备案登记,在技术中立原则的指导下,仅有满足特定条件的深度合成技术服务提供商才需要对其算法进行备案。
具体来说,进行深度合成算法备案的AIGC行业主要集中在《深度合成规定》第十九条规定的“具有舆论属性或者社会动员能力的深度合成服务提供者”这一范围中。但在实践中关于什么是“具有舆论属性或者社会动员能力”的界定标准却相对较为模糊。
金色晨讯 | 国家网信办官网刊发“区块链组稿” 正面肯定Token价值:1. XRP市值已超ETH近20亿美元;
2.江卓尔:算力战相当于大佬补贴矿工;
3.国家网信办官网刊发“区块链组稿” 正面肯定Token价值;
4.美国阿皮斯资本收购White Company区块链情报分析部门;
5.第三季度ICO筹资下降了48%;
6. IBM利用Stellar网络提供跨境支付服务;
7.爱沙尼亚已向加密货币企业发放900多份许可证;
8.FinCEN加强包括虚拟货币在内的现金房地产交易监管;
9.美国SEC:采用区块链技术发行的证券也必须遵守联邦证券发框架。[2018/11/18]
根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条,具有舆论属性或社会动员能力的互联网信息服务,包括下列情形:
(一)开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;
(二)开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
严格意义上讲,AIGC并不属于上述第一款中服务提供者所提供的任何一项服务,大多数的AIGC目前也并没有将自己只作为一种社交媒体平台。一家之言,飒姐团队认为,在基于前述AIGC本身在社交媒体平台上具有广泛传播的风险的情况下,从实质性监管的角度来看,其大概率符合“公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务”的这一兜底性条款。
因此,从这个角度来说,基本AIGC行业的所有赛道的服务提供者们都可能涉及深度合成算法备案,包括而不限于文本生成、图像生成、视频生成、音频生成等。最重要的判断标准在于用户群体的开放程度,如果该服务提供者面向不特定公众提供服务,那么基本上就在《深度合成规定》的辐射范围内。
三、如何进行深度合成算法备案
首先,备案方式为网上备案。根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的要求,符合备案要求的服务提供者应当在安全管理服务平台(地址;http://www.beian.gov.cn/)上进行备案。
在备案过程中,影响备案成功率最重要的一份材料就是深度合成服务提供者递交的《评估报告》。深度合成服务提供者和技术支持者提供两类特定功能的模型、模板等工具的,必须提供自评估或委托专业机构进行安全评估后出具的《评估报告》:
1. 生成或者编辑人脸、人声等生物识别信息的;
2. 生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
由于以上两类服务涉及的领域及信息较为敏感,评估具体内容应当在基本评估维度之上,增加与《个人信息保护法》《网络安全法》及《数据安全法》相符合的评估标准。
一般而言,评估标准有七大项,分别为:
(1)安全管理负责人、信息审核人员及安全管理机构设立情况;
(2)用户真实身份核验及注册信息留存措施;
(3)对用户账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息,以及用户发布信息记录的留存措施;
(4)对用户账号和通讯群组名称、昵称、简介、备注、标识,信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施;
(5)个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施;
(6)建立投诉、举报制度,公布投诉、举报方式等信息,及时受理并处理有关投诉和举报的情况;
(7)建立为监管部门和执法部门依法履职提供技术、数据支持和协助的工作机制的情况。
写在最后
深度合成备案制度是我国人工智能及算法风险治理的一项重要创举及新突破,飒姐团队建议,AIGC行业务必在咨询专业合规人士的情况下进行算法安全评估以及深度合成算法备案。
肖飒lawyer
个人专栏
阅读更多
金色早8点
Odaily星球日报
金色财经
Block unicorn
DAOrayaki
曼昆区块链法律
作者:Climber6月27日,由Volatility Shares推出的美国第一个杠杆比特币策略ETF(BITX)将在芝加哥期权交易所(CBOE BZX)开放交易.
1900/1/1 0:00:00作者:比推BitpushNews Mary Liu纽约时间6月20日下午,比特币突破 28,000 美元,这是自 5 月 29 日以来首次.
1900/1/1 0:00:00MPC 与 AA 之争回顾总结近期以太坊创始人 Vitalik 针对基于 MPC EOA 钱包负面评价再次引起了 Crypto 钱包技术路线之争的大讨论.
1900/1/1 0:00:00加密货币交易所 Coinbase 在其对美国证券交易委员会(SEC)提起的诉讼中提交了一份回应文件和一份寻求驳回立案的申请.
1900/1/1 0:00:00作者: Jesse Zheng, SUSS NiFT研究员、Fishery Isla,Biteye核心贡献者2023 年已过半,加密货币领涨全球风险资产.
1900/1/1 0:00:00作者:Kevin Rose,Moonbirds 创始人;编译:Luffy,ForesightNews多么狂野和动荡的几个月……今年已经过去一半.
1900/1/1 0:00:00