在之前的文章(《热度“狂飙”的ChatGPT,亟待“合规刹车”》)中我们讨论了当红风头正盛的ChatGPT,分析了它的技术本质、应用场景和法律风险初探。而在近期的《流浪地球》系列电影中,“虚拟数字人”的概念博人眼球。这不禁让我想起另一个红极一时的概念,“深度伪造(DeepFake)”、“AI换脸”。
深度合成技术
事实上,“虚拟数字人”的构建离不开包括伪造技术在内的深度合成技术,而ChatGPT是深度合成领域下的一类模型。数据深度合成(Deep Synthesis)本身是一个中性概念,泛指借助深度学习算法模型等智能化方案自动生成文本、图像、语音、视频等数据内容的一系列处理技术。其中文本因为其较强的字符特征,只需满足空间序上的合理性,与视频、音频类型数据的处理思路略有不同。
数字人民币“试水”跨境消费:金色财经报道,据深圳发布消息,深圳市罗湖区启动数字人民币跨境消费嘉年华活动,涵盖全区餐饮、酒店、商超等多个领域。业界普遍认为,此次活动是数字人民币在跨境领域应用的一次探索,未来数字人民币在跨境领域的应用值得期待。[2023/2/14 12:04:55]
在ChatGPT一类的大型语言模型中,包含预训练和下游任务训练两个部分。在预训练阶段,模型从大量的数据中学习复杂的上下文联系,并将这种联系向量化。Next-token-prediction 和 masked-language-modeling 是用于预训练语言模型的核心技术。在第一种方法中,模型被给定一个词序列作为输入,并被要求预测序列中的下一个词,而在第二种方法中,其输入句子中的一些词被替换为特殊token,例如[MASK],模型被要求预测应该插入到[MASK]位置的正确的词。同时,在下游任务训练中,In-content Learning(语境学习)被提出以提升模型在各个场景任务下的表现能力。譬如标注者会给模型一个提示性的输入,让模型更加清楚的感知到应该输出的范式。
历史上的今天丨瑞典央行“试水”数字货币,开始测试计划:2020年2月20日,瑞典央行已将开始对其数字货币“电子克朗(e-krona)”的测试。据悉瑞典央行早在2017年就开始致力于开展“电子克朗”的试点计划,以应对近些年来现金使用率快速下降的情况。在测试环境中,参与用户可以将数字货币存放在电子钱包中,通过手机应用软件进行支付、存款和取款等操作。该试点计划将持续到2021年2月。目前瑞典央行并没有打算大范围推广。[2021/2/20 17:35:04]
在图像、音频类深度伪造模型中,生成网络”(generative network)或“生成器”(generator)负责制作复制原始数据集特征的合成数据如图片、音频记录、视频等,并制作“深度合成物”;鉴别网络(discriminative network)或者说鉴别器(discriminator)则负责识别合成的数据,检测该视频是否为伪造。通过反复的“无监督学习”过程,“生成网络”制作并修改“深度合成物”,直到“鉴别网络”无法再检测出该合成物系经“深度合成”,最终形成高保真的信息内容。
动态 | “时间银行”已在多地试水,区块链技术为养老服务提供了新的解决路径:金色财经报道,“时间银行”已在北京、南宁、南京、重庆、成都、遵义等多地试水。今年10月起,南京建邺区桃园居社区更是试点在支付宝里存储公益时间,为自己兑换养老服务,且整个流程被记录在区块链上。应用区块链技术,确保“时间”的存储和兑换公开透明,防止丢失或者被篡改,不仅永久记录在链,将来的某一天,还可以跨机构、跨区域通兑。很显然,这里有两个显而易见的亮点:一则,公共养老服务与公益志愿服务“无缝链接”,拉长了老年人养老服务供给侧的供应链。客观地说,至少也部分缓解了行政兜底的压力。二则,区块链技术为养老服务提供了新的解决路径,其真实社会场景的应用价值在“时间银行”上直观凸显。[2019/11/21]
动态 | 物流平台 DexFreight 试水 DeFi 通过 Maker 获取去中心化资金来源:物流平台 DexFreight 联合金融供应链交换平台 Centrifuge 和 Maker Foundation 发起一项试点项目,该项目在去中心化物流平台 DexFreight 进行,通过对货运发票实现代币化处理,结合物流抵押品与 DeFi 中可用的低成本流动性,从而填补货运公司短期融资缺口。[2019/10/10]
总体而言,基于深度学习的数据合成技术随着算力的发展逐渐从研究型走向应用型,主要应用在文本合成、视觉合成、听觉合成等三大领域,因循数据收集、模型训练、伪造内容等核心步骤,创造虚拟数字人及其所处的生态环境。
相关戏仿性应用产品迅速迭代,一方面,数据深度合成的正向应用将创建的文本段落、虚拟角色、声音模拟、视频渲染等广泛应用到社交通讯、娱乐文化等众多场景之中,提升信息处理效率,增进临场体验。另一方面,深度合成内容难以精准及时地予以鉴识,部分主体传播虚假信息,操控受众反应,严重威胁整个社会的安全体系与保障机制,因此亟待构建和完善规模化的规制体系。
声音 | 中科院金融科技中心主任:国内一些企业和金融机构已开始积极试水区块链应用:据中国新闻网消息,在中国国际电子商务中心主办的数字经济新引擎暨区块链技术创新应用峰会上,中科院金融科技中心主任刘世平表示,区块链技术大幅提高了金融交易和结算效率,降低了金融监管成本,并且实现了信用创造机制的重构和个人信息保护制度的完善。他指出,现在国内一些企业和金融机构已经开始积极试水区块链应用,比如资产证券化、数字票据、银行征信等。[2019/4/13]
《互联网信息服务深度合成管理规定》解析
我国国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国部在2022年11月3日通过了《互联网信息服务深度合成管理规定》(下称“规定”),该规定基于深度合成应用的定性和风险的评估,从而提出包括内容标志、主体报备、用户实名制、内容审核机制、救济机制、个人信息保护和数据安全等方面的规制措施。
内容标志
深度合成服务提供者(下称“服务提供者”)对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的显著标识,从而防止公众混淆误认。
主体报备和用户实名制
具有舆论属性或者社会动员能力的服务提供者和技术支持者应当按照《互联网信息服务算法推荐管理规定》履行备案手续,并在网站、应用程序公示,同时按照国家有关规定开展安全评估(相关合规流程仍在摸索之中);服务提供商需要对深度合成服务使用者进行真实身份信息认证。飒姐团队认为之后会出台针对深度合成内容专门的备案手续。
内容审核机制和救济机制
服务提供者应当加强深度合成内容管理。采取技术或者人工方式对输入数据和合成结果进行审核,建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序,记录并留存相关网络日志。
服务提供者应当建立健全辟谣机制。发现利用深度合成服务制作、复制、发布、传播虚假信息的,应当及时采取辟谣措施,保存有关记录,并向网信部门和有关主管部门报告。
个人信息保护和数据安全
服务提供者和技术支持者应当加强训练数据管理,采取必要措施保障训练数据安全,若数据集中包含个人信息,则需遵循个保法相关规定和配套标准。
算法安全评估
规定要求合成服务提供者和技术支持者应当加强技术管理,定期审核、评估、验证生成合成类算法机制机理,强调了处理具有生物识别信息、可能涉及国家信息的模型、模板需要进行安全评估,相关审核、评估机制尚未明确要求。飒姐团队认为该类评估由于企业对核心技术披露的限制以及当前评估技术的局限性,困难重重。
写在最后
深度合成归根结底是人工智能技术,尤其是算力发展的产物,其独特的创造性注定会逐渐走入生产生活,因此监管体系和合规体系的构建是必然路径。
深度合成技术上的特殊性要求我们一方面做好深度合成配套法律法规、标准的制定和完善,企业逐步摸索出一条合规路径,另一方面投入到深度合成检测追踪技术的开发与应用,法律、技术双管齐下,为做优产业发展环境提供重要基石,最终促进整个行业的健康发展。
肖飒lawyer
个人专栏
阅读更多
金色早8点
金色财经
Arcane Labs
Odaily星球日报
欧科云链
澎湃新闻
深潮TechFlow
MarsBit
BTCStudy
链得得
撰文:Zeneca_33编译:DeFi 之道我最近的一条推文似乎引起了 NFT 社区很大一部分人的共鸣.
1900/1/1 0:00:00我们将探讨2023 年最有前途的以太坊第 2 层生态系统——Starknet 的十个项目。但在此之前,让我们先了解一下链条以及让它如此特别的因素!Starknet是一种基于 ZK-Rollup.
1900/1/1 0:00:00在2017年,ICO以及公链百花齐放成为加密牛市期间最为重要的叙事,众多开发者和资金进入市场,推动区块链技术快速发展迭代;2020年,DeFi、NFT以及元宇宙等再次成为加密市场的新叙事.
1900/1/1 0:00:00作者:蒋海波以太坊将通过Shanghai/Capella升级支持ETH的质押提款,预计在2023年上半年进行.
1900/1/1 0:00:00作者:Soya昨天麻吉大哥黄立成在Blur上被人狙击——10秒之内以78 ETH的均价接盘了71只BAYC。这样的交易在几个月前还不可能发生.
1900/1/1 0:00:00原文:《全仓杠杆NFT借贷协议ParaSpace是「BendDAO杀手」吗?》作者:0xLaughing.
1900/1/1 0:00:00