原文作者:Steven Wang
“What I cannot create, I do not understand.”
-Richard Feynman
你左拥右抱着 Stable Diffusion 和 MidJourney 创造美轮美奂的图片。
你熟练使用着 ChatGPT 和 LLaMa 创造辞致雅赡的文字。
你来回切换着 MuseNet 和 MuseGAN 创造高山流水的音乐。
毋庸置疑,人类最独特的能力就是创造,但在科技日新月异发展的今天,我们通过创建机器来创造!机器可以给定风格绘制原创艺术品 (draw),可以编写一长篇连贯文章 (write),可以创作悦耳的音乐 (compose),还可以为复杂游戏制定获胜策略 (play)。这个科技就是生成式人工智能 (Generative Artificial Intelligence, GenAI),现在只是 GenAI 革命的开始,现在是学习 GenAI 的最佳时机。
GenAI 是一个 buzzword,其背后本质是生成模型 (generative model),它是机器学习的一个分支,目标是训练模型以生成与给定数据集相似的新数据。
假设我们有一个马的数据集。首先,我们可以在此数据集上训练生成模型,以捕获控制马图像中像素之间复杂关系的规则。 然后,从此模型中进行采样,以创建原始数据集中不存在的但是逼真的马图像,过程如下图所示。
为了真正理解生成模型的目标和重要性,将其与判别模型 (discriminative model) 进行比较是必要的。其实机器学习里大多数的问题都是由判别模型解决的,看以下例子。
假设我们有一个绘画数据集,一些是梵高画的,一些是其他艺术家画的。有了足够的数据,我们就可以训练一个判别模型来预测一幅给定的画是否由梵高所作,过程如下图所示。
当使用判别模型时,训练集中每个示例都有一个标签 (label),对于以上二分类问题,通常梵高的画的标签为 1 ,非梵高的画的标签为 0 。 上图中模型最后预测的概率是 0.83 ,那么它很有可能是由梵高所作。和判别模型不同的是,生成模型不需要示例里含有标签,因为它的目标是生成新数据,而不是给数据预测标签。
FDIC:Signature Bank几乎所有与数字资产相关存款均无保险:金色财经报道,美国联邦存款保险公司(FDIC)对 Signature Bank 倒闭的调查发现其加密货币存款存在风险,在倒闭之前,Signature Bank 管理着 1100 亿美元的资产,其中几乎所有与数字资产相关的存款都没有保险。
FDIC 表示,Signature Bank 管理层不了解未投保存款的内在风险,也没有为银行挤兑做好准备。[2023/4/30 14:35:43]
例子看完,让我们用数学符号来精准定义生成模型和判别模型:
判别模型对 P(y|x) 建模,给定特征 x 来估计标签 y 的条件概率。
生成模型对 P(x) 建模,直接估计特征 x 的概率,从这个概率分布中采样即可生成新的特征。
需要注意的是,即使我们能够建立一个完美来识别梵高的画的判别模型,它仍然不知道如何创作一幅看起来像梵高的画,它只能输出一个概率,即图像是否来自梵高之手的可能性。由此可见,生成模型比判别模型要困难很多。
了解生成模型框架之前,让我们先玩一个游戏。假设下图的点是由某种规则产生,我们称该规则为 Pdata,现在让你生成一个不同的 x = (x 1, x 2) 使得这个点看起来是由相同的规则 Pdata 产生的。
你会如何生成这个点?你可能利用已给的点在脑海里产生一个模型 Pmodel,而这个模型占的位置上都可能生成你想要的点。由此可知,模型 Pmodel 就是 Pdata 的估计。那么一个最简单的模型 Pmodel 如下图的橙色方框,点只可能生成于方框内,而不可能生成于方框外。
要生成新的点,我们可以从方框内随机选一个点,更严谨地说,从模型 Pmodel 分布中采样 (sampling)。这就是一个极简的生成模型。你从训练数据 (黑点) 中创建一个模型 (橙框),然后你可以从模型中采样,希望生成出来的点和训练集中的点看起来相似。
现在我们可以正式提出生成学习的框架了。
彭博社:Kraken退出使用Signature Bank:金色财经报道,根据彭博社的一份报告,加密货币交易所Kraken正在退出使用Signature Bank进行一些重大金融交易。根据彭博社周三发给客户的一封电子邮件,Kraken的非企业客户将无法再使用Signature进行美元存款或取款。存款将于3月15日逐步取消,提款将于3月30日结束。
据报道,本周早些时候,加密货币衍生品交易平台LedgerX表示将不再使用Silvergate Bank接收国内电汇,而是使用Signature Bank。Signature在12月表示,它将减少对加密行业的敞口,但不会完全消除它。[2023/3/2 12:37:17]
现在让我们揭示真实的数据生成分布 Pdata,并了解如何应用以上框架于此示例。 从下图中我们可以看到,数据生成规则 Pdata 是点只是在陆地上均匀分布,而不会出现在海洋中。
很明显,我们的模型 Pmodel 是规则 Pdata 的一个简化。通过检查上图的 A、B 和 C 点可以帮助我们理解模型 Pmodel 是否成功模仿了规则 Pdata。
点 A 不符合规则 Pdata,因为它出现在海里,但可能由模型 Pmodel 生成,因为它出现在橙框之内。
点 B 不可能由模型 Pmodel 生成,因为它出现在橙框之外,但符合规则 Pdata,因为它出现在陆地上。
点 C 由模型 Pmodel 生成,而又符合规则 Pdata。
这个例子展示了生成建模背后的基本概念,虽然现实中用生成模型要复杂很多,但其基本框架是相同的。
假设你是一家公司的首席时尚官 Chief Fashion Officer (CFO),你的职责是创造新的时髦的衣服。今年你收到 50 个关于时尚搭配的数据集 (如下图),而你需要创造 10 个新的时尚搭配。
虽然你是首席时尚官,但是你也是一个数据科学家,因此你决定用生成模型来解决此问题。看完上面 50 张图片,你决定用五个特征,配件类型 (accessies type)、服装颜色 (clothing color)、服装类型 (clothing type)、头发颜色 (hair color) 和头发类型 (hair type),来描述时尚搭配。
分析 | TokenInsight:BTC全网交易额连续萎缩 换手率持续下降:据TokenInsight数据显示,反映区块链行业整体表现的TI指数北京时间01月22日8时报335.43点,较昨日同期下跌1.99点,跌幅为0.59%。此外,在TokenInsight密切关注的28个细分行业中,24小时内涨幅最高的为信息技术服务平台行业,涨幅为4.77%;24小时内跌幅最高的为其它平台行业,跌幅为3.75%。
据监测显示,BTC全网交易额连续萎缩,较前日下降9.87%,转账数较昨日上升2.47%至30.21万,目前BTC多空比反弹至1.3。BCtrend分析师Jeffrey认为,近期存量市场中资金疑似被抽血流向炒作币种,BTC换手率持续下降,短期BTC或将维持低位震荡。[2019/1/22]
前 10 个图像数据特征如下。
每个特征也有不同数目的特征值:
3 种配件类型 (accessies type):
Blank, Round, Sunglasses
8 种服装颜色 (clothing color):
Black, Blue 01, Gray 01, PastelGreen, PastelOrange, Pink, Red, White
4 种服装类型 (clothing type):
Hoodie, Overall, ShirtScoopNeck, ShirtVNeck
6 种头发颜色 (hair color) :
Black, Blonde, Brown, PastelPink, Red, SilverGray
7 种头发类型 (hair type):
NoHair, LongHairBun, LongHairCurly, LongHairStraight, ShortHairShortWaved, ShortHairShortFlat, ShortHairFrizzle
这样有 3 * 8 * 4 * 6 * 7 = 4032 种特征组合,所以可以想成样本空间里面包含着 4032 个点。从给出的 50 个数据点可以看出,Pdata 对于不同特征会偏好某些特征值。从上表看出图像中白色服装颜色和银灰色头发颜色就比较多。由于我们不知道真实的 Pdata,我们只能通过这 50 个数据来建一个 Pmodel ,使其能够和 Pdata 相近。
分析 | TokenInsight:此次BCH上涨主要由稳定币/场外法币流入推动:自11月2日起BCH价格开始上涨,截至6日下午,其涨幅超过31%。TokenInsight 认为,此次导火索是11月15日硬分叉事件,此次分叉已得到Coinbase、Binance等主流交易所支持,由此引来投资者提前布局。
TokenInsight 分析发现,此次上涨主要由稳定币&场外法币流入推动。11月2日至3日共计1.86亿美元资金从USDT流向BCH,此外,仅11月3日一天内有超过1.06亿美元的法币资金入场。
独立分析师 James 认为,在真正硬分叉之前该事件的热度不会下降,但链上数据表明BCH的交易热度已经恢复平静。因此,其价格很难在短时间内大幅上涨。[2018/11/6]
一个最简单的方法就是给 4032 个特征组合中每个点赋予一个概率参数,那么该模型包含 4031 个参数,因为所有概率参数加起来等于 1 。现在我们来一个个检查 50 个数据,然后更新该模型的参数(θ 1 ,θ 2 ,…,θ 4031 ),每个参数的表达式为:
其中 N 是观测数据的个数即 50 ,nj 是第 j 个特征组合在 50 个数据中出现的个数。
比如 (LongHairStraight, Red, Round, ShirtScoopNeck, White) 的特征组合 (称为组合 1) 出现了两次,那么
比如 (LongHairStraight, Red, Round, ShirtScoopNeck, Blue 01) 的特征组合 (称为组合 2) 没有出现,那么
按照上面的规则,我们将 4031 个组合都计算出一个 θ 值,不难看出有很多 θ 值都是 0 ,更糟的是我们不可能生成新的没见过的图片 ( θ = 0 意味着从未观测到拥有该特征组合的图片)。为了解决此问题,只需在分母加上特征数目的总数 d 和在分子加上 1 ,该技巧叫做拉普拉斯平滑。
TokenInsight四月评级给出5个项目风险提示:TokenInsight四月评级给出5个项目风险提示,榜单范围涵盖了47个高市值热门项目,其中EOS,ADA,NEO,LSK,ZIL五个项目TokenInsight给出项目风险提示。1、EOS主网尚未上线,进度略有迟滞以及主要参数存在落地风险;2、ADA实行分层治理技术,主网上线而计算层和智能合约还不可用。主网上线后热度无显著变化,地址和开发者查询不透明,较低的TPS;3、NEO采用DBFT共识机制;目前中心化程度较高,代码开源程度低;4、LSK团队当前拥有过高投票权重,部分伪去中心化,侧链技术带来一定风险;5、ZIL风险来自于主网并未上线,分片技术的较高实现难度。[2018/5/15]
现在,每个组合 (包括那些不在原始数据集中的组合) 都有非 0 的采样概率,然而这仍然不是一个令人满意的生成模型,因为不在原始数据集中的点的概率是一个常数。如果我们尝试使用这样的模型来生成梵高的画,那么它会以相同概率来操作一下两种画:
梵高原作的复制画 (不在原始数据集)
随机像素拼凑的画 (不在原始数据集)
这显然不是我们想要的生成模型,我们希望它能从数据中学到一些固有的结构,从而能够增加样本空间中它认为更有可能的区域的概率权重,而不是把所有概率权重放在数据集中存在的点上。
朴素贝叶斯模型 (Naive Bayes) 可以将上面特征组合的次数大大减少,根据其模型假设每个特征之间都是相互独立的。回到上面的数据,一个人的头发颜色 (特征 xj ) 和其衣服颜色 (特征 xk ) 没有联系,用数学表达式表示就是:
p(xj | xk) = p(xk)
有了这个假设,我们可以计算出
朴素贝叶斯模型将原始问题“对每个特征组合做概率估计”简化成对“每个特征做概率估计”,原来我们需要用 4031 ( 3 * 8 * 4 * 6 * 7) 个参数,现在只需要 23 ( 3 + 8 + 4 + 6 + 7) 个参数,每个参数的表达式为:
其中 N 是观测数据的个数即 50 ,nkl 是第 k 个特征取其下第 l 个特征值的个数。
通过统计 50 个数据,下表给出朴素贝叶斯模型的参数值。
要计算模型生成某数据特征的概率,只需要连乘上表中的概率, 比如:
以上这个组合没有出现在原始数据集中,但模型仍然为它分配非零的概率,因此它仍然能够被模型生成。因此,朴素贝叶斯模型能够从数据中学习一些结构,并使用它来生成原始数据集中未见过的新示例。下图是模型生成的 10 张新的时尚搭配的图片。
在此问题中,特征只有 5 个属于低维数据,朴素贝叶斯模型假设它们相互独立还算是合理,因此模型生成的结果还不错,下面来看一个模型崩塌的例子。
作为首席时尚官,你成功用朴素贝叶斯生成了 10 套全新的时尚搭配,你信心爆棚了,觉得自己的模型无敌,直到遇到下面这套数据集。
该数据集不再是用五个特征来表示了,而是由 32* 32 = 1024 个像素来表示,每个像素值可以去 0 到 255 中的一个, 0 表示白, 255 表示黑。下表列出前 10 张图像像素 1 到 5 的值。
用同样的模型生成 10 套全新的时尚搭配,下面是模型生成的结果,每张丑得都很类似,而且无法区分不同的特征,为什么会这样呢?
首先,由于朴素贝叶斯模型是独立采样像素,但是相邻像素之间其实非常相似。对于衣服,其实像素应该大致相同,但是模型随机采样,因此得到上图中的衣服都是五颜六色的。其次,高维样本空间中的可能性太多,其中只有一小部分是可识别的。如果朴素贝叶斯模型直接处理这种高度相关的像素值,那么它找到令人满意的值组合的机会非常小。
综上所述,对于低维度而且特征低相关的样本空间,朴素贝叶斯效果通过独立采样的产生的效果很好;但对于高维度而且特征高相关的样本空间,通过独立采样像素来找到有效人脸几乎是不可能的。
这个例子强调了生成模型要想成功必须克服的两个难点:
模型如何处理高维特征之间的条件依赖关系?
模型如何从高维样本空间中找到满足条件的极小比例观察结果?
生成模型要想在高维度而且特征高相关的样本空间中成功,必须要利用深度学习模型。我们需要一个可以从数据中推断出相关结构的模型,而不是被告知要提前做出哪些假设。深度学习可以在低维空间中形成自己的特征,而这就是表征学习 (representation learning) 的一种形式。
表征学习就是学习高维数据的表示的含义。
假设你去见一个从未见过面的网友,到达相约地点人很多根本找不到她,你打电话给她描述你的样子。相信你不会说你图像中像素 1 的颜色是黑,像素 2 的颜色是淡黑,像素 3 的颜色是灰等等。相反你会认为网友会对普通人的外貌有一个大概的了解,然后给予这个了解再描述像素组的特征,比如,你有一头乌黑亮丽的短发,戴着一双金光闪闪的眼镜等等。通常不超过 10 个这样的描述,网友就可以从脑海中生成你的图像,该图像可能很粗糙,但不妨碍网友从几百个人中找到你,即便她从来没有见过你。
这个就是表征学习背后的核心思想,不尝试直接对高维样本空间 (high-dimensional sample space) 进行建模,而是使用一些低维潜在空间 (low-dimensional latent space) 来描述训练集中的每个观察结果,然后学习一个映射函数 (mapping function),该函数可以获取潜在空间中的一个点并将其映射到原始样本空间。换句话说,潜在空间中的每个点都表示着高维数据的特征。
上面的话如果不好理解,请看下图由一些灰度罐子图像组成的训练集。
不难看出,这些罐子可以仅用两个特征来描述:高度和宽度。因此我们可以图像的高维像素空间转换成二维潜在空间,如下图所示。这样我们可以从潜在空间采样 (蓝点),然后通过映射函数 f 将其转换成图像。
认识到原始数据集可以用更简单的潜在空间来表示这件事情对于机器来说并不容易,首先机器需要确定高度和宽度是最能描述该数据集的两个潜在空间维度,然后学习映射函数 f 可以在这个空间中取一个点并将其映射到灰度罐图。 深度学习使我们能够训练机器,使其无需人类指导即可找到这些复杂的关系。
所有类型的生成模型最终都旨在解决相同任务,但它们对密度函数的建模方法都略有不同, 一般来说有以下两类:
对密度函数显式建模 (explicitly modeling),
但以某种方式约束模型,以便计算密度函数,比如标准化流模型(normalizing FLOW model)
但是对密度函数做逼近,比如变分自动编码器 (variational autoencoder, VAE) 和扩散模型 (diffusion model)
对密度函数隐式建模 (implicitly modeling),通过直接生成数据的随机过程。比如生成对抗网络 (generative adversarial network, GAN)
生成式人工智能 (GenAI) 是一种可用于创建新的内容和想法 (包括文字、图像、视频和音乐) 的人工智能。与所有人工智能一样,GenAI 是由深度学习模型基于大量数据进行预训练的超大型模型,通常被称为根基模型 (foundation model, FM)。有了 GenAI,我们能画出更炫酷的图像,写出更优美的文字,谱出更动人的音乐,但第一步需要我们去了解 GenAI 怎么创造新的东西,正如文头 Richard Feynman 所说的“我不会明白我无法创造的东西”。
金色财经
企业专栏
阅读更多
Foresight News
金色财经 Jason.
白话区块链
金色早8点
LD Capital
-R3PO
MarsBit
深潮TechFlow
用“大起大落”这个词来形容今年6月以来BTC的走势一点都不为过,准确来说应该是先大落后大起。BTC价格首先在六月初受币安被起诉黑天鹅事件叠加美债抽取流动性等负面因素影响,BTC一度跌至最低248.
1900/1/1 0:00:00作者:Blueberry & Bloom Protocols,medium 翻译:善欧巴,金色财经稳定币是一类独特的加密货币,已成为数字资产生态系统的关键组成部分.
1900/1/1 0:00:00作者:James Ho 、Joyce 提起Animoca Brands,相信很多圈内人并不陌生,它是 GameFi 龙头项目 Axie 创始人的第一个投资人.
1900/1/1 0:00:00币圈从不缺空投造富神话。2021年8月,dYdX宣布为早期6万多名交易者发放总计7500万枚代币,高点DYDX代币每枚超过25美金.
1900/1/1 0:00:00原文作者:Sally Gu,OKX Ventures 研究员 疫情影响加上鲍威尔接手耶伦后美联储接连降息.
1900/1/1 0:00:00编译:Nick今天,我们将研究探讨一下LSD支持的稳定币,这些稳定币为持有者提供了避免损失成本和赚取收益的机会,同时也保留了稳定币的关键属性.
1900/1/1 0:00:00