当与区块链数据集一起使用时,机器学习模型往往会过拟合。什么是过度拟合以及如何解决?
乍一看,使用机器学习来分析区块链数据集的想法听起来非常吸引人,但这是充满挑战的道路。在这些挑战中,当将机器学习方法应用于区块链数据集时,缺少标记数据集仍然是要克服的最大难题。这些局限性导致许多机器学习模型使用非常小的数据样本进行操作,以训练和过度优化那些引起过拟合现象的模型。今天,我想深入探讨区块链分析中的过度拟合挑战,并提出一些解决方案。
过度拟合被认为是现代深度学习应用程序中的最大挑战之一。从概念上讲,当模型生成的假设过于适合特定数据集的假设而无法适应新数据集时,就会发生过度拟合。理解过度拟合的一个有用类比是将其视为模型中的幻觉。本质上,模型从数据集中推断出错误的假设时会产生幻觉/过度拟合。自从机器学习的早期以来,已经有很多关于过拟合的文章,所以我不认为有任何聪明的方法来解释它。对于区块链数据集,过度拟合是缺少标记数据的直接结果。
直击乌镇 | 腾讯区块链蔡弋戈:DCEP?将促进数字资产应用落地更加闭环,加速合规化进程:金色财经现场报道,在今日举行的第二届世界区块链大会·乌镇现场,腾讯区块链业务总经理蔡弋戈以《数字资产基础设施的产业化道路思考》为主题进行分享。他表示,DCEP?将促进数字资产应用落地更加闭环,加速合规化进程。DCEP的落地完成了支付,流转换的链上闭环,并进一步促进了财税,司法,社会服务等领域对数字资产的认可,并推动合规化进程。[2019/11/8]
区块链是大型的半匿名数据结构,其中的所有事物都使用一组通用的构造表示,例如交易,地址和区块。从这个角度来看,有最少的信息可以证明区块链记录。这是转账还是付款交易?这是个人投资者钱包或交易所冷钱包的地址?这些限定符对于机器学习模型至关重要。
想象一下,我们正在创建一个模型来检测一组区块链中的交换地址。这个过程需要我们使用现有的区块链地址数据集训练模型,我们都知道这不是很常见。如果我们使用来自EtherScan或其他来源的小型数据集,则该模型可能会过度拟合并做出错误的分类。
声音 | IBM公司数据网络技术顾问:未来区块链在金融上的应用会不断增多:金色财经报道,IBM公司数据网络技术顾问王霄表示,区块链绝对不等同于数字货币,它是一种有机结合的分布式系统、密码学、点对点通信等技术的新的应用模式,你可以理解成一个全新的共享大数据库。由于区块链技术具有分布式、难以篡改、可追溯、开放性等突出特点,未来区块链在金融上的应用会不断增多。[2019/10/31]
使过拟合变得如此具有挑战性的方面之一是很难在不同的深度学习技术中进行概括。卷积神经网络倾向于形成过拟合模式,该模式与观察到的与生成模型不同的递归神经网络不同,该模式可以外推到任何类型的深度学习模型。具有讽刺意味的是,过度拟合的倾向随着深度学习模型的计算能力线性增加。由于深度学习主体几乎可以免费产生复杂的假设,因此过拟合的可能性增加了。
在机器学习模型中,过度拟合是一个持续的挑战,但是在使用区块链数据集时,这几乎是必然的。解决过度拟合的明显答案是使用更大的训练数据集,但这并不总是一种选择。在IntoTheBlock,我们经常遇到过度拟合的挑战,我们依靠一系列基本方法来解决问题。
声音 | 黄奇帆:区块链等五大科技构成“大智移云”基础平台:据新浪财经报道,由中国金融四十人论坛(CF40)主办“第三届中国金融四十人伊春论坛”今日在伊春举行,CF40学术顾问黄奇帆发表演讲表示,颠覆已经成为互联网见怪不怪的经济现象,大数据、云计算、人工智能、区块链以及包括互联网、移动互联网、物联网等移动通讯在内的网络平台——五大现代信息科技构成的“大智移云”基础平台。[2019/8/10]
对抗区块链数据集过拟合的三种简单策略
对抗过度拟合的第一个规则是认识到这一点。虽然没有防止过度拟合的灵丹妙药,但实践经验表明,一些简单的,几乎是常识的规则可以帮助防止在深度学习应用中出现这种现象。为了防止过度拟合,已经发布了数十种最佳实践,其中包含三个基本概念。
数据/假设比率
当模型产生太多假设而没有相应的数据来验证它们时,通常会发生过度拟合。因此,深度学习应用程序应尝试在测试数据集和应评估的假设之间保持适当的比率。但是,这并不总是一种选择。
声音 | 京东孙海波:京东布局区块链的三点原因:金色财经讯,近日,BTV《解码区块链》第27期邀请了京东大数据与智能供应链事业部区块链研发负责人孙海波,孙海波表示,京东布局区块链主要有三方面的考虑。第一就是区块链能够支撑创新,区块链技术特性可以很好的支撑创新应用;第二个就是区块链本身就在发展当中,需要持续地投入研发力量,才能大规模的支撑企业级应用;第三个就是配合京东的一些战略,比如说京东的云战略、AI战略和大数据战略,我们认为区块链的特性跟这些战略能够起到抵押的一个效应,能够在未来的技术的发展当中,发挥更大的一个作用。[2019/5/16]
有许多深度学习算法(例如归纳学习)依赖于不断生成新的,有时是更复杂的假设。在这些情况下,有一些统计技术可以帮助估计正确的假设数量,以优化找到接近正确的假设的机会。尽管此方法无法提供确切的答案,但可以帮助在假设数量和数据集组成之间保持统计平衡的比率。哈佛大学教授莱斯利·瓦利安特(Leslie Valiant)在他的《大概是正确的》一书中出色地解释了这一概念。
Lightning Labs负责人:我们正在进入比特币,而不是区块链的世界:Lightning Labs负责人表示:“现在,我觉得我们已经进入了一个‘比特币,而不是区块链’的世界,那里的人们了解加密货币技术的价值,以及这些技术能带来什么,”Stark对雅虎说,他指的是“让比特币变得特别”的工作证明和公钥/私钥加密技术。[2018/4/9]
进行区块链分析时,数据/假设比率非常明显。假设我们正在基于一年的区块链交易构建预测算法。因为我们不确定要测试哪种机器学习模型,所以我们使用了一种神经架构搜索(NAS)方法,该方法针对区块链数据集测试了数百种模型。假设数据集仅包含一年的交易,则NAS方法可能会产生一个完全适合训练数据集的模型。
支持简单假设
防止深度学习模型过度拟合的概念上琐碎但技术上困难的想法是不断生成更简单的假设。当然!简单总是更好,不是吗?但是在深度学习算法的背景下,一个更简单的假设是什么?如果我们需要将其减少到一个定量因素,我会说深度学习假设中的属性数量与它的复杂度成正比。
简单的假设往往比其他具有大量计算和认知属性的假设更易于评估。因此,与复杂模型相比,较简单的模型通常不易过拟合。现在,下一个明显的难题是弄清楚如何在深度学习模型中生成更简单的假设。一种不太明显的技术是基于估计的复杂度将某种形式的惩罚附加到算法上。该机制倾向于倾向于更简单,近似准确的假设,而不是在出现新数据集时可能会崩溃的更复杂(有时甚至更准确)的假设。
为了在区块链分析的背景下解释这个想法,让我们想象一下我们正在建立一个模型,用于对区块链中的支付交易进行分类。该模型使用一个复杂的深度神经网络,该网络会生成1000个特征以执行分类。如果将其应用于较小的区块链(例如Dash或Litecoin),则该模型很可能会过拟合。
偏差/方差余额
偏差和方差是深度学习模型中的两个关键估计量。从概念上讲,偏差是模型的平均预测与我们试图预测的正确值之间的差。具有高偏差的模型很少关注训练数据,从而简化了模型。总是会导致培训和测试数据的错误率很高。或者,方差是指给定数据点的模型预测的可变性或一个告诉我们数据分布的值。具有高方差的模型将大量注意力放在训练数据上,并且没有对以前从未见过的数据进行概括。结果,这样的模型在训练数据上表现很好,但是在测试数据上有很高的错误率。
偏差和方差与过度拟合如何相关?用超简单的术语来说,可以通过减少模型的偏差而不增加其方差来概括泛化的技巧。深度学习的一种良好做法是对它进行建模,以定期将产生的假设与测试数据集进行比较并评估结果。如果假设继续输出相同的错误,则说明我们存在很大的偏差问题,需要调整或替换算法。相反,如果没有明确的错误模式,则问题在于差异,我们需要更多数据。
综上所述
? 任何低复杂度模型-由于高偏差和低方差,容易出现拟合不足。
? 任何高复杂度模型(深度神经网络)-由于低偏差和高方差,容易出现过度拟合。
在区块链分析的背景下,偏差方差摩擦无处不在。让我们回到我们的算法,该算法尝试使用许多区块链因素来预测价格。如果我们使用简单的线性回归方法,则该模型可能不合适。但是,如果我们使用具有少量数据集的超复杂神经网络,则该模型可能会过拟合。
使用机器学习来分析区块链数据是一个新生的空间。结果,大多数模型在机器学习应用程序中都遇到了传统挑战。根本上,由于缺乏标记数据和训练有素的模型,过度拟合是区块链分析中无所不在的挑战之一
伊拉克的一声炮响,为我们送来了减半行情注定不平凡的庚子年,第一只黑天鹅就飞得令人猝不及防。美国对伊朗高级指挥官苏莱曼尼在伊拉克巴格达机场附近实施斩首行动,美伊两国的紧张危机仍在持续升级.
1900/1/1 0:00:00原标题: 一号文件三农领域是区块链应用场景之一,新基建才是区块链主战场! 2020年中央一号文件正式发布:《关于抓好“三农”领域重点工作 确保如期实现全面小.
1900/1/1 0:00:00对加密领域持悲观态度的人有时会听到这样一句话:区块链技术有光明的未来,但加密货币却没有。这种观点忽视了密码货币代币和区块链是同一枚硬币的两面.
1900/1/1 0:00:00(山脚的草地,梵高)以太坊不同于单纯的数字货币,它为区块链引入了智能合约。它开启了区块链项目的新类型.
1900/1/1 0:00:00昨日迎来利好,并在其余平台币大涨的带动下,价格也出现了大幅拉升,从最低3.84美元直线拉涨至最高4.79美元,涨幅接近25%,反弹相当强势,成交量也创出近期新高,由于利好落地涨幅过快.
1900/1/1 0:00:00总部位于英国的加密货币数据和钱包提供商Blockchain.com在其加密货币交易所上为土耳其里拉推出了法币通道.
1900/1/1 0:00:00