IND:为大负荷设计的 Filecoin 索引器可扩展方案_STARCHAINDOGE

来源：FilecoinNetwork

这篇文章描述了一个简单的策略，可将大量涌入的索引负荷分散到由索引器节点组成的索引池中。同时，它让这个索引池具备可扩展性。

索引器扩容的最终目标是10^{15}个索引。这并非存储数据的字节大小，而是存储索引的数量。一个索引实际上就是一张描述了CID标识与内容提供者数据之间关系的映射图。实际的数据规模将会远大于此。目前，我们可处理约10^{12}个索引，随着时间的推移，我们会通过一列步骤向最终的扩容目标前进。

目前，大部分的索引负荷是由涌入的索引数据构成的。新增的数据可能超过单一的索引器能够承受的范围，它还在极速增加。因此，目前扩容路上最迫切的目标，就是处理增加中的涌入负荷。

方案：处理索引涌入的简单策略

数据涌入

一个索引器接收到某个发布者传来的“announce”消息，宣布已经有新的索引数据广告时，就会发生数据涌入。作为回应，该索引器会从发布者那里检索所有尚未检索过的索引数据。随着发布者数量增加，在某个时候，单一的索引器节点将无法跟上新增索引数据发布的速率，也可能没有足够的存储空间来全部存储这些数据。

分散涌入负荷

索引器扩容处理拥堵负载，是基于一个简单策略——将涌入的索引负荷分散到由索引器节点组成的索引池中，这样就能根据容量需求来增加节点，而不需要将数据到处移动来重新达到均衡。它先是分配不同的内容_发布者_给不同的索引节点，这样每个节点可以处理涌入负荷的一部分。这是通过使用单独的轻量服务AssignerService来实现的，后者不属于关键的索引涌入路径的一部分。

报告：如果SBF没被指控从事欺诈活动，FTX也会因为大量安全问题而倒闭:金色财经报道，正在进行的FTX破产传奇中的一份新中期报告描绘了该交易所资产的不安全程度，并提供了有关公司无能和可能渎职行为的更多细节。该报告表示，如果SBF没有被指控从事欺诈活动，那么FTX及其附属公司可能会因为新报告中概述的大量安全问题而倒闭。报告称，持有价值数千万美元资产的热钱包的密钥没有安全存储，对热钱包本身的依赖违反了标准的行业惯例。FTX和Alameda的数字资产可能永远丢失，除了极易遭到盗窃或黑客攻击外，许多钱包密钥也没有备份。 该报告由公司临时首席执行官JohnRay III和一个外部法律团队编写，对SBF商业行为的混乱进行了更多详细说明，并将其归因于“傲慢、无能和贪婪”。[2023/4/11 13:55:31]

当一个索引器达到了配置的存储限制后，它就会停止吸纳新增的索引数据，而索引池里的其他索引器会从分配给完整索引器的发布者那里恢复吸纳数据。如果存储容量和涌入负荷分配需求增加，池子里就会增加更多的索引器节点。

这个扩容策略的三个主要组件是：

分配服务：它将发布者分配给索引器。

索引器冻结模式：这种索引器运作模式里，新内容不会被索引。

移交发布者任务：将冻结中的索引器的发布者任务重新分配给活跃的索引器，以在冻结索引器停止运行后恢复索引。

Michael Saylor：正为大企业加入比特币闪电网络研究解决方案:金色财经消息，MicroStrategy执行主席Michael Saylor表示，该公司的开发人员正在研究允许大量人员加入闪电网络（Lightning）的解决方案，包括闪电网络的企业应用：企业闪电钱包、企业闪电服务器、企业身份验证。

据悉，闪电协议允许用户在链上结算之前相互打开支付渠道并交换多笔交易，这有助于最大限度地减少费用和确认时间。在比特币网络中，交易通常需要 10 分钟或更长时间才能被确认。（CoinDesk）[2022/9/5 13:09:15]

这篇文章会概括描述这些组件。可以在设计文档和设计展示中获取更多信息。

扩容策略的优缺点

优点：

更少的同步工作：不需要让每一个索引者与每一个发布者同步。

元数据不会重复发送给多个索引器：元数据只会在处理提供者的索引器上存在。

索引器之间不会分享数据。它们各自管理自己的发布者链。

不需要只为了检查提供者而去阅读广告，这与提供者分片一样。

索引器可有不同的存储容量。

不需要共识机制。

涌入负荷可重新分配，而无需在索引器之间移动数据。

缺点：

Arca首席投资官：促进NFT的公司和项目可能成为大赢家:Arca首席投资官Jeff Dorman表示，NFT狂热在本周创下了新高，一件数字艺术品在拍卖会上以6930万美元的价格售出。但除此之外，当几乎所有其他的价格也在飙升时，很难说这是疯狂的。Dorman认为NFT狂热充满了类似“严重通货膨胀”的恐惧。此外，Dorman表示，NFT的范围将超越收藏品、艺术和游戏等当前的用例，扩展到更传统的用例，如KYC、资产支持的贷款、特定房产的部分所有权等。Dorman认为，从投资的角度来看，促进NFT增长和交易的公司和项目可能成为大赢家。（CoinDesk）[2021/3/13 18:41:28]

不平均的分配：一些发布者可能会比其他发布者索引更多的数据。

查询请求需要分散和合并：查询请求会重复发送给所有索引器，而响应会合并成一个发送给客户。

提供者更改发布者可导致重复索引。

增加索引者不会马上起效，除非一个现有的索引器达到了存储容量限制。

这方案的整体好处是它的实施方案相对简单，也能去除拥堵扩容的限制。

分配服务

分配服务负责将发布者分配给在其配置索引器池中的索引者。对一个索引器池来说，它作为单一实例运行在其管理的索引器所在的同一网络上。一个索引器只能作为一个分配服务的索引器池里的成员。

俄罗斯专家：数字货币或让美元成为大输家:据俄罗斯今日经济网站消息，俄罗斯联邦政府财政金融大学专家康斯坦丁·奥尔多夫表示，美联储已开始研究发行电子美元的问题，这预示着世界金融体系将出现变化。奥尔多夫在谈及美联储的计划时表示：“发行电子美元的想法极为迫切，而且一定会落实。美联储内部可能清楚：数字人民币和其他数字货币即将到来。其中任何一种都可能为有能力在中心化的货币流动中有效使用新型货币和去中心化技术的国家带来竞争优势。”他表示：“可能发行加密货币以补充甚至取代过时货币的国家不只有俄罗斯。各国都清楚：美元已经过时并成为某种导致世界经济陷入瘫痪的货币。因此它们提出了如何替代美元的问题。而问题的答案可能就藏在数字货币中。数字货币研发进程一旦启动，美国可能成为大输家。”[2021/3/1 18:01:52]

除了将新的发布者分配给索引器外，分配服务还检测检索器节点是否进入了冻结模式，并负责将发布者从冻结索引器重新分配给非冻结的索引器。索引服务还通过gossippubsub渠道重新发布直接的HTTP公告，这样池中的所有索引器都能接收到这些信息。

基于几个假设，分配服务是用于单个私有部署中使用：任务可以发给任何索引器，所有索引器的管理API是在私有网络上运行，而且也没有建立任何方式或协议让不同的参与方管理池子中要添加或移除的节点。

将一个发布者分配给一个索引器

声音 | 香港理工大学曹建农：区块链技术将为大数据的共享和交换提供支持:据人民网报道，香港理工大学电子计算学系系主任、华为区块链奠基者曹建农在今日举行的2019数博会“区块链：数字文明的基石”高端对话上表示，区块链技术将为大数据的共享和交换提供支持。他说：“大数据不是说有了数据就可以用得非常好，大数据是多元的，他们来自不同领域，我们要解决一个问题时，要用到很多不同领域的数据，如何共享我们的数据，这就需要区块链技术，为大数据共享和交换提供支持。” 曹建农还表示，区块链有三个性质：去中心化、透明性和不可更改，去中心化可以保证私隐性、透明性和不可更改性，即也保证了数据的权威性，大家互相信任，数据在实现共享和交换时，区块链便可以满足这些要求。[2019/5/27]

一个索引器接收到某个发布者传来的“announce”消息，宣布已经有新的索引数据广告时

分配服务会监听gossip-sub和直接的HTTP消息——这些消息主要是宣布新广告可被获取了。它从每一条消息中读取发布者信息，并判断发布者是否已经分配给需要的索引器。如果答案是否定的，该分配服务就会选择任务量最少的索引器，并将该发布者分配给这个索引器。在分配任务后，索引器会收到来自发布者的公告，并自行处理涌入数据。

索引服务会处理离线的索引器，它所用的方式能避免在索引器池里过度分配任务。索引服务还支持将特定发布者分配给特定索引器的配置选项。

进一步阅读材料：

非持久化任务状态(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#no-persisted-assignment-state)意味着索引器能在任何时候停止或重启。

索引器池(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#indexer-pool)在某个单一部署中的索引器节点的集合。

任务复制(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#replication)将发布者分配给多个索引器。

索引器冻结模式

索引器存储使用触及到配置`FreezeAtPercent(<``https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer`(https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer"https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer")`>)`的限制后，索引器自动进入“冻结”模式。这个运作模式里，索引器不再存储新增的索引数据，但还是会处理索引数据的更新或删除。一个冻结的索引器不会接受新的发布者任务。在其内部，该索引器追踪它已读的每一个广告链，目的是纳入广告。索引器会持续响应对索引数据的查询。

索引器也可以通过其管理(admin)API来手动进行冻结。这可以是为了暂时冻结纳入数据，直到索引器的存储容量提升为止。这样，持续的索引工作可以被其他索引器节点代替。

进一步阅读材料：

磁盘使用监控(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#disk-usage-monitoring)由每一个索引器负责。

冻结的能力不依赖于分配服务(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#freeze-independent-of-assigner)。

解除冻结的能力(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#unfreeze)可让索引器恢复索引工作。

发布者移交

分配服务定期统计索引器，要是它发现某个索引器被冻结，它就会将该被冻结的索引器分配的发布者重新移交给其他索引器——活跃的索引器会继续之前冻结索引器上所做的工作。在移交过程中，活跃的索引器也会从冻结的索引器那取得提供者及其相关的进一步信息。

分配服务决定哪一个索引器将接收发布者的移交工作——这与分配新发布者的逻辑一样。每一个发布者的移交过程都会单独进行这一步骤，这样冻结索引器的任务就会分配给池子里的可用索引器。

进一步阅读材料：

分配服务可以恢复不完整的移交任务(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#resuming-incomplete-handoff)。

发布者数据在冻结和活跃索引器之间分发。(https://github.com/ipni/storetheindex/blob/main/doc/scaling-design-for-indest.md#publisher-data-spread-across-frozen-and-active-indexers)

设立带有分配服务的索引器池

这里(https://github.com/ipni/storetheindex/blob/main/doc/assigner-deployment.md#setting-up-indexer-pool-with-assigner-service)描述了设立带有分配服务的索引器池的过程。可概括为以下步骤：

部署索引器(https://github.com/ipni/storetheindex/blob/main/doc/assigner-deployment.md#deploy-indexers)

部署分配服务(https://github.com/ipni/storetheindex/blob/main/doc/assigner-deployment.md#deploy-assigner-service)

按需部署额外的索引器(https://github.com/ipni/storetheindex/blob/main/doc/assigner-deployment.md#example-assigner-service-configuration)

这里还提供了分配服务配置模板文件(https://github.com/ipni/storetheindex/blob/main/doc/assigner-deployment.md#example-assigner-service-configuration)。

标签：INDnDEXDEXINDEXSTARCHAINDOGEIndex CooperativeDEXA COINFrax Price Index

DOGE热门资讯