原文来自:Modulus Labs
编译:DeFi 之道
很高兴终于可以与你们分享我们的第一篇论文,该论文是通过以太坊基金会的资助完成的,它的名称是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge?》(或 paper0,这是酷孩子们的叫法)。
没错,这些都是真数字!有图表!论文还讨论了理论结构及其对性能的影响!事实上,paper0 是第一个跨通用 AI 原语套件对 ZK 证明系统进行基准测试的研究工作,你现在就可以阅读整篇论文。
而这篇文章,你可以将其视为论文的总结,有关详细信息,请参阅原论文。
事不宜迟,让我们深入了解:
事实上,计算的未来将大量使用复杂的人工智能。看看我的文本编辑器:
Notion 的提示告诉我,他们的 LLM 可以让这句话变得更好
Coinbase:已禁止Gala V1交易,建议用户将GALA转至自托管钱包:5月14日消息,Coinbase Assets宣布,目前Coinbase已禁止了Gala V1(GALA)的交易,但用户仍然可以访问自己的Token并能够随时提款。另据此前 Gala Games 官方消息,5月15日将弃用现有的Gala V1并将在新的合约地址下发布Gala V2,但Coinbase将不支持Gala V2的任何空投,这意味着在计划的快照之前、之时或之后在 Coinbase、Pro、Exchange 或 Prime 中持有 GALA 资金并不能使用户获得任何 Gala V2 的潜在空投,Coinbase 建议可以将 Gala V1 转移到自托管钱包。[2023/5/14 15:02:25]
然而,链上不存在功能性神经网络,甚至连最小的推荐系统或匹配算法都不存在。真见鬼!甚至连实验也没有一个……当然,原因是非常明显的,因为这太贵了,毕竟,即使运行价值数十万 FLOP 的计算(仅够在微型神经网络上进行一次推理)的成本也是数百万 gas,目前相当于数百美元。
那么,如果我们想将 AI 范式带入无需信任的世界,我们该怎么做?我们会翻车(roll-over),然后放弃(give up)吗?当然不是…等等!Roll-over)……Give up……
加密新闻媒体The Block解雇27名员工:金色财经报道,据消息人士称,加密货币新闻媒体网站The Block周五裁撤27名员工。裁员分布在公司的多个职能部门,包括编辑、研究、工程、销售、收入和企业运营,其中几乎一半来自编辑和研究部门。
此前报道,The Block CEO因未披露从Alameda Research获得4300万美元贷款引咎辞职,Bobby Moran接任。根据Axios的一项调查,The Block尚未盈利。(Blockworks)[2023/2/8 11:53:45]
如果像 Starkware、Matter Labs 和其他公司这样的 Rollup 服务,正在使用零知识证明来大规模扩展计算,同时保持密码学安全,那么我们能为 AI 做同样的事情吗?
这个问题成为推动我们在 paper0 中工作的激励种子。 剧透警报,以下是我们发现的:
paper0 总结
这是众所周知的秘密:AI 性能几乎总是与模型大小成比例。 这种趋势看起来也没有放缓。 只要这种情况仍然存在,对于我们这些 web3 中的人来说,这将是特别痛苦的。
PeckShield:FriesDAO攻击者将237万美元被盗资金转换ETH:11月8日消息,安全公司PeckShield监测发现,FriesDAO Profanity漏洞攻击者已通过混币器Tornado Cash将237万美元被盗资金转换ETH。
此前消息,FriesDAO遭到攻击损失约230万美元,起因是攻击者获得该协议操作者钱包的控制权,似乎是由于Profanity钱包生成器漏洞导致,这一漏洞会让通过该工具生成地址的私钥被强制使用。[2022/11/8 12:32:34]
毕竟,计算成本是我们最终、不可避免的噩梦来源。
今天的 ZKP 已经可以支持小模型了,但中型到大型模型打破了范式
对于 paper0,我们关注任何零知识证明系统中的 2 个基本指标:
证明生成时间:prover 创建 AI 推理的伴随证明所需的时间,以及
prover 内存使用峰值:证明者在证明期间的任何给定时间用于生成推理证明的最大内存;
马斯克与Twitter将在本周综合聆讯上交锋:金色财经消息,负责审理马斯克和推特(TWTR.N)之间诉讼的特拉华州法官安排在本周举行一次聆讯,就一系列问题进行口头陈述,其中包括马斯克修改其反诉的要求。法官Kathaleen McCormick在上周五的一份文件中说,她将考虑双方提出的几项悬而未决的法律动议,例如,马斯克最近要求将Twitter前安全主管Pieter Zatko的举报人投诉中的指控加入到他的反诉中。马斯克还要求将为期五天的无陪审团审判从今年10月推到11月。(金十)[2022/9/6 13:10:23]
这主要是一个实际的选择,并且是从我们构建 Rockybot 的经验中做出的(证明时间和内存使用是确定任何无需信任人工智能用例可行性的直接优先事项)。 此外,所有测量都是针对证明生成时间进行的,并且没有考虑预处理或 witness 生成。
当然,还有其他方面的成本需要跟踪。 这包括验证者运行时间和证明大小。我们将来可能会重新审视这些指标,但将它们视为 paper0 的范围之外。
至于我们测试的实际证明系统,通过投票,我们选定了 6 个:
ARK基金近日增持近3万股Coinbase股票:金色财经消息,据ARK方舟基金持仓数据显示,5月24日至5月25日,Cathie Wood的ARK投资管理公司的基金共买入83625股Coinbase Global(COIN)股票,卖出54034股,增持近3万股Coinbase股票。[2022/5/27 3:44:59]
Paper0 测试的证明系统汇总表,以及协助我们的作者
最后,我们创建了两套用于基准测试的多线性感知器(MLP)——值得注意的是,MLP 相对简单,主要由线性运算组成。这包括一套随着参数数量增加而扩展的架构(最多 1800 万参数和 22 GFLOP),以及第二套随着层数增加而扩展(最多 500 层)的架构。如下表所示,每个套件都测试了证明系统以不同方式扩展的能力,并大致代表了从 LeNet5(6 万参数,0.5 MFLOP)到 ResNet-34(2200 万参数,3.77 GFLOP)的知名深度学习(ML)架构的规模。
参数和深度基准套件
对于以上 6 个证明系统的参数和深度范围的证明生成时间结果
对于以上 6 个证明系统的参数和深度范围内的峰值内存结果
有关这些结果的完整内容,以及对每个系统内瓶颈的深入分析,请参阅 paper0 的第 4 节。
好吧,以上是一些非常简洁的图表,而以下则是要点:
那这在实践中究竟意味着什么? 我们将重点介绍 2 个示例:
1、Worldcoin:Worldcoin 正在构建世界上第一个“隐私保护身份证明协议”(或 PPPoPP),换句话说,通过将身份验证与一种非常独特的生物特征(虹膜)联系起来来解决女巫攻击问题。这是一个疯狂的想法,它使用卷积神经网络来压缩、转换和证明存储的虹膜数据。虽然他们当前的设置涉及 orb 硬件中安全飞地内的可信计算环境,但他们希望改为使用 ZKP 来证明模型的正确计算。这将允许用户对自己的生物特征数据进行自我保护,并提供加密安全保证(只要在用户的硬件上进行处理,比如手机)。
现在具体一点:Worldcoin 的模型具有 180 万参数和 50 层。 这是区分 100 亿个不同虹膜所必需的模型复杂性。 哎呀!
虽然在计算优化的云 CPU 上证明 Plonky2 等系统,可以在几分钟内为这种规模的模型生成推理证明,但证明者的内存消耗将超过任何商用移动硬件(数十 GB 的 RAM)。
事实上,没有一个测试系统能够在移动硬件上证明这个神经网络……
2. AI Arena:AI Arena 是一款类似于《任天堂明星大乱斗》风格的链上平台格斗游戏,其具有一个独特的特点:玩家并不是操作化身实时进行对抗,而是让玩家拥有的 AI 模型相互竞争和战斗,是的,这听起来很酷。
随着时间的推移,AI Arena 的出色团队正努力将他们的游戏转向一个完全无需信任的锦标赛计划。但问题是,这涉及验证每次游戏数量惊人的 AI 计算的挑战。
比赛以每秒 60 帧的速度运行,持续 3 分钟时间。这意味着每轮比赛,两个玩家模型之间的推理结果超过 20000 个。以 AI Arena 的一个策略网络为例,一个相对较小的 MLP 需要大约 0.008 秒来执行一次前向传递,使用 zkCNN 证明该模型需要 0.6 秒,即,每采取一次动作就需要增加 1000 倍的计算。
这也意味着计算成本将增加 1000 倍。随着单元经济对链上服务变得越来越重要,开发人员必须平衡去中心化安全的价值与证明生成的实际成本。
https://aws.amazon.com/ec2/pricing/
无论是上面的例子,ZK-KYC,DALL-E 风格的图像生成,还是智能合约中的大型语言模型,ZKML 的世界中都存在着一个完整的用例世界。然而,要真正实现这些,我们强烈认为 ZK prover 仍需要大量改进。特别是对于自我完善的区块链的未来。
那么,我们该何去何从?
我们有具体的表现数据,我们知道在证明神经网络时哪些技术往往表现最好。当然,我们开始发现各种用例,这些用例激励了我们不断成长的社区。
我想知道接下来会发生什么……
很快就会为你们提供更多更新;)
隔夜的粥
个人专栏
阅读更多
金色财经
金色早8点
Odaily星球日报
Arcane Labs
澎湃新闻
欧科云链
深潮TechFlow
MarsBit
BTCStudy
链得得
作者:追风 Lab用户通过 Web3 任务管理平台,可以在同一平台上接触并了解到多类项目,并通过做任务来获得相应奖励,如 NFT、POAP、空投资格、代币奖励等,投入的成本以及风险相对较低.
1900/1/1 0:00:00近日DeFi研究员Ignas发表了对2023年的10大加密货币和DeFi预测。原因如下:Robinhood在2021年从费用中获得了3.63亿美元的净收入(5200万美元来自股票、4800万美元.
1900/1/1 0:00:00来源:twitter.com/SalomonCrypto作者:Tyrannosaurus Haym翻译:Renaissance(1/25) 面对现实吧,以太坊的用户体验很糟糕.
1900/1/1 0:00:00撰文:Andrew T,Nansen编译:Frank,Foresight News1 月 31 日,NFT 交易协议 sudoswap 正式发布治理代币 SUDO 并开启治理模块.
1900/1/1 0:00:00原文作者:WinterSoldierxz原文来源:Twitter原文编译:JamesX,MarsBit/img/2023525235055/0.jpg" />除了为引导流动性而出现的最初的排放高.
1900/1/1 0:00:00作者:Bitdeer 首席研究员 冬兵目前市场上有三大 FUD 源头:1. 矿工;2. DCG;3. 币安。不过我感觉市场对于这三个事件都有点渲染过度了,实际情况并非如想象的那样悲观.
1900/1/1 0:00:00