来源:新智元
ChatGPT爆火之后,谷歌和微软两巨头的AI大战战火,已经烧到了新的领域——服务器芯片。
如今,AI和云计算都成了必争之地,而芯片,也成为降低成本、赢得商业客户的关键。
原本,亚马逊、微软、谷歌这类大厂,都是以软件而闻名的,而现在,它们纷纷斥资数十亿美元,用于芯片开发和生产。
各大科技巨头研发的AI芯片
ChatGPT爆火,大厂开启芯片争霸赛
根据外媒TheInformation的报道以及其他来源,这三家大厂现在已经推出或计划发布8款服务器和AI芯片,用于内部产品开发、云服务器租赁或者二者兼有。
「如果你能制造出针对AI进行优化的硅,那前方等待你的将是巨大的胜利」,研究公司Forrester的董事GlennO’Donnell这样说。
付出这些巨大的努力,一定会得到回报吗?
答案是,并不一定。
Rescale与英伟达合作构建自动化工业元宇宙:7月19日消息,高性能云计算服务商Rescale宣布与英伟达达成合作,将 Nvidia GPU Cloud(NGC)集成到其用于高性能计算(HPC)应用程序的容器库中,帮助企业构建数字孪生并打造工业元宇宙的基础构建模块。据悉,韩泰轮胎已经在Rescale与英伟达合作构建的工业元宇宙中进行新轮胎设计研发,包括在虚拟世界中进行各种“数字孪生轮胎”的测试工作,继而加快产品开发速度。(venturebeat)[2022/7/20 2:24:16]
英特尔、AMD和英伟达可以从规模经济中获益,但对大型科技公司来说,情况远非如此。
它们还面临着许多棘手的挑战,比如需要聘请芯片设计师,还要说服开发者使用他们定制的芯片构建应用程序。
不过,大厂们已经在这一领域取得了令人瞩目的进步。
根据公布的性能数据,亚马逊的Graviton服务器芯片,以及亚马逊和谷歌发布的AI专用芯片,在性能上已经可以和传统的芯片厂商相媲美。
亚马逊、微软和谷歌为其数据中心开发的芯片,主要有这两种:标准计算芯片和用于训练和运行机器学习模型的专用芯片。正是后者,为ChatGPT之类的大语言模型提供了动力。
此前,苹果成功地为iPhone,iPad和Mac开发了芯片,改善了一些AI任务的处理。这些大厂,或许正是跟苹果学来的灵感。
加密矿企Hive Blockchain与英伟达签订6600万美元的GPU采购协议:金色财经报道,加密货币矿企Hive Blockchain已加入英伟达网络云服务提供商计划,并签订了总合同价值为6600万美元的GPU采购协议。这些GPU将在2021年剩余的几个月交付,交付量将每月增加。[2021/7/2 0:21:34]
在三家大厂中,亚马逊是唯一一家在服务器中提供两种芯片的云服务商,2015年收购的以色列芯片设计商AnnapurnaLabs,为这些工作奠定了基础。
谷歌在2015年推出了一款用于AI工作负载的芯片,并正在开发一款标准服务器芯片,以提高谷歌云的服务器性能。
相比之下,微软的芯片研发开始得较晚,是在2019年启动的,而最近,微软更加快了推出专为LLM设计的AI芯片的时间轴。
而ChatGPT的爆火,点燃了全世界用户对于AI的兴奋。这更促进了三家大厂的战略转型。
ChatGPT运行在微软的Azure云上,使用了上万块英伟达A100。无论是ChatGPT,还是其他整合进Bing和各种程序的OpenAI软件,都需要如此多的算力,以至于微软已经为开发AI的内部团队分配了服务器硬件。
在亚马逊,首席财务官BrianOlsavsky在上周的财报电话会议上告诉投资者,亚马逊计划将支出从零售业务转移到AWS,部分原因是投资于支持ChatGPT所需的基础设施。
英伟达挖矿芯片CMP第一季度出货1.55亿美元:6月2日消息,为了缓解比特币导致的“挖矿”热潮对游戏玩家芯片供应的影响,英伟达于今年3月推出了专门针对加密货币的芯片CMP。CMP第一季度为公司带来了高达1.55亿美元的收入。英伟达预计第二季度“挖矿”芯片的收入将达到4亿美元。(第一财经)[2021/6/2 23:05:37]
在谷歌,负责制造张量处理单元的工程团队已经转移到谷歌云。据悉,云组织现在可以为TPU和在其上运行的软件制定路线图,希望让云客户租用更多TPU驱动的服务器。
谷歌:为AI特调的TPUV4
早在2020年,谷歌就在自家的数据中心上部署了当时最强的AI芯片——TPUv4。
不过直到今年的4月4日,谷歌才首次公布了这台AI超算的技术细节。
相比于TPUv3,TPUv4的性能要高出2.1倍,而在整合4096个芯片之后,超算的性能更是提升了10倍。
同时,谷歌还声称,自家芯片要比英伟达A100更快、更节能。对于规模相当的系统,TPUv4可以提供比英伟达A100强1.7倍的性能,同时在能效上也能提高1.9倍。
对于相似规模的系统,TPUv4在BERT上比A100快1.15倍,比IPU快大约4.3倍。对于ResNet,TPUv4分别快1.67倍和大约4.5倍。
英伟达RTX 3080Ti及3070Ti将发售,将限制挖矿能力:外媒wccftech报道称,英伟达RTX 3080Ti/3070Ti两款新显卡发布时间确定,将会在5月31日举办的COMPUTEX 2021电脑展上正式亮相。海外零售商公布了两款显卡的具体发售和解禁日期,其中RTX 3080Ti将在6月3日上架,6月2日媒体评测解禁。RTX 3070Ti在6月10日上架,6月9日媒体评测解禁。外媒videocardz也透露了部分信息,国外硬件品牌PALIT的两款RTX 3080Ti非公版显卡,近日通过了韩国官方认证。认证信息显示该显卡搭载12GB GDDR6X显存,带宽为384bit,规格上与RTX 3090一致。两者都采用全新的LHR核心,代表“较低的哈希算力”,意味着会从硬件层面上限制显卡的挖矿能力。并且,英伟达还为这些新显卡更新了驱动程序,从驱动、核心、BIOS三个层面封锁挖矿性能。[2021/5/21 22:28:50]
另外,谷歌曾暗示,它正在研发一款与NvidiaH100竞争的新TPU。谷歌研究员Jouppi在接受路透社采访时表示,谷歌拥有「未来芯片的生产线」。
微软:秘密武器雅典娜
不管怎么说,微软在这场芯片纷争中,依旧跃跃欲试。
此前有消息爆出,微软秘密组建的300人团队,在2019年时就开始研发一款名为「雅典娜」的定制芯片。
动态 | 英伟达比特币挖矿产业趋于饱和:据外媒报道,摩根士丹利今日发布投资研究报告,维持Nvidia(英伟达)股票“增持”评级,将目标股价从273美元调低至260美元。由于受数字加密货币挖矿产业的推动,Nvidia图形处理器的营收曾一度大幅增长。但如今,相关的资源短缺局面已经结束(市场已趋于饱和)。
摩根士丹利分析师约瑟夫·摩尔(Joseph Moore)认为,对于Nvidia而言这是一个“逆风”趋势。[2018/11/9]
根据最初的计划,「雅典娜」会使用台积电的5nm工艺打造,预计可以将每颗芯片的成本降低1/3。
如果在明年能够大面积实装,微软内部和OpenAI的团队便可以借助「雅典娜」同时完成模型的训练和推理。
这样一来,就可以极大地缓解专用计算机紧缺的问题。
彭博社在上周的报道中,称微软的芯片部门已与AMD合作开发雅典娜芯片,这也导致AMD的股价在周四上涨了6.5%。
但一位知情者表示,AMD并未参与其中,而是在开发自己的GPU,与英伟达竞争,并且AMD一直在与微软讨论芯片的设计,因为微软预计要购买这款GPU。
亚马逊:已抢跑一个身位
而在与微软和谷歌的芯片竞赛中,亚马逊似乎已经领先了一个身位。
在过去的十年中,亚马逊在云计算服务方面,通过提供更加先进的技术和更低的价格,一直保持了对微软和谷歌的竞争优势。
而未来十年内,亚马逊也有望通过自己内部开发的服务器芯片——Graviton,继续在竞争中保持优势。
作为最新一代的处理器,AWSGraviton3在计算性能上比上一代提高多达25%,浮点性能提高多达2倍。并支持DDR5内存,相比DDR4内存带宽增加了50%。
针对机器学习工作负载,AWSGraviton3比上一代的性能高出多达3倍,并支持bfloat16。
基于Graviton3芯片的云服务在一些地区非常受欢迎,甚至于达到了供不应求的状态。
亚马逊另一方面的优势还表现在,它是目前唯一一家在其服务器中提供标准计算芯片和AI专用芯片云供应商。
早在2019年,亚马逊就推出了自己的AI推理芯片——Inferentia。
它可以让客户可以在云端低成本运行大规模机器学习推理应用程序,例如图像识别、语音识别、自然语言处理、个性化和欺诈检测。
而最新的Inferentia2更是在计算性能提高了3倍,加速器总内存扩大了4倍,吞吐量提高了4倍,延迟降低到1/10。
在初代Inferentia推出之后,亚马逊又发布了其设计的主要用于AI训练的定制芯片——Trainium。
它对深度学习训练工作负载进行了优化,包括图像分类、语义搜索、翻译、语音识别、自然语言处理和推荐引擎等。
在一些情况下,芯片定制不仅仅可以把成本降低一个数量级,能耗减少到1/10,并且这些定制化的方案可以给客户以更低的延迟提供更好的服务。
撼动英伟达的垄断,没那么容易
不过到目前为止,大多数的AI负载还是跑在GPU上的,而英伟达生产了其中的大部分芯片。
据此前报道,英伟达独立GPU市场份额达80%,在高端GPU市场份额高达90%。
20年,全世界跑AI的云计算与数据中心,80.6%都由英伟达GPU驱动。21年,英伟达表示,全球前500个超算中,大约七成是由自家的芯片驱动。
而现在,就连运行ChatGPT的微软数据中心用了上万块英伟达A100GPU。
一直以来,不管是成为顶流的ChatGPT,还是Bard、StableDiffusion等模型,背后都是由每个大约价值1万美元的芯片英伟达A100提供算力。
不仅如此,A100目前已成为人工智能专业人士的「主力」。2022人工智能现状报告还列出了使用A100超级计算机部分公司的名单。
显而易见,英伟达已经垄断了全球算力,凭借自家的芯片,一统江湖。
根据从业者的说法,相比于通用芯片,亚马逊、谷歌和微软一直在研发的专用集成电路芯片,在执行机器学习任务的速度更快,功耗更低。
O’Donnell董事在比较GPU和ASIC时,用了这样一个比较:「平时开车,你可以用普锐斯,但如果你必须在山上用四轮驱动,用吉普牧马人就会更合适。」
然而尽管已经做出了种种努力,但亚马逊、谷歌和微软都面临着挑战——如何说服开发者使用这些AI芯片呢?
现在,英伟达的GPU是占主导地位的,开发者早已熟悉其专有的编程语言CUDA,用于制作GPU驱动的应用程序。
如果换到亚马逊、谷歌或微软的定制芯片,就需要学习全新的软件语言了,他们会愿意吗?
标签:亚马逊CHACHATHAT亚马逊币即将上线交易所supertripchainchat币值得投资吗chatcoin币未来价值
近日,NFTOG「Franklin」、「麻吉大哥」以及黄立成相继宣布退出NFT领域。BAYC巨鲸「Franklin」在宣布退出NFT领域后,更是大量抛售BAYC。NFT市场正在悄然发生着巨变.
1900/1/1 0:00:00惊堂木一拍!书接上文,我们说说现在爆炸全球的OpenAI的传奇历程吧。故事的起点是2015年7月在加州门罗帕克的一场晚宴,在场的除了大家熟知的全球顶流大V埃隆?马斯克,堪称豪华的饭局参加者还集齐.
1900/1/1 0:00:001.?EigenLayer简介:LSDfi,以太坊再质押市场,引入了再质押概念官网:https://www.eigenlayer.xyz/总融资:?6450?万美金.
1900/1/1 0:00:00文/章鱼哥出品/陀螺财经meme代币的热度好像又回来了,两周前推出的PEPE创下了历史新高。尽管加密货币市场仍处于漫长熊市中,但人们似乎仍然对风险投资保有兴趣.
1900/1/1 0:00:00作者:徐珊?大热的ChatGPT正一跃成为当下科技圈热门的话题之一,压过已经火热两年之久的元宇宙。曾经三句话不离元宇宙的产业人士们又开始谈起了“ChatGPT将会如何改变世界”.
1900/1/1 0:00:00原文来源于?Dappradar,白泽研究院编译。因篇幅原因略有内容删改,建议感兴趣的读者阅读原文:随着BoredApeYachtClub(BAYC)成立两周年的临近,现在正是回顾YugaLabs.
1900/1/1 0:00:00