FX168财经网_全球视野外汇黄金加密货币NFT资讯网

英伟达官宣下一代最强AI芯片 GPU性能8年提高1053倍

al P100、Volta V100和Ampere A100 GPU的FP16格式到Blackwell B100使用的FP4格式，降低了4倍。由于在数据格式、软件处理和硬件方面运用了大量的数学魔法，如果不降低精度，性能提升将只有263倍，而降低精度不会对LLM性能造成实质性损害。要知道，在CPU市场上，每时钟核心性能提高10%至15%，核心数量增加25%至30%已属正常。如果升级周期为两年，那么在同样的八年时间里，CPU吞吐量将提高4至5倍。如上图所示，单位功耗的降低是一个关键指标，因为如果无法为系统供电，就无法使用系统。而token的能耗成本必须降低，这意味着为LLM生成的每个token的能耗必须比性能提升的速度更快。在黄仁勋的主题演讲中，为了给大家提供一些更深层次的背景信息，在Pascal P100 GPU上生成一个token所需的17000焦耳热量大约相当于两个灯泡运行两天，而平均每个字需要三个token。因此，现在我们开始明白为什么八年前的LLM甚至不可能在一定规模上运行，使其在执行任务时表现出色了。下图是在1.8万亿个参数、8万亿个通证数据驱动模型的情况下，训练GPT-4 Mixture of Experts LLM所需的功率：对于一个P100集群来说，超过1000千兆瓦时的电量实在是太大了。黄仁勋解释道：有了Blackwell GPU，公司将能够在大约10天内通过大约1万个GPU来训练GPT-4 1.8T MoE模型。如果人工智能研究人员和Nvidia没有转向更低精度，那么在这八年时间里，性能提升也不过是250倍。降低能源成本是一回事，降低系统成本又是另一回事。在传统的摩尔定律末期，晶体管每隔18到24个月就会缩小一次，芯片变得越来越便宜、越来越小，这两种技巧都非常困难。现在，计算复合体已经达到了微粒极限，每个晶体管都越来越昂贵，因此，由晶体管制成的设备本身也越来越昂贵。HBM内存是成本的重要组成部分，先进的封装也是如此。黄仁勋本人今年早些时候在接受CNBC采访时就曾说过Blackwell的价格。在SXM系列GPU插座中（不包括PCI-Express版本的GPU），P100推出时的成本约为5000美元；V100约为1万美元；A100约为1.5万美元；H100约为2.5万至3万美元。B100的成本预计在3.5万美元到4万美元之间。黄仁勋没有说明的是，运行GPT-4 1.8T MoE基准每一代需要多少GPU，以及这些GPU或运行所需的电费是多少。下图这个电子表格显示，根据黄仁勋所说，大约需要1万个B100，才能在十天左右的时间内训练出GPT-4 1.8T MoE：在这八年里，GPU的价格上涨了7.5倍，但性能却提高了1000多倍。因此，现在使用Blackwell系统，可以在十天左右的时间内实际训练出像GPT-4这样拥有1.8万亿个参数的大型模型，而在两年前，即使是在Hopper一代刚刚起步的时候，也很难在数月内训练出拥有数千亿个参数的模型。现在，系统成本将与该系统两年的电费相当。GPU大约占人工智能训练系统成本的一半，因此购买一个1万个GPU的Blackwell系统大约需要8亿美元，而运行十天的电费大约需要54万美元。如果购买更少的GPU，就可以减少每天、每周或每月的电费支出，但同时也会相应增加训练时间，使电费支出再次上升。就是这样，即使Hopper H100 GPU平台是“史上最成功的数据中心处理器”，正如黄仁勋在Computex主题演讲中所说的那样，Nvidia仍需继续努力。如果将Hopper/Blackwell的投资周期与六十年前IBM System/360的发布相比较，IBM在那次发布中下了至今仍是公司历史上最大的赌注。 1961年，当IBM开始其“下一代产品线”研发项目时，它是一家年收入22亿美元的公司，在整个20世纪60年代，它花费了50多亿美元。 Big Blue是华尔街第一家蓝筹股公司，正是因为它花费了两年的收入和二十年的利润来创造System/360。它的某些部分推出较晚，表现不佳，但它彻底改变了企业数据处理的本质。 20世纪60年代末，IBM认为自己可能会创造600亿美元的销售额，但他们创造了1390亿美元的销售额，利润约为520亿美元。可以说，Nvidia为数据中心计算的第二阶段掀起了更大的浪潮。 02.抵制是徒劳的无论是Nvidia还是其竞争对手或客户，都无法抵挡未来的引力，也无法抵挡生成式人工智能对利润和生产力的承诺。因此，Nvidia必将加快步伐，推陈出新。凭借250亿美元的银行存款和今年预计超过1000亿美元的收入，或许还有500亿美元将进入银行，它有能力推陈出新，把我们所有人都拉进未来。黄仁勋表示：“在这个令人难以置信的增长时期，我们要确保继续提高性能，继续降低成本，如训练成本、推理成本等，并继续扩展人工智能能力，让每家公司都能拥抱人工智能。我们把性能推得越高，成本下降得就越厉害。” 正如我们上面的表格所清楚显示的那样，事实的确如此。这就引出了最新的Nvidia平台路线图：在Hopper这一代中，最初的H100于2022年推出，配备了六层HBM3内存堆栈，通过带有900 GB/s端口的NVSwitch连接，并配有400 Gb/s端口的Quantum X400（以前称为Quantum-2）InfiniBand交换机以及ConnectX-7网络接口卡。 2023年，H200升级到六层更高容量和带宽更高的HBM3E内存，从而提升了H200封装中底层H100 GPU的有效性能。BlueField 3网卡也问世了，它为网卡增加了Arm内核，使其可以进行辅助工作。在2024年，Blackwell GPU当然已经推出了8堆HBM3e内存，并与配备1.8TB/sec端口的NVSwitch 5和800Gb/sec的ConnectX-8网卡，以及配备800GB/sec端口的Spectrum-X800和Quantum-X800交换机搭配使用。现在我们可以看到，在2025年，B200（上图中称为Blackwell Ultra）将拥有8个堆栈的HBM3e内存，这些堆栈有12个芯片高。据推测，B100中的堆栈有8层高，因此Blackwell Ultra的HBM内存容量至少增加了50%，根据所使用的DRAM容量，增幅可能更大，HBM3E显存的时钟速度也可能更高。 Nvidia对Blackwell系列的内存容量含糊其辞，但我们在3月份的Blackwell发布会上估计，B100将拥有192GB内存和8TB/秒的带宽。对于未来的Blackwell Ultra，我们预计会有更快的内存出现，如果出现带宽为9.6TB/秒的288GB内存，我们也不会感到惊讶。我们认为，Ultra变体在SM上的良品率有可能会有所提高，从而使其性能略高于非Ultra前代产品。这将取决于产量。 Nvidia还将在2025年推出弧度更高的Spectrum-X800以太网交换机，可能会在盒子里装上六个ASIC，以创建一个非阻塞架构，就像其他交换机常用的那样，将总带宽翻倍，从而将每个端口的带宽或交换机中端口的数量翻倍。在2026年，我们看到了“Rubin R100 GPU”，在去年发布的Nvidia路线图中，它的前身是X100，正如我们当时所说，我们认为X是一个变量，而不是任何东西的简称。事实证明确实如此，Rubin GPU将使用HBM4内存，并将有8个堆栈，每个堆栈可能有十几个DRAM高，而2027年的Rubin Ultra GPU将有十几个HBM4内存堆栈，也可能有更高的堆栈（虽然路线图没有这么说）。我们直到2026年才会看到Nvidia推出新的Arm服务器CPU“Vera”，它是当前“Grace”CPU的继任者。与之配套的是NVSwitch 6芯片，具有3.6 TB/s的端口，以及带有1.6 Tb/s端口的ConnectX-9网络接口卡。有趣的是，还有一款名为X1600 IB/Ethernet Switch的产品，这可能意味着Nvidia正在融合其InfiniBand和以太网ASIC，就像十年前Mellanox所做的那样。或者，这可能意味着Nvidia只是为了好玩而试图让我们产生怀疑。 2027年的路线图中还透露了一些其他信息，这可能意味着对网卡和交换机的全面超以太网联盟支持，甚至可能是用于将节点内和跨机架的GPU连接在一起的UALink交换机。原文来源于： https://www.nextplatform.com/2024/06/02/nvidia-unfolds-gpu-interconnect-roadmaps-out-to-2027/ 中文内容由元宇宙之心（MetaverseHub）团队编译，如需转载请联系我们。来源：金色财经

金色财经2024-06-03

NOT 一路狂飙哪些因素推动了暴涨？涨势会继续吗？

NOT涨幅很大，但可能会调整。

金色财经2024-06-03

自 ETF 获批以来加密货币交易所共计有 30 亿美元以太坊退出

以太币供应量持续下降，交易所以太币数量减少，BTC-ECHO分析师预测ETH ETF推出。DeFi分析师认为以太币可能从需求压力中获益更多。

金色财经2024-06-03

【九尘点金】超级周来了！两大央行能否降息？或刺激黄金多头重拾信心？

【每日行情概览&技术点位】上周五，因美国4月核心PCE物价指数月率创2023年12月以来新低，美元指数走弱，并录得2024年首次月线下跌，最终收跌0.11%，报104.63。美债收益率震荡下行，10年期美债收益率最终收报4.5020%。对美联储政策利率最敏感的2年期美债收益率最终收报4.8810%。因投资者消化了基本符合预期的美国4月PCE数据，现货黄金冲高回落，最终收跌0.72%，报2326.97美元/盎司，但月线依然成功录得四连涨。现货白银最终收跌2.53%，报30.38美元/盎司。尽管上周黄金和白银价格遭遇挫折，但有充分理由相信，随着期待已久的降息和美国就业下滑的风险，这两种贵金属在未来一周都可能顺风顺水。周一，市场将公布标准普尔全球制造业PMI和5月份ISM制造业PMI。然后在周三，加拿大央行将公布其利率决定，经济学家预计将降息四分之一个百分点，随后不久，市场将收到5月份的ISM服务业PMI。周四上午，欧洲央行将公布利率决议，市场已预期基准利率将下调 25 个基点，同时还将公布每周初请失业金人数。最后，周五上午将公布5月份非农就业报告。如果两大央行都如预期降

九尘点金2024-06-03

“莫迪3.0”大局已定，印度股市将迎最大催化剂！

分析师看好国企和基建

格隆汇2024-06-03

英皇金汇即发：PCE仅符合预期黄金价格周五下跌

黄金价格周五下跌，系因投资者消化了基本符合预期的美国通膨报告，尽管联准会 (Fed) 今年仍可能降息的预期让黄金连续第四个月走高。

英皇金汇即发2024-06-03

CWG Markets：美国通胀数据符合预期，美元上周五下跌，黄金也承压回落

上周五（5月31日）因美国4月核心PCE物价指数月率创2023年12月以来新低，美元指数走弱，并录得2024年首次月线下跌，最终收跌0.11%，报104.63。美债收益率震荡下行，10年期美债收益率最终收报4.5020%。对美联储政策利率最敏感的2年期美债收益率最终收报4.8810%。

CWG Markets2024-06-03

TON开发者闭门会回顾：探索TON和Telegram的广阔可能性

本次大会由 TON Foundation 和 518沙龙主办，TownSquare Labs、Kenetic、3WW3亚非拉Web3研究院、Tweetfi联合协办。

金色财经2024-06-03

BRC20铭文：继承比特币精神 , 注定不可超越

而站在当下这个时间点，笔者之所以更加看好BRC20，正是这种扎根于去中心化原则、坚持公平发行的协议，才能获得社区的长期支持和信任，而这也是BRC20的核心竞争力

金色财经2024-06-03

成交第一！“会分红的A50”摩根中证A50ETF(560350)单日成交额2.46亿元，居同标的ETF首位！

据Wind数据显示，截至2024年5月31日（星期五）收盘，A股三大指数尾盘翻绿。盘中，消费电子板块全天活跃，航天航空、游戏板块持续走强。中证A50指数震荡翻绿。 Wind数据显示，2024年5月31日，摩根中证A50ETF(560350)全天成交额2.46亿元，位于同标的ETF首位。截至收盘，最新规模37.03亿元，最新份额36.50亿份。值得注意的是，截至5月31日，该基金近5个交易日中有4日获得资金净流入。值得注意的是，作为首批发行的中证A50ETF之一，摩根中证A50ETF（560350）设置了特色的季度强制分红机制，该基金在基金合同中约定，每季度最后一个交易日ETF相对标的指数的超额收益率为正时，会强制分红，收益分配比例不低于超额收益率的60%。根据合同约定，摩根中证A50ETF二季度分红机制是否触发有望在本月底揭晓。中证A50指数成分股方面，航发动力领涨。消息面上，我国在酒泉卫星发射中心使用谷神星一号商业运载火箭，成功将极光星座01星、02星发射升空，卫星顺利进入预定轨道。（注：上述个股仅为举例说明，无特定推荐之意，并可能根据指数编制方案调整。）消息面上，近期多家外资

有连云2024-06-03

24小时热点