全球数字财富领导者
财富汇
|
美股投研
|
客户端
|
旧版
|
北美站
|
FX168 全球视野 中文财经
首页
资讯
速递
行情
日历
数据
社区
视频
直播
点评旗舰店
商品
SFFE2030
外汇开户
登录 / 注册
搜 索
综合
行情
速递
日历
话题
168人气号
文章
AI泡沫即将破灭?英伟达H100芯片租赁急剧“价崩” 黄仁勋释出重磅信号……
go
lg
...
公司Featherless.AI创始人
Eugene
Cheah表示,H100租赁价格已从峰值8美元/小时崩跌至2美元/小时左右。不过他强调,大规模算仍维持高价。
Eugene
近期撰写了一篇题为《2美元的H100:GPU租赁泡沫如何破灭》观点文章,引发亚洲市场热议。他表示,H100在算力租赁市场的价格从初期的4.7美元/小时,一度飙升至8美元以上/小时,不过最近传出H100已供过于求,租赁价格已锐减至2美元/小时左右,引发市场对于GPU泡沫即将破灭的猜测。 (来源:Latent Space) 他分析称,H100需求明显下滑,租赁市场供应过剩的因素包括: 1. 从头开始训练新模型的公司减少,中小型公司减少了对基础模型建设的投资,转而微调开放的模型,因为这样比自主训练更经济、更有效率,导致算力需求显著减少; 2. 预订H100的公司完成模型训练后,大量转售闲置和先前预留的未使用算力; 3. OpenAI、Meta、X.AI退出公共算力平台,建立自家价值数十亿美元的大型资料中心; 4. H200、B200等新产品的推出; 5. 有更便宜的替代品,包括辉达本身更便宜的产品线,以及超微(AMD)和英特尔(Intel)等对手推出更实惠的竞品。 加密货币挖矿GPU使用量一直呈下降趋势,在某些情况下无利可图,此后一直涌入公共算力平台。 但他也补充,GPU租赁市场的便宜价格仅出现在中小型规模算力需求,大规模算力仍维持在较高的价格。 针对想投资AI领域的投资人,
Eugene
建议不要购买全新的H100芯片,因为可能会造成损失,若有需求可用租赁的方式。他同时建议投资人转向股票市场等其他地方,以获得更好的报酬率。 他解释道:“对于一般市场而言,今天投资新的H100没有什么意义,因为在当前供应过剩的情况下,你可以在需要时以接近成本的价格租赁它。” 此外,他也表示H100等显卡租赁价格的下降可能对AI发展带来好处,将加速开放权重AI采用和AI应用开发的浪潮。 全球对于英伟达AI芯片的庞大需求,已让该公司股价今年飙涨超过181%,但市场对于AI相关项目获利能力跟不上高昂硬件投资成本的焦虑也持续上升, 导致AI和GPU泡沫论在今年持续发酵。 此前,市场传出英伟达下一代旗舰芯片Blackwell架构系列因设计存在挑战恐导致延迟出货。 但英伟达首席执行官黄仁勋已确认,尽管遇到设计挑战,Blackwell芯片的生产不会延期,预计今年第四季上市。 摩根士丹利分析师在10月早些时候的报告指出,英伟达的Blackwell芯片市场需求相当旺盛,未来12个月左右的供应已经被抢购一空,将推动对现有的Hopper架构产品的强劲短期需求,看好英伟达一年的出货量将维持高成长,继续扩大其AI芯片的市占率。#AI热潮#
lg
...
秉哥说市
2024-10-23
easyMarkets易信:美元、美债收益率、黄金齐升,美联储降息预期成市场焦点
go
lg
...
0$,2708.86$。 欧元对美元(
EURUSD
) 枢轴点(Pivot):1.0880 后市看法:如果价格保持在1.0880以下,预计下一个目标位为1.0780和1.0700。 备选方案:如果价格突破1.0880,则可能看到1.0910和1.0880。 支撑位和阻力位: 阻力位:1.0880,1.0910 支撑位:1.0780,1.0700 美元对日元(USDJPY) 枢轴点(Pivot):151.09 后市看法:如果价格保持在151.09以上,目标看至152.05和153.00。 备选方案:如果价格未能突破151.09,则可能回调至148.53。 支撑位和阻力位: 阻力位:151.09,152.05 支撑位:150.10,148.53 原油(WTI Crude Oil) 枢轴点(Pivot):70.58$ 枢轴点(Pivot):72.15 后市看法:如果价格在72.15上方收盘,可能进一步上行至73.70。 备选方案:如果价格跌破72.15,则可能重新回测71.00和68.50。 支撑位和阻力位: 阻力位:73.70,74.50 支撑位:71.00,68.50 比特币(BTCUSD) 枢轴点(Pivot):66980.00 后市看法:如果价格在66980.00上方,目标看至68050.00和70000.00。 备选方案:如果跌破66980.00,价格可能回调至65485.00。 支撑位和阻力位: 阻力位:68050.00,70000.00 支撑位:66980.00,65485.00 结论 市场在美联储降息预期、美国大选不确定性和全球经济局势的多重影响下,表现出避险需求上升的特点。美元、美债收益率和黄金的同步上涨反映出市场对美国财政赤字和地缘政治风险的担忧。外资看好中国股市前景,带动中概股表现突出。美联储的政策走向仍可能带来不确定性,投资者应保持警惕,关注经济数据和大选动向,以应对市场的波动性。 2024-10-23
lg
...
易信easyMarkets
2024-10-23
ASML 首席执行官表示,美国要求对中国实施更多限制的压力越来越大
go
lg
...
ASML最先进的设备——使用极紫外光(
EUV
)技术的机器。 荷兰政府也限制ASML向中国出售相对先进的浸没式DUV光刻系统的大部分产品,并在上个月发布了新的出口管制规定,要求ASML申请出口许可证。 中国依赖ASML的系统来提升芯片制造技术。 在过去五个季度中,中国一直是ASML的最大市场,第三季度的销售额达到27.9亿欧元(30亿美元),占ASML总销售额的近一半。 富凯表示,中国的需求增加,是由于新冠疫情期间积压的订单所致。ASML预计明年中国的销售额将缩减至总收入的约20%,这个水平被认为更为正常。 来源:加美财经
lg
...
加美财经
2024-10-23
博思软件大跌5.57%!鹏华基金旗下1只基金持有
go
lg
...
%、意大利欧利盛资本资产管理股份公司(
EURIZON
CAPITAL SGR S.P.A)持股49%、深圳市北融信投资发展有限公司持股1%。
lg
...
金融界
2024-10-22
欧洲汽车业亮红灯!汽车销量录得两年内再度连两月萎缩
go
lg
...
受累于欧洲地区经济增长陷入停滞、消费者支出更加谨慎等因素,欧洲9月汽车出现了两年多以来的首次连续两月下滑。 欧洲汽车制造业协会周二(10月22日)公布,9月欧洲新车注册量年减4.2%至112万辆,8月该指标同比锐减16.5%。这依然显示出,电动车销量的增长不足以抵消内燃机型车销量的下滑。 上一次出现连续两月汽车销量年率回落还是在2022年中。当时,购车需求受到能源危机和高通胀的抑制。 协会总干事Sigrid de Vries在声明中表示,「今天的数据表明,我们距离欧洲所需的蓬勃发展的电动车市场还有很长的路要走。这不是成功绿色出行转型所需的可靠的市场增长。 」 安永西欧移动业务主管Constantin Gall表示,该行业处于危机状态。年底前没有积极的动力,经济正在走弱,地缘政治紧张局势没有缓解,给私人和商业客户带来了不确定性。 欧洲地区和各大厂商在推广电动车方面仍在发力,9月电车需求有所反弹。但2024年迄今,欧洲地区电动车销量仍下跌2.6%。 需求疲软导致经营状况恶化,国际评级机构穆迪本月早些时候将大众汽车评级展望从稳定下调至负面。 穆迪预计,受全球销售低速增长、价格压力增大、欧盟碳
lg
...
投资慧眼
2024-10-22
ACY证券:美联储打脸特朗普,黄金暴跌20美元!美元仍是最强势的商品,美股今晚有机会?
go
lg
...
跌,存在低位看涨的机会。 欧元兑美元
EURUSD
Finlogix情绪指标 做多 做空 信号 中性看空 交易策略:(趋势跟随)突破1.081后跟空 阻力参考: 1.082-1.083 支撑参考:1.081(突破);1.08-1.079 技术面:现价正处在前低点1.082附近震荡企稳,一旦向下突破便有继续跟空的机会。交易策略以突破跟随为主。 基本面: 欧洲数据不佳,美国长债利率大涨,这些都对欧美施加了压力。欧美的空头力量远大于其他主流货币对,因此以跟空为主。 英镑兑美元 GBPUSD Finlogix情绪指标 做多 做空 信号 中性震荡 交易策略:(均值回归)1.3-1.301附近回踩做空 阻力参考:1.3-1.301;1.305 支撑参考:1.2975(止盈&突破);1.295 技术面:相比欧美,镑美的走势偏向水平震荡。现价正在1.298附近整理,亚盘可以考虑在突破1.299后跟多,不过空间不大。日内交易策略还是以回踩做空为主,如果有消息带动欧元向下突破,那么英镑也将击穿1.2975的关键支撑。 消息面: 一旦行长贝利表达加速降息的态度,英镑可能随之跌破前低点关口。 黄金兑美元 XAUUSD Finlogix情绪指标 做多 做空 信号 中性震荡 交易策略:(趋势跟随)突破2725波段跟涨 阻力参考: 2725(突破跟随);2740 支撑参考:2715(止损) 技术面: 通道结构仍然保持完成,金价回调到0.236回调线附近,并获得支撑。底部略有成型,日内交易策略以突破颈线后顺势跟涨为主。 消息面: 需要密切关注短债利率的走向,如果欧/亚盘的美国短债利率持续反弹,那么就要取消对黄金的看涨。 美国道琼斯综合指数 DJ30 Finlogix情绪指标 做多 做空 信号 中性震荡 交易策略:(均值回归)42700逢低看涨 或(趋势跟随)43000突破跟涨 阻力参考: 43000(止盈&突破);43200 支撑参考:42700-42800;42650(止损) 技术面: 现价已经跌破了43000大关,动能还未结束,有可能跌破42850,因此在亚盘期间需要耐心等待底部成型。关键支撑在前低点需求区42700-42800附近,以逢低看涨为主。或者在美盘期间如果突破43000大关也有跟涨机会。 基本面: 特朗普胜率仍在扩大,即便短债上涨,但长短债利率仍将持续扩张,利好金融、地产与工业板块。因此道指应该看涨。 2024-10-22
lg
...
ACY证券
2024-10-22
美国大选前外汇市场惊现重大信号!投机性外汇交易员刚刚做出三年来最大的动作
go
lg
...
Moneycorp北美结构性产品负责人
Eugene
Epstein表示:“特朗普胜选机率有所增加,因此所谓的‘特朗普交易’,即买入美元,也回归了。” 杰富瑞外汇部门全球负责人Brad Bechtel表示,与选举相关的避险操作也推动近期美元走强。
lg
...
tqttier
2024-10-22
价格暴跌 70%:AI 算力租赁泡沫是如何破灭的?
go
lg
...
作者:
Eugene
Cheah 编译:J1N,Techub News AI 算力成本下降,将激发初创公司利用低成本资源进行创新的热潮。 去年由于 AI 算力供应紧张,H100 的租赁价格高达每小时 8 美元,但现在市场上算力供应过剩,价格降到了每小时 2 美元以下。这是由于一些公司在早期签署了算力租赁合同,为了不让过剩的算力浪费,于是开始转售其预留的计算资源,而市场大多选择使用开源模型,导致新模型的需求减少。现在,市场上 H100 的供应量远超需求,因此租用 H100 比购买更划算,投资购买新的 H100 已不再具有收益。 AI 竞赛简史 GPU 算力市场的价格一路飙升,H100 最初的租金约为每小时 4.70 美元,涨到最高超过 8 美元。这是由于项目创始人为了实现下一轮融资,并说服投资者,必须抓紧时间训练他们的 AI 模型。 ChatGPT 于 2022 年 11 月推出,使用的是 A100 系列的 GPU。到了 2023 年 3 月,NVIDIA 推出了新的 H100 系列 GPU,在其宣传中提到 H100 的性能比 A100 强 3 倍,但价格却只比 A100 高 2 倍。 这对 AI 初创公司来说是一个巨大的吸引力。因为 GPU 的性能直接决定了他们可以开发的 AI 模型的速度和规模。H100 的强大性能意味着这些公司能够开发出比以前更快、更大、更高效的 AI 模型,甚至有可能追赶或超过像 OpenAI 这样的行业领导者。当然,这一切的前提是他们拥有足够的资本来购买或租用大量的 H100。 由于 H100 的性能大大提升,再加上 AI 领域的激烈竞争,很多初创公司都投入了巨额资金来抢购 H100,用它来加速他们的模型训练。这种需求的激增导致 H100 的租赁价格暴涨,最初每小时 4.70 美元,但后来涨到超过 8 美元。 这些初创公司之所以愿意支付高昂的租金,是因为他们急于快速训练模型,以便在下一轮融资中吸引投资者的注意,争取到数亿美元的资金来继续扩展他们的业务。 对于拥有大量 H100 GPU 的算力中心(农场)来说,租赁 GPU 的需求非常高,这就像是「送上门来的钱」。原因是这些 AI 初创公司急于租用 H100 来训练他们的模型,甚至愿意预付租金。这意味着 GPU 农场可以以长期的每小时 4.70 美元(或更高)租出他们的 GPU。 根据计算,如果他们能以这种价格持续出租 GPU,那么他们投资购买 H100 的回报周期(即收回购买成本的时间)将不到 1.5 年。回报期结束后,之后每台 GPU 每年能带来超过 10 万美元的净现金流收入。 由于对 H100 和其他高性能 GPU 的需求持续高涨,GPU 农场的投资者看到了巨大的利润空间,因此他们不仅同意了这种商业模式,甚至还追加了更大的投资,购买更多 GPU 以赚取更多利润。 《郁金香的愚蠢》:创作于有记载的历史上第一次投机泡沫之后,郁金香价格在 1634 年持续攀升,并于 1637 年 2 月崩盘 随着人工智能和大数据处理需求的增长,企业对高性能 GPU(尤其是 NVIDIA 的 H100)的需求激增,为了支持这些计算密集型任务,全球企业在硬件和基础设施上初期已投入约 6000 亿美元,用于购买 GPU、建设数据中心等,以提升计算能力。然而,由于供应链的延迟,H100 的价格在 2023 年大部分时间里居高不下,甚至超过每小时 4.70 美元,除非买家愿意预付大额定金。到了 2024 年初,随着更多的供应商进入市场,H100 的租赁价格降至约 2.85 美元,但我开始收到各类推销邮件,反映了市场供应增加后竞争加剧的情况。 虽然最初 H100 GPU 的租赁价格在每小时 8 至 16 美元之间,但到了 2024 年 8 月,拍卖式租赁价格已降至每小时 1 到 2 美元。市场价格每年预计会下降 40% 或更多,远超 NVIDIA 预测的 4 年内维持每小时 4 美元的预期。这种迅速的价格下滑给那些刚购买高价新 GPU 的人带来了财务风险,因为他们可能无法通过租赁回收成本。 投资 5 万美元购买一张 H100 的资本回报率是多少? 在不考虑电力和冷却成本的前提下,H100 的购买成本大约为 5 万美元,预计使用寿命为 5 年。租赁通常有两种模式:短期按需租赁和长期预订。短期租赁价格较高,但灵活性强,长期预订则价格较低但稳定。接下来,文章会通过分析这两种模式的收益,来计算投资者在 5 年内能否收回成本并获得盈利。 短期按需租赁 租赁价格以及对应的收益: >$2.85 : 超越股市 IRR,实现盈利。 <$2.85 : 收益低于投资股市收益。 <$1.65 : 预计投资损失。 通过「混合价格」模型预测,未来 5 年内租金可能下降到当前价格的 50%。如果租赁价格保持在每小时 4.50 美元,投资回报率(IRR)超过 20%,则有利可图;但当价格降至 2.85 美元 / 小时时,IRR 仅有 10%,回报显著降低。如果价格跌破 2.85 美元,投资回报甚至可能低于股市收益,而当价格低于 1.65 美元时,投资者将面临严重的亏损风险,特别是对于近期购买 H100 服务器的人。 注:「混合价格」是一个假设,认为 H100 的租赁价格在未来 5 年内逐渐下降到当前价格的一半。这种估计被认为是乐观的,因为当前市场价格每年下降超过 40%,所以考虑价格下降是合理的。 长期预订租约(3 年以上) 在 AI 热潮期间,许多老牌基础设施提供商基于过去的经验,尤其是在加密货币早期以太坊 PoW 时代经历过 GPU 租金价格暴涨暴跌的周期,因此在 2023 年,他们推出了 3-5 年的高价预付款租赁合同,以锁定利润。这些合同通常要求客户支付高于每小时 4 美元的价格,甚至预付 50% 到 100% 的租金。随着 AI 需求激增,尤其是在图像生成领域的基础模型公司为了抢占市场先机、率先使用最新的 GPU 集群,尽管这些合同价格高昂,但他们不得不签订,以快速完成目标模型,提升竞争力。然而,当模型训练完成后,这些公司不再需要这些 GPU 资源,但由于合同锁定的关系,他们无法轻易退出,为了减少损失,他们选择将这些租赁的 GPU 资源转售,以回收部分成本。这导致市场上出现了大量转售的 GPU 资源,供应增加,影响了市场的租赁价格和供需关系。 当前的 H100 价值链 注:价值链(Value chain),又名价值链分析、价值链模型等。由迈克尔・波特在 1985 年,于《竞争优势》一书中提出的。波特指出企业要发展独特的竞争优势,要为其商品及服务创造更高附加价值,商业策略是结构企业的经营模式,成为一系列的增值过程,而此一连串的增值流程,就是「价值链」。 H100 价值链从硬件到 AI 推理模型,其中的参与部份可以大致分为以下几类 与 Nvidia 合作的硬件供应商 数据中心基础设施提供商和合作伙伴 风险投资基金、大型公司和初创公司:计划建立基础模型(或已经完成模型建立) 容量经销商:Runpod、SFCompute、Together.ai、Vast.ai、GPUlist.ai 等。 当前的 H100 价值链包括从硬件供应商到数据中心提供商、AI 模型开发公司、容量经销商和 AI 推理服务提供商等多个环节。市场的主要压力来自于未使用的 H100 容量经销商不断转售或出租闲置资源,以及「足够好」的开源模型(如 Llama 3)的广泛使用,导致对 H100 的需求下降。这两大因素共同导致了 H100 供应过剩,进而对市场价格造成下行压力。 市场趋势:开源权重模型的兴起 开源权重模型指的是那些尽管没有正式的开源许可证,但其权重已被公开免费分发,并且被广泛应用于商业领域。 这些模型的使用需求主要受到两大因素推动:一是类似 GPT-4 规模的大型开源模型(如 LLaMA3 和 DeepSeek-v2)的出现,二是小型(80 亿参数)和中型(700 亿参数)微调模型的成熟和广泛采用。 由于这些开源模型的成熟度越来越高,企业能够轻松获取并使用它们来满足大多数 AI 应用的需求,尤其是在推理和微调方面。尽管这些模型在某些基准测试中可能略微逊色于专有模型,但它们的性能已经足够好,可以应对大多数商业用例。因此,随着开源权重模型的普及,市场对推理和微调的需求正在快速增长。 开源权重模型还具有三个关键优势: 首先,开源模型具有很高的灵活性,允许用户根据特定领域或任务对模型进行微调,从而更好地适应不同的应用场景。其次,开源模型提供了可靠性,因为模型权重不会像某些专有模型那样在未通知的情况下更新,避免出现一些因更新而导致的开发问题,增加了用户对模型的信任。最后,它还确保了安全性和隐私,企业可以确保其提示和客户数据不会通过第三方 API 端点被泄露,降低了数据隐私风险。正是这些优势促使开源模型的持续增长和广泛采用,特别是在推理和微调方面。 中小型模型创作者需求转向 中小型模型创建者是指那些没有能力或计划从头训练大型基础模型(如 70B 参数模型)的企业或初创公司。随着开源模型的兴起,许多公司意识到,对现有开源模型进行微调,比自己从头训练一个新模型更加经济高效。因此,越来越多的公司选择微调,而非自行训练模型。这大大减少了对 H100 等计算资源的需求。 微调比从头训练便宜得多。微调现有模型所需的计算资源远远少于从头训练一个基础模型。大型基础模型的训练通常需要 16 个或更多 H100 节点,而微调通常只需要 1 到 4 个节点。这种行业的转变削减了小型和中型公司对大规模集群的需求,直接减少了对 H100 计算能力的依赖。 此外,基础模型创建的投资减少。在 2023 年,许多中小型公司尝试创建新的基础模型,但如今,除非他们能够带来创新(如更好的架构或对数百种语言的支持),否则几乎不会再有新的基础模型创建项目。这是因为市场上已经有足够强大的开源模型,如 Llama 3,让小型公司很难证明创建新模型的合理性。投资者的兴趣和资金也转向了微调,而非从头训练模型,进一步减少了对 H100 资源的需求。 最后,预留节点的过剩容量也是一个问题。许多公司在 2023 年高峰期长期预定了 H100 资源,但由于转向微调,他们发现这些预留的节点已经不再需要,甚至有些硬件到货时已经过时。这些未使用的 H100 节点现在被转售或出租,进一步增加了市场的供应,导致 H100 资源供过于求。 总体来看,随着模型微调的普及、中小型基础模型创建的减少,以及预留节点的过剩,H100 市场需求明显下降,供过于求的情况加剧。 导致 GPU 算力供应增加和需求减少的其他因素 大型模型创建者脱离开源云平台 大型 AI 模型创建者如 Facebook、X.AI 和 OpenAI 正在逐步从公共云平台转向自建私有计算集群的原因。首先,现有的公共云资源(如 1000 个节点的集群)已无法满足他们训练更大模型的需求。其次,从财务角度来看,自建集群更有利,因为购买数据中心、服务器等资产可以增加公司估值,而租赁公共云只是费用支出,无法提升资产。此外,这些公司拥有足够的资源和专业团队,甚至可以收购小型数据中心公司来帮助他们构建和管理这些系统。因此,他们不再依赖公共云。随着这些公司脱离公共云平台,市场对计算资源的需求减少,可能导致未使用的资源重新进入市场,增加供应。 Vast.ai 本质上是一个自由市场体系,来自世界各地的供应商相互竞争 闲置与延迟出货的 H100 同时上线 由于闲置与延迟出货的 H100 GPU 同时上线,促使市场供应量增加,导致价格下降。Vast.ai 等平台采用自由市场模式,全球供应商在这里相互竞争价格。2023 年,由于 H100 出货延迟,许多资源未能及时上线,现在这些延迟的 H100 资源开始进入市场,连同新的 H200 和 B200 设备,以及初创公司和企业闲置的计算资源一起供应。小型和中型集群的所有者通常拥有 8 到 64 个节点,但由于利用率低且资金已经耗尽,他们的目标是通过低价出租资源来尽快收回成本。为此,他们选择通过固定利率、拍卖系统或自由市场定价的方式来竞争客户,尤其是拍卖和自由市场模式,使得供应商为确保资源被租用而竞相降价,最终导致整个市场的价格大幅下降。 更便宜的 GPU 替代品 另一个主要因素是,一旦算力成本超出了预算,那么 AI 推理基础设施便有很多替代方案,特别是如果你运行的是较小的模型。就不需要为使用 H100 的 Infiniband 支付额外费用。 Nvidia 市场细分 H100 GPU 的 AI 推理任务中更便宜替代品的出现,这会直接影响市场对 H100 的需求。首先,虽然 H100 在 AI 模型的训练和微调上非常出色,但在推理(即运行模型)领域,很多更便宜的 GPU 能够满足需求,尤其是针对较小的模型。因为推理任务不需要 H100 的高端功能(如 Infiniband 网络),用户可以选择更经济的替代方案,节省成本。 Nvidia 自己也在推理市场中提供了替代产品,如 L40S,这是一款专门用于推理的 GPU,性能大约是 H100 的三分之一,但价格只有五分之一。虽然 L40S 在多节点训练方面效果不如 H100,但对于单节点推理和小型集群的微调,已经足够强大,这为用户提供了一个更具性价比的选择。 H100 Infiniband 集群性能配置表(2024 年 8 月) AMD 和 Intel 替代供应商 另外,AMD 和 Intel 也推出了价格更低的 GPU,例如 AMD 的 MX300 和 Intel 的 Gaudi 3。这些 GPU 在推理和单节点任务中表现优异,价格比 H100 更便宜,同时还拥有更多的内存和计算能力。尽管它们在大型多节点集群训练中还未得到完全验证,但在推理任务中已经足够成熟,成为 H100 的有力替代品。 这些更便宜的 GPU 已经被证明能够处理大多数推理任务,尤其是常见模型架构(如 LLaMA 3)上的推理和微调任务。因此,用户在解决兼容性问题后,可以选择这些替代 GPU,以降低成本。总结来说,推理领域中的这些替代品正逐渐取代 H100,特别是在小规模推理和微调任务中,这进一步降低了对 H100 的需求。 Web3 领域 GPU 使用率下降 由于加密货币市场变化,GPU 在加密挖矿中的使用率下降,大量 GPU 因此流入云市场。尽管这些 GPU 由于硬件限制无法胜任复杂的 AI 训练任务,但它们在较简单的 AI 推理工作中表现良好,特别是对于预算有限的用户,处理较小模型(如 10B 参数以下)的任务时,这些 GPU 成为性价比很高的选择。经过优化,这些 GPU 甚至可以运行大型模型,成本比使用 H100 节点更低。 AI 算力租赁泡沫后,现在的市场如何? 现在入场面临的问题:新公共云 H100 集群进入市场较晚,可能无法盈利,一些投资者可能会损失惨重。 新进入市场的 H100 公共云集群面临的盈利挑战。如果租赁价格设定过低(低于 2.25 美元),可能无法覆盖运营成本,导致亏损;如果定价过高(3 美元或以上),则可能失去客户,导致产能闲置。此外,较晚进入市场的集群因为错过了早期的高价(4 美元 / 小时),难以回收成本,投资者面临无法盈利的风险。这使得集群投资变得非常困难,甚至可能导致投资者遭受重大损失。 早期入场者的收益情况:早期签署了长期租赁合同的中型或大型模型创建者,已经收回成本并实现盈利 中型和大型模型创建者通过长期租赁 H100 计算资源已经获得了价值,这些资源的成本在融资时已被涵盖。虽然部分计算资源未完全利用,但这些公司通过融资市场将这些集群用于当前和未来的模型培训,并从中提取了价值。即使有未使用的资源,他们也能通过转售或租赁获得额外收入,这降低了市场价格,减少了负面影响,整体上对生态系统产生了积极影响。 泡沫破灭后,:价格低廉的 H100 可以加速开源式 AI 的采用浪潮 低价 H100 GPU 的出现将推动开源式 AI 的发展。随着 H100 价格下降,AI 开发者和业余爱好者可以更便宜地运行和微调开源权重模型,使这些模型的采用更广泛。如果未来闭源模型(如 GPT5++)没有实现重大技术突破,开源模型与闭源模型的差距将缩小,推动 AI 应用的发展。随着 AI 推理和微调成本降低,可能引发新的 AI 应用浪潮,加速市场的整体进步。 结论:不要购买全新的 H100 如果现在投资购买全新的 H100 GPU 大概率会亏损。不过只有在特殊情况下,比如项目能够购买到打折的 H100、廉价的电力成本,或在其 AI 产品在市场上拥有足够竞争力时,再去投资才可能合理。如果你正在考虑投资,建议将资金投入其他领域或股票市场,以获得更好的回报率。
lg
...
TechubNews
2024-10-22
英伟达下一个目标是190?
go
lg
...
故消费电子需求没有起色下,就没有必要买
EUV
设备。但是对AI的GPU的需求并没有因此下降。 Blackwell前期订单需求强烈, $微软(MSFT)$ 一家就下了大量的订单,可能在Q4业绩获得集中爆发。 不太受大选影响,无论H还是T上台,都不可能打压英伟达。
lg
...
老虎证券
2024-10-22
黄金,黄金走势,外汇行情,美元指数,外汇技术分析,油价走势,原油WTI,欧元,英镑,比特币
go
lg
...
在50%中性区域附近。 【欧元兑美元】
EUR
/USD可能下跌19 - 39点 交易策略 转折点 1.0840 在 1.0840 之下,看跌,目标价位为 1.0800 ,然后为 1.0780。 备选策略 在 1.0840 上,看涨,目标价位定在 1.0855 ,然后为 1.0870。 技术点评 只要1.0840阻力位不被突破,向下跌破1.0800位置的风险很高。 【英镑兑美元】GBP/USD可能下跌18 - 43点 交易策略 转折点 1.3010 在 1.3010 之下,看跌,目标价位为 1.2970 ,然后为 1.2945。 备选策略 在 1.3010 上,看涨,目标价位定在 1.3030 ,然后为 1.3055。 技术点评 跌破1.2970位置,将会引发下跌至1.2945。 【比特币】Bitcoin / USD 可能上涨到 68710 - 69320 交易策略 66660 作为转折点。 有上涨的可能,目标价位定在 69320。 备选策略 向下跌破 66660 ,将带来继续下跌的趋势,目标位为 65630 然后为 65020 。 技术点评 RSI技术指标小于中性区域50。 MACD技术指标处在其信号线之上 看空。 另外,价位低于其50天移动平均线 ( 67982 ) 但高于其20天移动平均线 ( 67489 )。
lg
...
MakeC汇分享
2024-10-22
上一页
1
•••
80
81
82
83
84
•••
347
下一页
24小时热点
中国已经意识到问题了!政府支出重点已经转向……
lg
...
中美突传重磅!路透独家:特朗普推动贸易之际 美国两党议员拟推法案施压中国
lg
...
一个关键数据:中国破纪录的贸易恐遭重大减速!
lg
...
中美突发重磅!特朗普称并不寻求与习近平举行峰会 但可能访问中国
lg
...
中美谈判进入第二天!欧美协议批评声加大,美元强势拉升等数据风暴
lg
...
最新话题
更多
#Web3项目情报站#
lg
...
6讨论
#SFFE2030--FX168“可持续发展金融企业”评选#
lg
...
36讨论
#链上风云#
lg
...
111讨论
#VIP会员尊享#
lg
...
1989讨论
#CES 2025国际消费电子展#
lg
...
21讨论