FX168财经网_全球视野外汇黄金加密货币NFT资讯网

Groq：最快AI推理芯片，对产业影响几何？

oss是前谷歌高级工程师，也是谷歌自研AI芯片TPU团队的核心成员，产品主管John Barrus曾在谷歌及亚马逊团队担任产品高管。公司产品LPU（Language Processing Units）是一款新型的AI芯片，虽然公司团队脱胎于谷歌TPU，但在技术路线的选择上选择了LPU这个全新的系统路线。目前公司芯片采用格罗方德的14nm工艺，而在23年8月，Groq宣布，三星的Taylor工厂将生产其4纳米AI加速器芯片。融资方面，2017年，公司获得了风险投资家Chamath Palihapitiya投资1030万美金；2021年4月，又从D1 Capital 、Tiger Global Fund等金融机构获得了3亿美金的融资，估值超过10亿美元。23年还进行了一轮5000万美元的安全可转换债务融资，目前团队正在进行新一轮的筹资活动。三、Groq技术原理 Groq芯片采用的是14nm工艺，搭载了230MB的SRAM来保证内存带宽，片上内存带宽可达80TB/s，不同于GPU和CPU通用芯片架构，Groq开发的是针对大语言模型的定制化芯片，其LPU技术核心解决的是计算密度和内存带宽两大瓶颈。如下图所示，LPU将更多的空间留给了计算单元，从而展现了更高的计算能力，这使得单个数据处理时间显著减少，从而可以快速地输出文本序列。它使用时序指令集计算机架构（Temporal Instruction Set Computer），因此不必频繁地在HBM（高带宽内存模组）加载数据，而是直接利用SRAM来进行数据的处理，其速度比GPU中用的存储模组快20倍。数据来源：Groq公司官网四、前景判断综上所述，Groq芯片的特点是大算力小内存，速度快但单卡吞吐能力有限，需要更多的卡来保证同等级别的吞吐能力，这就意味着更高的成本，目前Groq想要在低延迟领域建立竞争优势，就需要拓宽应用场景并进一步降低总成本。原阿里技术副总裁贾扬清做过估算：由于Groq芯片单卡内存仅为230MB，在运行LLaMa2 70B大模型时，假设使用int8量化技术，需要使用572张卡，每张卡的价格为20000美元，因此购卡成本约为1144万美元；同时每张卡的功耗平均为185W，则总功耗为105.8Kw，目前数据中心电费为200美元/月，则运用过程中产生的年度电费为25.4万美元，因此假设运行三年，Groq的总成本约为1220万美元。而运行同样参数体量的模型，英伟达H100卡仅需8张，购置成本约为30万美元，一个8卡的H100服务器的功耗约为10kw，则运营过程中的年度电费为2.4万美元，因此假设运营三年，总成本为37.2万美元。从结果上看，LPU展现出来的推理能力，虽然在成本上仍不满足实际应用的需求，但仍对AI行业带来了冲击和新的思路，未来随着硬件技术和生产层面的逐步成熟，成本端有望得到改善，届时LPU或将提供新的发展路线。 AI行业日新月异，不存在规律的产品更新规划，这一点从Sora的突然问世、Deepmind Genie模型的发布等事件皆可得到验证。站在投资者角度，AI产业投资技术门槛高、技术发展快、产品迭代频率高，且价格上呈现较大波动，更适宜用AI相关指数指数进行低位定投，降低选股风险和择时难度。同时，考虑到AI主权的影响，尽管人工智能海内外发展存在差异，国内人工智能产业仍存在较大的软硬件市场，相关的投资机会包括人工智能ETF（159819），场外联接（A类：012733；C类：012734）、半导体芯片ETF（516350），场外联接（A类：018411；C类：018412）等。以上内容与数据，与界面有连云频道立场无关，不构成投资建议。据此操作，风险自担。

有连云2024-04-10

挑战英伟达！英特尔发布新款AI芯片，半导体芯片ETF(516350)投资机遇备受关注

消息面上，全球AI算力大战或将开启，2024年4月10日，芯片巨头英特尔（Intel）发布性能最强的新一代Gaudi3 AI 加速芯片，以及全新的下一代英特尔至强6处理器等产品。于此同时，今晨举行的谷歌云年度大会Cloud Next 2024上宣布推出一款基于ARM架构的服务器芯片Axion，其性能比通用ARM芯片高30%，比英特尔生产的x86最新芯片性能提高50%。谷歌旨在减少对英特尔和AMD x86芯片的依赖。中金公司表示，市场在当前关键位置虽不排除短期波动，反弹斜率有所放缓但修复行情有望继续延续，下行风险有限。受益于国内产业政策支持、产业趋势明确的科技成长板块或有相对表现，例如半导体、通信等TMT相关行业。相关产品：人工智能ETF（159819），场外联接（A类：012733；C类：012734），人工智能核心标的，一键打包AI各细分环节龙头公司，产业分布均衡。云计算ETF（516510），场外联接（A类： 017853；C类：017854），聚焦产业中游，数字经济时代算力基石。半导体芯片ETF (516350)，场外联接（A类：018411；C类：018412），AI

有连云2024-04-10

芯片板块回调，长川科技跌超8%，紫光国微跌4%，费率最低的芯片50ETF(516920)一度跌逾3%，盘中溢价走阔

升40%。中信建投证券指出，国产头部AI芯片单芯片算力或已接近A100、或优于H20，已基本满足大规模使用条件。模型和应用层面，国内领先的大模型基本实现能力边界的突破，应用端有望迎来加速落地。产算力自立自强大势所趋，将直接拉动服务器、交换机、光模块、液冷、连接器/线束、PCB、IDC建设等环节需求。一键布局“科技之矛”，首选芯片50ETF（516920）！芯片50ETF（516920）跟踪的中证芯片产业指数包含芯片板块50只龙头股，综合覆盖设备材料、晶圆代工、设计、封测等芯片全产业链环节！值得重点关注的是，芯片50ETF（516920）的管理费率为0.15%，托管费率0.05%，为芯片主题ETF中费率最低品种，仅为市场主流费率——“管理费率0.5%，托管费率0.1%”的三分之一，拉长时间看省到就是赚到！芯片50ETF紧密跟踪中证芯片产业指数，中证芯片产业指数选取业务涉及芯片设计、制造、封装与测试等领域，以及为芯片提供半导体材料、晶圆生产设备、封装测试设备等物料或设备的上市公司证券作为指数样本，以反映芯片产业上市公司证券的整体表现。数据显示，截至2024年3月29日，中证芯片产业指数(H30007)前十大权重股分别为中芯国际(688981)、北方华创(002371)、海光信息(688041)、韦尔股份(603501)、中微公司(688012)、兆易创新(603986)、紫光国微(002049)、三安光电(600703)、澜起科技(688008)、长电科技(600584)，前十大权重股合计占比50.97%。以上内容与数据，与界面有连云频道立场无关，不构成投资建议。据此操作，风险自担。

有连云2024-04-10

蚂蚁旗下公司入股AI芯片商墨芯

件服务等。官网显示，墨芯人工智能是一家AI芯片设计商。

金融界2024-04-10

【美股天天说】英特尔(INTC)发布新款AI芯片股价是否已经回调到位？

今天想和大家来聊的是英特尔，因为我们一直在追踪这家芯片巨头，近期也有一些消息可以更新，加上技术面现在回撤到了一个关键支撑，有望给投资者带来新的机会。

陈尉2024-04-10

算力概念全线回调，云计算ETF(159890)早盘跌超2%！权重中际旭创、浪潮信息、中科曙光纷纷走低

产算力基础设施行业将快速增长。国产头部AI芯片单芯片算力或已接近A100、或优于H20，已基本满足大规模使用条件。模型和应用层面，国内领先的大模型基本实现能力边界的突破，应用端有望迎来加速落地。AI产业发展算力先行，尤其在美国对中国先进芯片进口限制持续升级的背景下国产算力自立自强大势所趋，将直接拉动服务器、交换机、光模块液冷、连接器/线束、PCB、IDC建设等环节需求，建议重视。资料显示，云计算ETF（159890）跟踪中证云计算与大数据主题指数（简称云计算），该指数主要覆盖50只业务涉及提供云计算服务、大数据服务以及上述服务相关硬件设备的上市公司。其中，算力约占比50%，应用约占比50%，集合科大讯飞、中际旭创、金山办公、中科曙光、紫光股份、新易盛、浪潮信息等AI产业链算力与应用龙头。以上内容与数据，与界面有连云频道立场无关，不构成投资建议。据此操作，风险自担。

有连云2024-04-10

市场静待重磅CPI数据，美股涨跌不一，英伟达跌超2%，标普500ETF(513500)小幅上涨

元。消息上，英特尔推出升级款人工智能(AI)芯片Gaudi 3，将于三季度大范围供应。这款芯片用于提升“帮助训练AI系统”和“运行软件成品”这两大关键领域的性能，前者包括用数据“轰炸”AI系统。此外，英特尔称该芯片性能超过英伟达H100。今日(2024/4/10)，国内相关ETF方面，纳指100ETF(513390)盘中跌0.34%，成交额超500万元，年初至今涨幅超9%。标普500ETF(513500)盘中小幅上涨，成交额超3700万元，今年来涨幅超13%，最新规模125亿元。根据芝商所的“联储观察”工具显示，美联储5月维持利率不变的概率为100%；到6月维持利率不变的概率为48.7%，累计降息25个基点的概率为51.3%，累计降息50个基点的概率为0%。以上内容与数据，与界面有连云频道立场无关，不构成投资建议。据此操作，风险自担。

有连云2024-04-10

中信建投：国内AI行业蓄势待发，国产算力迈入自强新纪元

产算力基础设施行业将快速增长。国产头部AI芯片单芯片算力或已接近A100、或优于H20，已基本满足大规模使用条件。模型和应用层面，国内领先的大模型基本实现能力边界的突破，应用端有望迎来加速落地。AI产业发展，算力先行，国产算力自立自强大势所趋，将直接拉动服务器、交换机、光模块、液冷、连接器/线束、PCB、IDC建设等环节需求，建议重视。

金融界2024-04-10

A股头条：市场监管总局重拳！严格规范医疗美容广告发布；英特尔发布Gaudi 3人工智能芯片；广州紧急冻结新增公寓项目审批；3月全球黄金ETF资金流出8.23亿美元

100 英特尔发布了其最新的人工智能(AI)芯片Gaudi 3，预计将在第三季度广泛上市。该芯片旨在提高两个关键领域的性能，一是帮助训练人工智能系统，二是运行成品软件。对人工智能服务的旺盛需求促使科技公司争先恐后抢购这些所谓的加速器芯片，但英伟达分走了大部分蛋糕。英特尔首席执行官Pat Gelsinger表示，早期版本的Gaudi未能实现英特尔一直希望的市场份额增长。他预计新的版本将产生更大的影响。根据英特尔的评估，Gaudi 3将比英伟达的H100速度更快、能效更高。隔夜外盘美股：美股三大指数收盘涨跌不一，特斯拉涨超2%，谷歌涨超1%，英伟达跌超2%。黄金矿业涨超21%，Sunrun涨超9%，阿特斯太阳能涨近8%，南方铜业、智利矿业化工涨超3%。热门中概股普涨，纳斯达克中国金龙指数涨1.68%。小鹏汽车涨超9%，哔哩哔哩、蔚来涨超7%，爱奇艺、微博、网易涨超3%。期货市场：富时A50期指连续夜盘收涨0.29%，报12127点。COMEX黄金期货收涨0.89%，报2372美元/盎司，COMEX白银期货涨1.7%；WTI原油期货结算价跌1.39%，报85.23美元/桶，布伦特原油期货跌1.06%。市场策略权重股表现偏弱，上证50指数收跌，日线呈现类似头肩顶的结构，如果后市出现中长阴破位，那么顶部结构确立，接下来即便是正常回调，也要至少跌一个量度目标左右。深市指数表现较强，创业板综指涨超1%，但当前依然认为是下跌途中的反弹。短线反弹很难超过3天，周三或许会冲高震荡，而周四开始则随时可能再度展开下跌。题材掘金工业母机：工业和信息化部七部门联合印发《推动工业领域设备更新实施方案》，提出到2027年，工业领域设备投资规模较2023年增长25%以上，规模以上工业企业数字化研发设计工具普及率、关键工序数控化率分别超过90%、75%。将加快落后低效设备替代，重点推动工业母机行业更新服役超过10年的机床等。标的：海天精工(601882)、拓斯达(300607) 存储芯片：据报道，存储芯片龙头美光已向多数客户提出调升Q2产品报价，涨幅超过两成。价格谈判仍在进行中。据悉，美光在台的DRAM产量约占公司DRAM整体产能的60%。4月3日地震发生后，TrendForce便发布研报指出，美光已率先停止DRAM报价，灾后损失评估后再度启动2024年Q2合约价谈判。三星、SK海力士也跟进停止报价，尽管两大供应商并没有DRAM生产位于台湾地区，但也希望观望后市后再行动。此举带动存储模组厂同日跟进停止报价。标的：紫光国微(002049)、江波龙(301308) 公告精选【重大事项】北方稀土：第二季度稀土精矿交易价格调整为不含税16792元/吨威帝股份：前任董事收到黑龙江证监局行政处罚决定书国投电力：董事长朱基伟因工作调整原因辞职盘江股份：拟投建新能源发电项目岳阳林纸：与平江县政府签署战略合作框架协议天成自控：收到客户某新能源乘用车项目座椅定点通知亚太股份：收到某国外品牌客户供应商提名信江苏有线：拟发行不超过30亿元中期票据和不超过10亿元公司债券石化油服：子公司中标7.94亿元大有原油储备库工程EPCC总承包项目科林电气：中标2.05亿元国家电网项目同兴环保：预中标炼铁厂除尘系统改造工程等项目【业绩速递】银泰黄金：第一季度归母净利预增61.94%—75.43% 湖南黄金：一季度净利预增40%—60% 新城控股：3月份合同销售金额同比下降46.52% 江淮汽车：3月销量同比下降19.71% 温氏股份：3月肉猪销售收入47.27亿元环比增长41.61% 金地集团：3月签约金额61.3亿元同比下降69.53% 中国人寿：一季度累计原保险保费收入同比增长3.2% 云南能投：第一季度归母净利同比预增91.39%—108.28% 卓郎智能：更正后预计2023年净利润3000万元至4000万元龙高股份：2023年净利润同比增12.54%拟10转4派3.62元一汽解放：1—3月销量78463辆同比增长34.22% *ST天山：3月销售活畜收入837.15万元环比增长1708.40% 【增减持】科达制造：新华联控股拟减持公司不超过1%股份【回购】金域医学：实控人提议以5000万元回购公司股份交易提示【限售解禁】

金融界2024-04-10

美股盘前要点 | 谷歌发布AI芯片暴雪网易或于明日官宣恢复合作

美国三大股指期货小幅上涨，纳指期货涨0.32%，标普500指数期货涨0.23%，道指期货涨0.1%。

格隆汇2024-04-09

24小时热点