根据 www.Todayusstock.com 报道,Arm Holdings (ARM.O)首席执行官雷内·哈斯(Rene Haas)表示,将部分人工智能(AI)功能从云端转移到本地设备,有助于降低整体能源消耗。这一策略旨在应对大规模吉瓦级数据中心在长期运营中可能面临的能源压力。
哈斯指出,AI训练仍需依赖云端强大的计算能力,但AI推理任务可以在本地设备完成,包括手机、电脑和智能眼镜等。这种分布式计算模式有助于减少巨额电力投入,同时提升响应速度和用户体验。
哈斯表示:“你会问自己,需要做出哪些改变?我认为有两个方向。其中一个是低功耗,即在云端实现尽可能低能耗,Arm在这方面贡献很大。但更具体的是,将这些AI工作负载从云端转移到本地应用。”
Arm CEO强调,历史上计算的发展趋势总是走向混合模式,AI领域也不例外。训练仍集中在云端以保证模型规模和精度,而推理环节下沉到本地,实现能效和延迟优化。这意味着未来AI设备将具备更强的自主计算能力,降低对云端算力的依赖。
AI环节 | 计算位置 | 特点与优势 |
---|---|---|
训练 | 云端 | 支持大规模模型、高精度训练 |
推理 | 本地设备 | 降低延迟和能耗,提高用户体验 |
Arm的这一策略反映了芯片设计向低功耗、高能效方向的行业趋势。在AI算力需求快速增长的背景下,将推理下沉至本地有助于缓解数据中心能源负担,同时推动移动端和边缘计算设备的发展。这对智能手机、AR/VR设备及物联网终端的AI能力提升具有重要意义。
Arm CEO哈斯提出的“本地AI推理+云端训练”混合模式,体现了企业在应对AI能耗和大规模数据中心挑战上的战略思路。通过下沉推理工作负载,不仅可降低能耗,还能优化延迟和用户体验。未来,混合计算模式将成为AI设备和云端基础设施协同发展的核心趋势。
问1:Arm CEO提出的AI本地化策略核心是什么?
答:核心是将AI推理任务下沉到本地设备,而训练任务仍保留在云端,从而降低整体能耗和延迟。
问2:为什么云端训练仍然必要?
答:训练需要强大的算力支持大规模模型和高精度计算,本地设备难以承担,因此训练仍依赖云端。
问3:本地AI推理的优势有哪些?
答:优势包括降低能耗、减少延迟、提高用户体验,同时减轻云端数据中心的负担。
问4:这种混合计算模式对产业有何意义?
答:可推动移动端、边缘设备和物联网终端的AI能力提升,同时推动芯片设计向高能效方向发展。
问5:未来AI计算是否将完全转移到本地?
答:不完全,训练仍需云端算力支持,但推理会更多依赖本地设备,形成“云+端”的混合模式。
来源:今日美股网