3000B大模型，如何塞进一台算力盒子？明略科技(2718.HK)赵晨旭出席2026 CSDI SUMMIT，分享大模型落地的“效率账”lg...

一边是动辄数千亿、数万亿参数的大模型，一边是企业桌面上的一台设备。两者之间，隔着多少算力，又隔着多少成本？

当 AI 开始参与实际工作，这个问题变得具体起来。一个需要反复调试的编程任务，一项持续运行的智能体工作流，都在消耗 Token ，也在考验企业的预算。模型能力如何转化为工作成果，每一次推理是否物有所值，成为企业部署 AI 时需要回答的问题。

10月16日至18日，2026年第十届CSDI SUMMIT 中国软件研发智能创新科技峰会在深圳举行。明略科技集团副总裁、多模态首席科学家赵晨旭带来主题演讲《优化Token ROI：用「Scaling Out Law」把 3000B 巨兽塞进一台算力盒子中》，从模型能力的提取与重组谈起，分享明略科技对这笔“效率账”的思考。

让业务需要的能力，在合适的设备上高效运行。 围绕这一目标，模型的组织方式与部署方式，都有了新的探索空间。

企业的一项任务，

需要多大的模型？

通用大模型覆盖广泛的知识和技能，但一项具体的业务任务，通常只需要其中一部分能力。例如，编程工作中的代码生成与调试修复，对模型能力的需求就各有侧重。完整部署整个模型，就可能带来超出任务所需的资源开销。

由此，一个问题浮现出来：能否从通用模型中提取任务所需的专业能力，让部署规模与业务需求更加匹配？

为此，明略科技沿着Scaling Out的路径，从通用大模型中提取业务所需的专业能力，按任务需求重新组合。具体而言，团队从前沿开放权重模型中选取相关专家，通过领域数据训练与协作机制优化，构建适合本地运行的模型系统。

这就好比用火柴点燃一张餐巾纸，从一捆火柴中取出所需的几根，就能完成任务。每根火柴仍保留原有的长度，模型也同样保留所选专家的能力，让资源投入与任务需求相匹配。

在固定的资源预算下，系统依据任务反馈持续优化专家选择，尽可能保持提取后的子网在目标领域的表现。

这也意味着，前沿模型能力的增长，可以通过专业化提取与重组，进一步服务于具体业务。企业由此获得一种选择：根据自己要完成的工作，配置所需的模型能力。

图片来源：明略科技

每一次推理，

都值得算一笔账

选出合适的专家，只是第一步。接下来，还要让它们学得有针对性、协作得有效率。

以编程为例，代码生成与测试验证需要不同的数据支持。任务划分得更细，训练数据才能更准确地服务于相应能力，模型运行时的调用也更有依据。

赵晨旭介绍，团队通过优化路由，让领域任务更集中地调用相关专家，减少冗余计算。在现场展示的实验中，路由优化使思维链长度缩短约 21% 。

图片来源：明略科技

这个数字背后，正是企业关心的效率问题，即同一项工作，模型需要推理多少步，占用多少设备资源，最终交付怎样的结果。

对于持续运行的智能体，推理过程中的效率改善，会影响整个工作流的资源消耗。随着任务量增加，其价值也会愈发凸显。

算力盒子里的空间，

从哪儿来？

大模型走向本地设备，首先要面对硬件资源的约束。模型参数如何存放、何时进入内存或显存，都会影响运行成本与响应速度。

围绕这一问题，赵晨旭介绍了明略科技自研的存算分离推理框架 Mnemos。

MoE 模型在每次计算时，通常只激活部分专家。Mnemos 利用这一特点，将暂时闲置的专家参数存放在 SSD 等存储介质中，按需加载到内存或显存，让高速内存优先服务于当前计算。

其中的关键，是把参数加载的时机安排好。系统通过路由预测与专家预加载，在处理当前计算的同时，准备后续需要的参数，尽可能缩短数据搬运带来的等待。

图片来源：明略科技

在展会现场，明略科技同步展示了算力棒、统一内存设备和本地智能体案例，让这一思路有了具象化呈现。结合端侧网关，用户还可以查看 Token 消耗与设备负载，评估本地运行的实际收益。

对企业而言，这条路径的吸引力也在于对数据隐私与主权的保障：当适合的任务能够在本地处理，企业便可以结合自身的数据管理要求，安排私有数据的使用方式，并减少相应的外部接口调用。

面对新信息，

模型如何边看边适应？

运行效率之外，赵晨旭还分享了明略科技在模型学习机制的探索。

现实中的信息带着各自的特点。阅读一封潦草的手写信时，人会在辨认文字的过程中逐渐熟悉字迹的特征，并能够将已掌握的特征不断对应到后续内容中，实现越读越顺的效果。

明略科技参与研发的通用视觉骨干架 VisionHOPE，探索的正是视觉模型对当前输入的适应能力。

通过五类相互配合的记忆机制，VisionHOPE 能够在扫描图像的过程中积累上下文，并据此调整学习与记忆更新方式。相关研究已在图像分类、目标检测等视觉任务上开展验证。

这项探索将关注点进一步延伸到模型内部：面对正在处理的信息，模型如何调整自身的理解过程，为后续识别提供帮助。

企业需要在每天的使用中看到AI的价值。一次任务的完成质量、一套工作流的运行成本，都是检验技术的尺度。从Scaling Out对专业能力的提取，到Mnemos对本地硬件资源的利用，明略科技持续关注着前沿模型与实际工作之间的距离，也正在将模型研究推进到设备与业务现场，让算力投入获得更清晰的回报。

关于明略科技

明略科技（2718.HK），成立于2006年，中国领先的具备自研模型能力的Agentic Service企业。2025年作为"全球Agentic AI第一股"登陆港交所。曾两度斩获吴文俊人工智能科学技术奖，多次入选Gartner、IDC相关报告，拥有2400余项技术专利及500余项软件著作权。近年来，多个AI模型在全球权威榜单取得领先成绩。依托20年技术积累，明略科技已服务135家财富世界500强、约2100家品牌客户及超24万家企业用户，覆盖零售、消费品、汽车、3C等行业。

以上内容与数据，与有连云立场无关，不构成投资建议。据此操作，风险自担。