在人工智能赋能中国式现代化的浪潮中，国产算力的自主可控与高效利用成为关键命题。当大模型技术飞速演进，MoE架构、多智能体协同等新型负载层出不穷，国产异构算力平台正面临从“能跑”到“稳跑、快跑、可控跑”的跨越挑战。正是在这样的时代背景下，曾任职于新加坡南洋理工大学的张书豪教授毅然归国，加盟华中科技大学计算机学院，带领团队深耕“面向国产算力的大模型推理服务系统”研发，用技术创新为国家人工智能产业发展筑牢根基，践行“十五五”规划中科技自立自强的战略要求。
归国逐梦：以赤子之心赋能祖国算力发展
张书豪教授的科研生涯始终聚焦高性能计算、并行与分布式系统领域。在新加坡国立大学求学期间，他凭借突出能力两次斩获该校研究成就奖。为进一步拓展科研视野、推动理论与工程实践的深度融合，他加入德国柏林Apache Flink核心团队，在Volker Markl教授团队任职参与研发的大规模分布式并行系统成功部署于华为、字节跳动等企业生产环境，进一步锤炼了理论成果转化为工程实践的本领。此后先后加入新加坡科技设计大学、新加坡南洋理工大学并获长聘助理教授职位，主持多个新加坡国家级科研项目，在分布式绿色流式机器学习等领域积累了深厚技术积淀。
海外多年的科研经历让张书豪教授深刻意识到，人工智能的核心竞争力终究要扎根本土算力生态。看到中国大模型推理多依赖国外硬件、国产算力潜力未充分释放，他毅然放弃海外优厚待遇，回到祖国投身国产算力创新攻坚。“新一代人工智能的竞争，本质上是算力生态的竞争。我希望把所学所长用在国产算力的突破上，让中国的大模型推理有自己的‘根’。”朴实的话语中，彰显着他心系祖国科技发展的赤子情怀。
加盟华中科技大学后，张书豪教授迅速组建起跨学科创新团队，成员涵盖计算机系统、人工智能、数据管理等领域的青年才俊。他结合海外前沿科研理念与中国产业需求，确立“软硬协同的高效系统状态管理”研发方向，聚焦国产算力推理服务核心痛点开启攻坚。凭借卓越的科研领导力，他先后入选国家优青（海外）、华为东湖青年学者等人才计划，成为国产算力推理领域的青年领军人物。
技术攻坚：破解国产算力推理三重难题
大模型推理是复杂的系统工程，在国产异构算力环境下，面临调度编排、科学发现范式、硬件适配三大核心挑战。张书豪教授团队以问题为导向，构建“调度－记忆－推理”三位一体技术体系，逐一破解行业痛点。
在算力调度编排方面，针对MoE架构稀疏负载、多智能体动态负载等新型计算模式，团队创新性提出“面向异构拓扑的解耦编排与资源配额治理技术”。通过构建“准入－排队－路由－映射－反馈”闭环控制链路，精准度量并抑制尾时延风险，可将多租户突发负载下的推理P99时延降低30％以上，显著降低SLA违约率，为国产异构算力集群提供了高效稳定的调度方案。
针对科学发现新范式对推理系统可持续、自主可控的要求，团队率先突破“面向在线更新的多级记忆管理与语义一致性关键技术”，构建可在线演进的记忆检索中间件。通过核心技术创新，实现动态知识演化下推理一致性≥95％、检索命中率下降≤5％的优异效果，为自动化科学发现长链路任务提供坚实支撑。
面对国产硬件架构差异大、软件栈成熟度不一的适配难题，团队研发“面向国产算力的长序列与MoE推理加速栈技术体系”。围绕模型压缩、上下文缓存、数据通路三大核心环节，实现计算图与算子深度优化、KV Cache高效池化及国产互联协议下的通信计算重叠，可适配华为昇腾、海光DCU等主流国产算力平台，充分释放国产硬件计算潜能。
成果斐然：从学术突破到产业赋能
经过持续攻关，张书豪教授团队在国产大模型推理领域取得一系列标志性成果。学术研究上，团队已发表论文60余篇，其中40余篇发表于SIGMOD、SC等CCFA类顶级期刊会议（CCFA为中国计算机学会推荐的国际顶尖级别学术载体，是衡量科研实力的核心指标），多篇入选年度领域亮点成果。
2026年团队在ICDE、SIGMOD、WWW等国际顶级会议上集中分享重磅成果，其提出的流式记忆分解与测试基准等创新方法，为国产大模型推理研究提供了全新范式与实用工具。这些会议均为CCF－A类顶级会议，录取率低、竞争激烈，团队的集中亮相充分彰显了其国际影响力与核心竞争力。
系统研发与开源方面，团队打造的SAGE系列开源系统，包括高性能向量原生流计算基础设施SAGE－VDB、SAGE－Flow等，其中Neuromem系统在动态开放流场景上细致评估了当前记忆体设计的各个维度优缺点，荣获第42届CCF中国数据库学术会议“最佳系统演示提名奖”，获得华为、腾讯、字节跳动等企业高度关注。
产业化方面，团队牵头承担新一代人工智能国家科技重大专项课题《面向国产硬件极致性能优化的推理引擎》。研发的推理服务栈计划在信创设备、央国企等敏感场景落地，实现长序列／MoE在线推理高性能部署，提供了可复制、可推广的解决方案。团队构建的“基础研究－中试研究－产业化”全链条布局，其产学研协同模式有望成为领域标杆。
育人筑魂：传承科研报国初心
作为高校教授，张书豪教授坚持“科研与育人并重”，将立德树人融入教学全过程。教学中，他紧扣科技前沿，结合国产核心技术研发案例，激发学生爱国情怀与创新精神；科研中，他悉心指导学生参与项目攻关，培养其解决复杂工程问题的能力。
在入职华科短短一年多时间里，在他的指导下，本科生团队斩获中国系统能力大赛一等奖一次、三等奖两次，多名研究生在CCF－A类国际会议上发表一作论文，高年级研究生陆续收到腾讯、字节等头部企业的实习邀请，成为国产算力、人工智能领域的新生力量。他将科研成果与教学内容深度融合，构建贴合产业需求与科技前沿的课程体系，践行师者使命，为国家培养了一批复合型科技人才。
站在“十五五”规划新起点，人工智能产业迎来发展机遇，国产算力作为核心底座，其自主化、高效化发展是推动科技自立自强的关键。张书豪教授表示：“团队将继续聚焦国产算力推理核心难题，深化“调度－记忆－推理”协同优化，力争在长序列与MoE推理性能上实现更大突破。”
未来，团队将拓展技术应用场景，推动成果在科学智能、多模态应用等领域深度落地，赋能智能制造、智慧医疗等行业。同时，加强国际合作，提升我国在全球人工智能算力领域的话语权，推动国产算力生态走向世界。
从海外求学的青年才俊到投身祖国科技发展的科研青年领军者，从实验室的理论突破到产业化的规模应用，张书豪教授团队始终以科技自立自强为目标，用智慧与坚守书写着国产算力推理的创新篇章。在科技赋能中国式现代化的时代浪潮中，他们将继续以创新为笔、以实干为墨，深耕国产算力领域，持续突破核心技术，为我国人工智能产业高质量发展注入源源不断的算力动能，让国产大模型推理技术在全球舞台上绽放中国光彩。（黄敏昕）
050b0da7-1806-43b5-a7a3-c7961f54d58d.jpg)