19–23 Nov 2026
四川天府新区宇宙线研究中心
Asia/Shanghai timezone

动态计算驱动的下一代AI推理引擎与全栈加速技术

21 Nov 2026, 10:45
20m
五楼会议室 (四川天府新区宇宙线研究中心)

五楼会议室

四川天府新区宇宙线研究中心

四川省成都市双流区科智路1500号

Speaker

晨浩 解

Description

随着大模型技术向复杂推理、长上下文处理和多模态智能持续演进,AI计算负载呈现出动态化、稀疏化和异构化的发展趋势。以混合专家模型(MoE)、稀疏注意力(Sparse Attention)和动态张量计算为代表的新型计算模式,对传统GPU计算框架的算子执行效率、资源调度能力和软硬件协同机制提出了新的挑战。如何突破静态计算模式与动态计算需求之间的性能瓶颈,实现高效、灵活且可扩展的AI推理加速,已成为下一代AI计算基础设施发展的重要方向。 本报告围绕动态稀疏张量算子的自适应计算原语与跨层协同优化技术,介绍面向下一代AI推理引擎的关键技术研究与应用探索。针对动态稀疏计算中不规则访存、负载不均衡、算子碎片化和跨层数据搬运等核心问题,重点探讨两个方面的技术创新:面向动态稀疏计算模式的自适应算子与高效计算原语,实现不同稀疏结构和动态计算负载下的高性能执行;面向大模型推理的跨算子、跨层融合与协同调度技术,通过持久化Megakernel、动态任务调度和数据复用机制,降低计算与访存开销。报告进一步探讨如何将动态稀疏计算、算子融合及软硬件协同优化等底层技术整合为新一代高性能AI推理引擎,面向MoE、长上下文大模型和多模态生成等典型应用,提供从基础算子优化到模型级推理加速的全栈解决方案,实现低成本的AI计算支撑。

Presentation materials

There are no materials yet.