解读 MegaMoE 在 Blackwell 与 Hopper 上的融合算子设计,围绕 TMEM 复用、数据布局、流水线与通信调度,串联具体优化及其依赖的架构知识。
本文基于 2026 年 10 月 16 日 NVIDIA 下午场 S1 讲座整理。
解读 MegaMoE 在 Blackwell 与 Hopper 上的融合算子设计,围绕 TMEM 复用、数据布局、流水线与通信调度,串联具体优化及其依赖的架构知识。
本文基于 2026 年 10 月 16 日 NVIDIA 下午场 S1 讲座整理。
理解扩散模型,重点是分清模型预测什么、采样器怎样使用预测,以及潜空间和网络结构如何影响计算成本。本文沿 DDPM、DDIM、Stable Diffusion、DiT 与 Flow Matching 展开,保留关键公式和模型结构,用直觉解释设计目的。
从一个 Talker codec chunk 追踪到 Code2Wav,说明阶段之间传什么、何时能消费,以及取消后谁负责收回共享内存。
沿一次 Qwen3-Omni 文本输入、文本与语音输出请求,追踪跨 stage 的登记、提交、结果汇合与终止,理解 Runtime 的对象归属和完成条件。
沿一次 Qwen-Image 文生图请求追踪状态、批次与去噪循环,再用 MiniMax-H3 continuous batching 的实际 PR 检查隔离、失败同步和性能边界。
沿 expert-major 接收布局追踪 Triton 专家计算,解释 CUDA Graph 下的动态工作量,以及 TBO 微批拆分如何影响计算成本。
从 SGLang 调用追踪到 NCCL 通信与 MoE dispatch/combine,解释数据身份、执行依赖和资源生命周期如何决定正确性与性能。