Tool
LeetGPU:GPU 编程挑战
在线 CUDA / 算力练习平台
前往 →
Book
How to Scale Your Model:如何扩展你的模型
中文版 · GPU / 并行 / Roofline
前往 →
Docs
CUDA C++ 编程指南
NVIDIA 官方文档
前往 →
Docs
vLLM 中文站
高吞吐 LLM 推理引擎
前往 →
Course
MiniMind:从零理解 LLM 训练
minimind.wiki · 完整训练链路
前往 →
Repo
KernelBench:LLM 能写 GPU Kernel 吗
GitHub · Scaling Intelligence
前往 →
Article
矩阵乘法:从手搓到 CUTLASS 实现
峰子的乐园
前往 →
Article
从 305GB 到 7.4GB:KVCache 架构演进全景
博客园 · 银光
前往 →
Reference
GPU Glossary:GPU 术语表
中文版 · 硬件 / 架构速查
前往 →
Book
How to Scale Your Model:并行计算与分片
中文版 · Parallelism / Sharding
前往 →
Book
How to Scale Your Model:Roofline 模型
中文版 · 性能上限分析
前往 →
Docs
CUDA C++ 最佳实践指南
NVIDIA 官方文档
前往 →
Course
Modern GPU Programming for MLSys:GPU 执行模型
MLC.ai
前往 →
Article
Prefix Caching 详解
知乎
前往 →
Article
vLLM 推理全流程图解
微信公众号
前往 →
Docs
vLLM Ascend 官方文档
vLLM · Ascend
前往 →
Repo
MinivLLM:极简 vLLM 实现
GitHub · Wenyueh
前往 →
Docs
昇腾开源文档中心
Ascend Open Source
前往 →
Repo
CUDA-Agent:高性能 CUDA Kernel 生成强化学习
GitHub · BytedTsinghua-SIA
前往 →
Benchmark
CANN-Bench:CANN 算子任务评测
AtomGit · GitCode
前往 →
Repo
DFlash:Block Diffusion for Flash Speculative Decoding
GitHub · z-lab
前往 →
Digest
KernelHive AI Systems Daily
KernelHive · AI 系统论文日报
前往 →
Case Study
DeepSeek-V4-Pro:国产算力集群全参数后训练
深圳河套学院 · 昇腾训练实践
前往 →
Paper
ConvRot:扩散 Transformer 的即插即用 4-bit 量化
OpenReview · 旋转量化
前往 →
Article
CUDA Kernel:如何设置 grid_size 与 block_size
知乎 · CUDA 编程
前往 →
Course
Kubernetes 一小时入门
哔哩哔哩 · 容器编排基础
前往 →
Book
How to Scale Your Model:理解 GPU
How to Scale Your Model 中文版
前往 →
Book
深入理解 AI Infra:量化分析与系统设计
李博杰 · 开源书稿与实验
前往 →
Docs
CUDA 编程模型
NVIDIA · 官方编程指南
前往 →
Docs
GPU Glossary:CUDA 设备架构
GPU 术语表中文版
前往 →
Course
CUDA 教学视频合集
哔哩哔哩 · GPU 编程
前往 →
Docs
PTX ISA 9.2 指令集参考
NVIDIA · 官方文档
前往 →
Article
vLLM 调度机制
微信公众号 · 推理系统
前往 →
Docs
LuoSS:镜像存储指南
络书算衡 · 官方文档
前往 →
Code
SGLang:Ascend NPU 与 DeepSeek-V4-Flash 支持实现
SGLang · Pull Request #25144
前往 →
Code
LLM Torch Profiler 性能分析技能
BBuf · AI Infra Skills
前往 →
Code
ops-fft:基于 CANN 的 FFT 算子库
CANN · GitCode
前往 →
Guide
DeepSeek-V4-Flash:昇腾部署入门
昇腾社区 · 技术实践
前往 →
Guide
DeepSeek-V4-Flash:昇腾 910B 单机部署
CSDN · jyfcloud
前往 →
Docs
GPUStack:Qwen3-30B-A3B 昇腾 910B 性能参考
GPUStack · Performance Lab
前往 →
Article
SOL-ExecBench:Agent 时代的算子开发实践
知乎 · 算子开发
前往 →
Article
Agent 自动优化 CUDA Kernel 实践
微信公众号 · FlashInfer 竞赛实践
前往 →
Code
AI-Infra-Auto-Driven-SKILLS:基础设施技能库
BBuf · GitHub
前往 →
Code
KDA-Pilot:Agent 驱动的 Kernel 优化
BBuf · GitHub
前往 →
Notes
InfraTech:Kimi K3 模型架构
CalvinXKY · 架构与代码笔记
前往 →
Notes
InfraTech:DeepSeek V4 模型架构
CalvinXKY · 架构与代码笔记
前往 →
Code
InfraTech:AI Infra 知识与代码练习
CalvinXKY · PyTorch / vLLM / SGLang
前往 →
Article
图解 MLA 计算流与吸收矩阵
知乎 · 注意力计算分析
前往 →
Article
vLLM 显存管理详解
知乎 · 推理系统
前往 →
Article
大模型推理并行策略:DP / TP / PP / SP / EP
知乎 · 并行推理
前往 →
Interactive
大模型架构 3D 可视化
CalvinXKY · InfraTech
前往 →