Blog Writing Tricks
Some writing techniques for the butterfly theme in markdown format
11711 Advanced NLP: Parallelism and Scaling
CMU 11-711 高级自然语言处理并行与扩展笔记，涵盖单 GPU 训练基础、数据/张量/流水线并行、ZeRO 内存优化，以及大规模 LLM 训练的策略选择。
11711 Advanced NLP: Quantization
CMU 11-711 高级自然语言处理量化笔记，涵盖数值表示、8 位量化（absmax、zero-point）、LLM.int8()、GGML/GGUF，以及量化感知训练与 QLoRA。
11868 LLM Sys: Systems for Mixture-of-Experts Models
CMU 11-868 LLM Systems 第16讲笔记，涵盖 Mixture-of-Experts 架构、Switch Transformer、共享专家与路由专家、基于 GShard 的专家并行、负载均衡、DeepSeek V3 MoE 以及 DeepSpeed-MoE 推理优化。
15645 Database systems: Query Optimization
CMU 15-645 数据库系统课程笔记与总结。
15645 Database systems: Query Execution
CMU 15-645 数据库系统课程笔记与总结。
11868 LLM系统：分布式训练与DDP
CMU 11-868 LLM Systems 第13-14讲笔记，涵盖分布式训练、NCCL通信原语、Ring AllReduce，以及PyTorch Distributed Data Parallel。
AI Agent 工程设计精选文章
收录关于 AI Agent 工程设计的核心文章，涵盖 Claude Code、OpenAI Codex、上下文管理与记忆机制、OpenClaw 架构解析等主题。每篇文章附有原文引用与核心要点。
15645 Database systems: Join Algorithms
CMU 15-645 数据库系统的笔记和总结。
15645 Database systems: Sorting & Aggregation
CMU 15-645 数据库系统的笔记和总结。