Life is not a race, but a journey

CMU 15-645 数据库系统的笔记和总结。

CMU 11-711 Advanced NLP 课程关于 NLP 评测、基准测试与实验设计的笔记，涵盖损失指标、任务指标、LLM 评判、统计检验与标注质量。

CMU 11-711 高级自然语言处理中多模态建模的笔记，涵盖 ViT、CLIP、LLaVA 风格对接、基于 token 的图像生成、扩散模型与 flow matching。

CMU 11-711 高级自然语言处理中关于检索系统、检索器和检索增强生成（RAG）的笔记。

CMU 15-642 机器学习系统课程笔记与总结，涵盖分布式训练技术，包括数据并行、模型并行、流水线并行以及 ZeRO 等大规模模型训练的优化策略。

CMU 11-868课程中关于LLM推理解码策略的笔记，涵盖高效采样、束搜索算法、推测性解码和EAGLE。

关于大语言模型的分词技术和词汇学习的综合笔记，包括BPE、VOLT以及多语言LLM的实际考虑。

CMU 15-642 机器学习系统课程笔记：Transformer架构、注意力机制以及包括FlashAttention在内的GPU优化技术。

CMU 15-645 数据库系统的笔记和总结。

TinyKV 的实现与架构详解，一个基于 Raft 的分布式键值存储系统，涵盖 Multi-Raft、MVCC 事务、调度器等核心模块。