MTech/ME入学前学习ML/AI与GPU编程：求最佳实践及资源

一、ML/AI深入学习 #

核心理论夯实 #

• 啃透经典教材：《Pattern Recognition and Machine Learning》（PRML）、《Deep Learning》（花书），前者侧重传统ML理论推导，后者覆盖深度学习核心体系，务必完成课后习题强化理解。
• 补充进阶内容：深入学习概率图模型、强化学习核心，重点掌握贝叶斯推断、马尔可夫决策过程等关键知识点，能独立推导核心算法的数学逻辑。

实践落地 #

• 从主流模型复现入手：用PyTorch或TensorFlow实现ResNet、Transformer等经典模型，关注训练调参、模型优化的细节。
• 参与小型实战项目：聚焦数据预处理、特征工程、模型融合等环节，积累解决实际问题的经验。

二、GPU编程与编译器设计结合 #

GPU编程基础 #

• 先掌握CUDA C/C++：理解线程层次、内存模型、核函数编写逻辑，完成向量加法、矩阵乘法等基础实现，吃透GPU并行计算的核心原理。
• 进阶优化学习：钻研CUDA性能优化技巧，比如共享内存高效使用、指令级并行，能分析程序瓶颈并针对性优化。

编译器设计与GPU结合 #

• 打牢编译器基础：掌握词法分析、语法分析、中间表示（IR）生成等核心流程，啃透*《Compilers: Principles, Techniques, and Tools》*（龙书）。
• 聚焦ML编译器方向：学习MLIR、TVM等框架的设计思路，尝试基于IR实现简单算子优化，理解ML模型到GPU硬件的映射逻辑。

三、高强度学习最佳实践 #

• 制定固定进度计划：每天分配3小时理论学习+2小时实践时间，每周完成一个小项目或一个章节的习题闭环。
• 搭建知识关联体系：用笔记梳理知识点间的逻辑联系，比如ML模型的数学原理如何对应到GPU并行计算的实现逻辑。
• 参与技术交流：加入相关技术社群，和同行讨论CUDA优化、ML编译器设计等难点问题，拓宽思路。

内容的提问来源于stack exchange，提问作者bot