跳到主要内容
步芽

【极致中配】CMU 10-423: 生成式AI Generative AI | 2024

CMU研究生课,系统讲解生成式AI核心技术:Transformer与大语言模型、GAN、扩散模型、VAE、多模态与训练扩展,兼顾理论与实现。

难度
难度 5/5研究生课程,需深厚深度学习与数学基础,覆盖前沿生成模型
适合人群
有深度学习基础、想深入生成式AI的研究生或高年级本科生
前置要求
深度学习(神经网络、反向传播、自动微分)、概率论与统计(变分推断、贝叶斯基础)、线性代数(矩阵运算、张量)、Python与PyTorch(能实现并训练模型)
课程规模
34 · 1467播放

主题覆盖

Transformer语言模型大语言模型训练GAN扩散模型变分自编码器VAE变分推断上下文学习参数高效微调RLHF指令微调视觉语言模型混合专家与分布式训练视频生成与语音识别

课程大纲(34 讲)

  1. P1 · Lecture 01 Course Overview Autodiff RNNLMs51 分钟
  2. P2 · Lecture 02 Transformer Language Models51 分钟
  3. P3 · Lecture 03 Learning Large Language Models55 分钟
  4. P4 · Lecture 04 Modern Transformers CNNs Transformers for Vision61 分钟
  5. P5 · Lecture 05 GANs Conditional GANs37 分钟
  6. P6 · Lecture 06 General Adversarial Networks GANs Variational Inferences49 分钟
  7. P7 · Lecture 07 Diffusion Models and Variational Inference57 分钟
  8. P8 · Lecture 08 Diffusion Models and Variational Inference52 分钟
  9. P9 · Lecture 09 Variantional Autoencoders VAE39 分钟
  10. P10 · Lecture 10 InContext Learning49 分钟
  11. P11 · Lecture 11 Parameter Efficient FineTuning50 分钟
  12. P12 · Lecture 12 Instruction FineTuning Reinforcement Learning With Human Feedback38 分钟
  13. P13 · Lecture 13 Latent Diffusion Models53 分钟
  14. P14 · Lecture 13.5 Prompt to Prompt 233 分钟
  15. P15 · Lecture 14 Vision Language Model 256 分钟
  16. P16 · Lecture 15 Visuallanguage models Part II55 分钟
  17. P17 · Lecture 16 Scaling Up II Mixture of Experts54 分钟
  18. P18 · Lecture 17 Scaling Up Part III Attention43 分钟
  19. P19 · Lecture 18 Distributed Training57 分钟
  20. P20 · Lecture 20 Long Context in LLM 257 分钟
  21. P21 · Lecture 21 Generative Model for Videos51 分钟
  22. P22 · Lecture 21 Generative Model for Videos board52 分钟
  23. P23 · Lecture 22 legacy lecture pipeline56 分钟
  24. P24 · Lecture 22 legacy lecture pipeline board56 分钟
  25. P25 · Lecture 23 Speech Recognition Models43 分钟
  26. P26 · Lecture 23 Speech Recognition Models board44 分钟
  27. P27 · Lecture 24 cuda programing60 分钟
  28. P28 · Lecture 24 cuda programing board60 分钟
  29. P29 · Lecture 2562 分钟
  30. P30 · Recitation HW031 分钟
  31. P31 · Recitation HW149 分钟
  32. P32 · Recitation HW245 分钟
  33. P33 · Recitation333 分钟
  34. P34 · Recitation HW440 分钟

本课程卡由 AI 生成,可能存在误差,欢迎反馈。