Skip to content

Latest commit

 

History

History

Roadmap

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
 
 

LLM 学习路线

工程落地

  • 大模型预训练;
  • 大模型微调;
  • 大模型偏好对齐;
  • 大模型计算加速:
    • 模型压缩:权重剪枝、知识蒸馏;
    • 模型量化:权重量化、激活量化;
    • 模型蒸馏。

技术原理

  • 扩散模型;
  • 多模态;
  • ChatGPT;
  • Transformer;
  • 强化学习;
  • ……