ROADMAP
如果有课或轮转,宁可拉长周期,也不要只看视频不写代码。先专心走完 30 项核心,拓展资源只在需要时查阅。
HANDS-ON MILESTONES
ENVIRONMENT
LLM 开发以 PyTorch + Hugging Face 为核心栈。微调与推理需要 GPU;学习 Prompt / RAG / Agent 时 用闭源 API(GPT/Claude)即可起步,真正动手微调时再用本地或服务器 GPU。
从 conda.io/miniconda 下载安装包。conda 为每个项目建立独立 Python 环境,避免包版本互相污染。
# 创建并激活名为 llm 的环境
conda create -n llm python=3.11 -y
conda activate llm
先运行 nvidia-smi 查看显卡与 CUDA 驱动版本,再到 pytorch.org 选择器复制命令。无显卡用 CPU 版。
# CPU 版(学习 Prompt/RAG/Agent 足够)
pip install torch
# GPU 版请以官网选择器为准,形如:
pip install torch --index-url https://download.pytorch.org/whl/cu121
Transformer 模型加载、数据集、训练加速、参数高效微调(LoRA)一条命令装好。
pip install transformers datasets accelerate \
peft bitsandbytes sentencepiece \
scikit-learn pandas matplotlib jupyter
运行下面命令,看到版本号即成功。然后安装 VS Code 及 Python、Jupyter、Remote-SSH 插件。
python -c "import torch, transformers; \
print(torch.__version__, transformers.__version__, \
torch.cuda.is_available())"
# 期望输出形如: 2.x.x 4.x.x True
FAQ