看一组数字就够了：GitHub 上约 104k Star、超过 11 万次提交——PyTorch 是当前最受研究者欢迎的深度学习框架。从 2017 年靠"动态图加 Python 原生体验"掀翻静态图霸主，到大模型时代各家训练栈几乎清一色构建在它之上，PyTorch 用不到十年成了事实标准。
PyTorch 的官方定位：带有强 GPU 加速的张量与动态神经网络 Python 库。本文第 1 节讲项目概况，第 2 节拆解核心组件，第 3 节用代码上手训练，第 4 节谈工程化，第 5 节给选型建议，最后总结。
1、项目概述
PyTorch 由 Meta AI 研究团队主导开发，后捐给 Linux 基金会旗下的 PyTorch 基金会治理，采用 BSD 风格协议，官方文档 覆盖全部子模块。安装建议从 pytorch.org/get-started/locally 选择对应的 CUDA 版本获取命令，比盲装 pip install torch 少走弯路。
版本节奏是每年约 3 个 minor 版本。仓库要求 Python 3.10 以上，源码构建需要支持 C++20 的编译器（Linux 上 gcc 11.3.0 以上）、10 GB 磁盘和 30 到 60 分钟的首次编译。官方还提供开箱即用的 Docker 镜像：
docker run --gpus all --rm -ti --ipc=host pytorch/pytorch:latest
注意 --ipc=host 不是可选项——DataLoader 的多进程共享内存依赖它。
2、核心组件全景
PyTorch 不是一个单一的库，而是一组职责清晰的子模块：
| 组件 | 职责 |
|---|---|
torch |
GPU 加速张量库，类 NumPy |
torch.autograd |
基于磁带的自动微分 |
torch.nn |
与 autograd 集成的神经网络库 |
torch.jit |
TorchScript 编译栈 |
torch.multiprocessing |
跨进程共享张量的并行 |
torch.utils |
DataLoader 等工具集 |
理解两个概念就能读懂大半代码。第一是张量（torch.Tensor）：与 NumPy 数组几乎同构，多出一个 device 属性，.to("cuda") 把数据搬到 GPU 即自动加速。第二是动态计算图：前向传播执行到哪，计算图就构建到哪，控制流就是 Python 的 if 和 for——调试可以用 print 和断点直接完成，这也是它夺走研究社区的原因。torch.autograd 在 loss.backward() 时反向求导，梯度落入叶张量的 .grad。
3、快速上手
一段最小但完整的训练循环，展示张量、nn 模块、优化器与自动微分：
import torch
import torch.nn as nn
device = "cuda" if torch.cuda.is_available() else "cpu"
X = torch.randn(1000, 20, device=device)
y = (X.sum(dim=1) > 0).float().unsqueeze(1)
model = nn.Sequential(
nn.Linear(20, 64),
nn.ReLU(),
nn.Linear(64, 1),
).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=1e-3)
loss_fn = nn.BCEWithLogitsLoss()
for step in range(200):
loss = loss_fn(model(X), y)
optimizer.zero_grad()
loss.backward()
optimizer.step()
print("final loss:", loss.item())
四个动作构成心跳：前向算 loss、zero_grad 清旧梯度、backward 反向求导、optimizer.step() 更新参数——再复杂的训练脚本，内核都是这四行的变体。BCEWithLogitsLoss 把 sigmoid 与交叉熵数值稳定地合并，二分类首选；.item() 把单元素张量转成 Python 数值。
数据处理交给 torch.utils.data.DataLoader：传入 Dataset，指定 batch_size 与 num_workers 即可。
4、工程化与分布式
从 demo 到生产需要补三块拼图。第一块是训练管理：torch.amp 的混合精度（autocast 加 GradScaler）用一半显存换接近无损的精度；torch.utils.checkpoint 的梯度检查点用重算换显存，大模型不开启根本放不下。第二块是分布式：torch.distributed 提供 NCCL 后端的集合通信，DistributedDataParallel 是多卡数据并行的标准答案，配合 torchrun 可扩展到多机；torch.save 与 torch.load 负责检查点。
第三块是部署。动态图的灵活性在推理侧是负担，历史答案是 TorchScript（torch.jit 编译栈），今天更主流的是 torch.export 导出加 torch.compile 编译：后者把前向编译成优化内核，常见收益是提速一到三成，代价是首次编译等待。
5、对比与选型建议
与 TensorFlow 的十年之争已尘埃落定：研究与新模型开发几乎是 PyTorch 单极，工业推理侧 TensorFlow 仍有存量阵地。选型今天不难：
- 新项目、研究复现、大模型微调——默认 PyTorch
- 依赖 Hugging Face 生态——以 PyTorch 为一等公民
- 已有 TF 存量系统且运行良好——不必迁移
踩坑清单集中在环境：CUDA 版本与驱动不匹配是新手第一大坑，torch.cuda.is_available() 返回 False 时先查 nvidia-smi 再查安装命令；Windows 下 num_workers 大于 0 要把训练代码放进 if __name__ == "__main__": 保护，否则多进程无限重启；显存不够先上混合精度与梯度检查点，再缩小 batch。
6、总结
PyTorch 赢在把框架做成了"会自动求导的 Python"：张量、动态图、nn 模块、优化器四个抽象既够小又够全，已是深度学习领域的通用语言。对于入门深度学习与大模型实践的人，建议从官网选好 CUDA 匹配的安装命令、以训练循环四动作加 DataLoader 起步，再逐步引入 torch.compile 与分布式；对于部署团队，建议尽早用 torch.export 固化模型边界，把灵活性留在实验里、把确定性留给生产。
