Ubuntu下PyTorch的内存管理技巧

1. 降低批量大小（Batch Size）
批量大小是影响GPU显存占用的核心因素之一。减小批量大小可直接降低单次前向/反向传播的内存需求，但需注意：过小的批量可能导致训练不稳定或收敛速度下降。建议通过实验找到“内存占用与训练效果”的平衡点。

2. 使用梯度累积（Gradient Accumulation）
当无法通过减小批量大小满足显存需求时，梯度累积是理想替代方案。其原理是在多个小批次上累积梯度（而非立即更新模型参数），待累积到目标“虚拟批量大小”后再执行参数更新。这种方法可模拟大批次训练的效果，同时避免显存溢出（OOM）。示例代码：

optimizer.zero_grad()
for i, (data, label) in enumerate(dataloader):
    output = model(data)
    loss = criterion(output, label)
    loss.backward()  # 累积梯度
    if (i+1) % accumulation_steps == 0:  # 达到累积步数后更新参数
        optimizer.step()
        optimizer.zero_grad()

3. 启用混合精度训练（Automatic Mixed Precision, AMP）
混合精度训练结合了float16（低精度）和float32（标准精度）的优势：用float16进行计算以减少显存占用和加速运算，用float32保存模型参数以避免数值精度损失。PyTorch通过torch.cuda.amp模块实现自动混合精度，无需手动修改模型代码。示例代码：

scaler = torch.cuda.amp.GradScaler()  # 梯度缩放器（防止数值溢出）
for data, label in dataloader:
    optimizer.zero_grad()
    with torch.cuda.amp.autocast():  # 自动选择精度
        output = model(data)
        loss = criterion(output, label)
    scaler.scale(loss).backward()  # 缩放梯度
    scaler.step(optimizer)  # 更新参数
    scaler.update()  # 调整缩放因子

4. 优化数据加载流程
低效的数据加载会成为显存使用的“隐形瓶颈”。需注意：

• 使用num_workers参数开启多进程数据加载（根据CPU核心数调整，如num_workers=4），避免数据加载阻塞GPU计算；
• 设置pin_memory=True启用固定内存（Pinned Memory），加速数据从CPU到GPU的传输；
• 避免在Dataset的__getitem__方法中一次性加载整个数据集，改为按需加载。示例代码：

dataloader = torch.utils.data.DataLoader(
    dataset,
    batch_size=64,
    shuffle=True,
    num_workers=4,      # 多进程加载
    pin_memory=True     # 固定内存
)

5. 释放不必要的缓存与对象
PyTorch会缓存计算结果以提高效率，但长期运行可能导致缓存占用过多显存。可通过以下方式手动释放：

• 使用torch.cuda.empty_cache()清空未使用的缓存（注意：频繁调用可能影响性能）；
• 用del关键字删除不再使用的张量或模型（如del output, loss）；
• 调用gc.collect()触发Python垃圾回收，释放无引用对象的内存。

6. 使用梯度检查点（Gradient Checkpointing）
梯度检查点通过“牺牲计算时间换取显存空间”：在前向传播时仅存储部分层的中间结果（如每隔几层存储一次），反向传播时重新计算未存储的中间结果。这种方法可显著减少激活值的显存占用（通常降低40%-50%），尤其适用于深层模型（如Transformer）。示例代码：

from torch.utils.checkpoint import checkpoint

def forward_segment(x):
    return model.segment(x)  # 需要设置检查点的层

output = checkpoint(forward_segment, input_tensor)  # 仅存储输入和输出

7. 利用模型卸载（Activation/Parameter Offloading）
对于超大规模模型（如175B参数的GPT-3），可将部分中间激活值或模型参数临时卸载到CPU内存，仅在GPU中保留当前计算所需的数据。PyTorch的FullyShardedDataParallel（FSDP）模块支持自动分片模型参数、梯度和优化器状态，进一步降低单个GPU的显存压力。示例代码：

from torch.distributed.fsdp import FullyShardedDataParallel as FSDP

model = MyLargeModel().cuda()
fsdp_model = FSDP(model)  # 自动分片模型

8. 监控与分析显存使用
精准定位显存瓶颈是优化的关键。可使用以下工具：

• torch.cuda.memory_summary()：查看当前GPU显存使用概况（如已用/剩余显存、缓存情况）；
• torch.cuda.memory_snapshot()：获取详细的显存分配快照（需配合torch-memory-viz工具可视化）；
• nvidia-smi：实时监控GPU显存占用（命令行工具，简单直观）。

声明：本文内容由网友自发贡献，本站不承担相应法律责任。对本内容有异议或投诉，请联系2913721942#qq.com核实处理，我们将尽快回复您，谢谢合作！