Skip to content
🔗 分享本题
查看我的学习进度 →

有效 Batch、学习率、Warmup、梯度裁剪及训练曲线联动图

🧠 记忆锚点:Batch 改变梯度噪声,Warmup 稳住起步,裁剪挡异常峰值;四者要结合曲线联调。

💡 答案要点

有效 Batch Size 约为 micro_batch × gradient_accumulation × data_parallel_size。增大它会降低梯度噪声,但通常需要重新验证学习率和训练步数。Warmup 用于缓解训练初期参数与优化器状态不稳定;梯度裁剪限制异常梯度,但不能掩盖坏数据或数值溢出。

排查训练发散时应同时观察 loss、gradient norm、学习率、溢出/跳步、不同数据源占比,而不是只把学习率减半。

📚 参考:Hugging Face Transformers:Training Arguments(学习率/warmup/梯度裁剪)