梯度下降、动量与 Adam
概念解释
梯度下降、动量与 Adam是“优化与泛化”中的核心知识。通过梯度优化参数，并用正则化和验证控制过拟合。
核心方法与条件
先识别问题对象、条件和目标，再把“梯度下降、动量与 Adam”与本章其他概念建立联系。训练损失下降而验证损失上升通常是过拟合信号，不应继续只增加训练轮数。
例题或应用
训练损失下降而验证损失上升通常是过拟合信号，不应继续只增加训练轮数。
常见易错点
只记住“梯度下降、动量与 Adam”的名称而不检查对象、条件、范围和证据，会导致机械套用。
自检
请尝试不用原文解释“梯度下降、动量与 Adam”解决什么问题，再设计一个属于“优化与泛化”的实例，并说明适用条件和判断依据。