注意力与 Transformer
概念解释
注意力与 Transformer是“深度学习”中的核心知识。用可微分计算图和反向传播训练多层表示。
核心方法与条件
先识别问题对象、条件和目标，再把“注意力与 Transformer”与本章其他概念建立联系。残差连接要求张量形状兼容；训练不稳定时同时检查数值范围、初始化和学习率。
例题或应用
残差连接要求张量形状兼容；训练不稳定时同时检查数值范围、初始化和学习率。
常见易错点
只记住“注意力与 Transformer”的名称而不检查对象、条件、范围和证据，会导致机械套用。
自检
请尝试不用原文解释“注意力与 Transformer”解决什么问题，再设计一个属于“深度学习”的实例，并说明适用条件和判断依据。