易百教程

7、什么是反向传播?

反向传播是一种用于多层神经网络的训练算法。它将错误信息从网络末端传输到网络内部的所有权重。它允许有效计算梯度。
反向传播可以分为以下几个步骤:

  • 反向传播可以通过网络前向传播训练数据以生成输出。
  • 反向传播使用目标值和输出值来计算关于输出激活的误差导数。
  • 反向传播可以反向传播以计算与前一层输出激活有关的误差的导数,并继续对所有隐藏层。
  • 反向传播使用先前计算的输出和所有隐藏层的导数来计算与权重有关的误差导数。
  • 反向传播更新权重。