成本函数描述了神经网络在给定训练样本和预期输出方面的表现。它可能取决于权重和偏差等变量。它提供了整个神经网络的性能。在深度学习中，我们的首要任务是最小化成本函数。这就是为什么我们更喜欢使用梯度下降的概念。