Select Language

AI社区

AI技术百科

神经网络训练的一般步骤

Step1:随机初始化权重;

Step2:实现前向传播算法,拿到各个输入的激活函数;

Step3:编码计算代价函数;

Step4:实现反向传播计算激活函数的偏导数。

看一下伪代码:

代码中的m是训练样本的个数。

Step5:使用梯度检验验证反向传播计算偏导数的代码是否正确,如果正确就关闭掉梯度检验部分的代码。

Step6:结合一些更优秀的算法算出能使代价函数最小的那些参数。

https://zhuanlan.zhihu.com/p/283806393


沙发 | 回复 | 举报 2021-11-29 11:56:38  楼主

不错,可以学习下

我要发帖
神经网络算法
2021-05-12 17:06:31加入圈子
  • 30

    条内容
神经网络是所谓深度学习的一个基础,也是必备的知识点,他是以人脑中的神经网络作为启发,最著名的算法就是backpropagation算法,这里就简单的整理一下神经网络相关参数,和计算方法。