Select Language

AI社区

AI技术百科

优化器 (optimizer)

梯度下降法的一种具体实现。TensorFlow 的优化器基类是 tf.train.Optimizer。不同的优化器(tf.train.Optimizer 的子类)会考虑如下概念:

  • 动量 (Momentum)

  • 更新频率 (AdaGrad = ADAptive GRADient descent; Adam = ADAptive with Momentum;RMSProp)

  • 稀疏性/正则化 (Ftrl)

  • 更复杂的计算方法 (Proximal, 等等)

甚至还包括 NN 驱动的优化器。


我要发帖
机器学习术语表
2021-05-15 22:22:51加入圈子
机器学习是一门多学科交叉专业,涵盖概率论知识,统计学知识,近似理论知识和复杂算法知识,使用计算机作为工具并致力于真实实时的模拟人类学习方式,并将现有内容进行知识结构划分来有效提高学习效率。