Ik gebruik TensorFlow om een neuraal netwerk te trainen. Dit is hoe ik de GradientDescentOptimizer initialiseer:
init = tf.initialize_all_variables() sess = tf.Session() sess.run(init) mse = tf. reduce_mean(tf.square(out - out_)) train_step = tf.train.GradientDescentOptimizer(0.3).minimize(mse) Het ding hier is dat ik niet weet hoe ik het moet instellen een updateregel voor de leersnelheid of een vervalwaarde daarvoor.
Hoe kan ik hier een adaptieve leersnelheid gebruiken?