Ich verwende TensorFlow, um ein neuronales Netzwerk zu trainieren. So initialisiere ich den GradientDescentOptimizer:
init = tf.initialize_all_variables() sess = tf.Session() sess.run(init) mse = tf. Reduce_mean(tf.square(out - out_)) train_step = tf.train.GradientDescentOptimizer(0.3).minimize(mse) Die Sache hier ist, dass ich nicht weiß, wie ich das einstellen soll eine Aktualisierungsregel für die Lernrate oder einen Abklingwert dafür.
Wie kann ich hier eine adaptive Lernrate verwenden?