DeepLearning

LearningRateScheduler

코딩초보ran 2023. 6. 20. 17:01

LearningRateScheduler 콜백 함수는 학습률(LearningRate)을 동적으로 조정할 수 있도록 해줍니다. 사용자가 지정한 함수에 따라 학습률이 epoch 마다 업데이트 됩니다.

 

아래처럼 내가 함수를 생성해야함

from tensorflow.keras.callbacks import LearningRateScheduler

def schedule(epoch, learning_rate):
    # Define your learning rate schedule logic
    if epoch < 10:
        return learning_rate
    else:
        return learning_rate * 0.1

lr_scheduler = LearningRateScheduler(schedule)

model.fit(x_train, y_train, epochs=20, callbacks=[lr_scheduler])

epoch가 10 이상일 때부터 learning_rate(학습률)을 학습률에 0.1을 곱한 값으로 조정