딥러닝/기타 (1) 썸네일형 리스트형 Learning Rate Scheduler - PyTorch Learning rate Scheduler 정리 1. LambdarLR PyTorch에서 제공하는 기본 LR Scheduler 입니다. lr_lambda에 함수를 지정하면 LR Schedule을 마음대로 조정가능합니다. 파라미터는 optimizer, lr_lambda 입니다. scheduler = LambdaLR(optimizer=optimizer, lr_lambda=lambda epoch: 1.0 if epoch < 10 else np.math.exp(0.1 * (10 - epoch))) lambda 함수를 10 epoch 동안에는 1e-3만큼 유지하다가 10 epoch 이후에는 learning rate가 점차 감소하도록 만들었습니다. 2. StepLR PyTorch에서 제공하는 기본 LR Schedu.. 이전 1 다음
