카메라 이미지 품질 향상 AI 경진대회

다들 learning rate 어떻게 잡고 계신가요??

2021.07.16 17:16 1,969 Views

저희는 framework로 pytorch_lightning을 사용합니다.


그래서 pytorch_lightning에서 제공하는 auto_lr_find를 통해 learning rate를 찾고 있습니다.


성능향상에 도움이 되는것 같아서 공유합니다!ㅎㅎ


https://pytorch-lightning.readthedocs.io/en/stable/advanced/lr_finder.html 여기 참고하시면 좋을것 같습니다!

로그인이 필요합니다
0 / 1000
3중대 3소대장
2021.07.16 18:04

이런게 있었군요 감사합니다! 
혹시 본인만의 또 다른 팁같은거 있으신가요? ㅎㅎ

정영석
2021.07.16 20:05

추후에 따로 정리해서 코드 공유 게시판에 올리겠습니다!

https://github.com/surmenok/keras_lr_finder keras에도 있는것 같습니다ㅎㅎ 

딥러닝잘하고싶다
2021.07.16 19:55

감사합니다! 참고하겠습니다 ㅎㅎ

정영석
2021.07.16 20:05

넵 감사합니다ㅎㅎ

이세진
2021.07.19 19:58

감사합니다

정영석
2021.07.19 22:29

감사합니다!