항공사 고객 만족도 예측 AI 해커톤

정형 | Accuracy

  • moneyIcon 상금 : 참가시 최소 50 XP, 특별상 데이콘 후드
  • 657명 마감

 

딥러닝 Approach with Pytorch

2022.02.11 18:14 1,736 조회 language

딥러닝으로도 도전해보세요~

Pytorch와 Tensorflow 동일한 모형 다른 Framework로 올려드립니다.

LB 0.928

코드
로그인이 필요합니다
0 / 1000
이대권
2022.02.11 18:15

Jay Hong 님 손글씨 좋네요. 감사합니다.

Jay Hong
2022.02.12 15:25

감사합니다!!

hahaha
2022.02.11 23:42

어마어마 하네요 재이 홍 님.

Jay Hong
2022.02.12 15:25

저보단 하하하님이 더 대단하시죠 ㅎㅎ

ssu통계학과
2022.02.20 18:09

안녕하세요. 코드 따라치면서 파이토치에 대해 많이 배웠습니다.

한 가지 질문이 있는데, def weights_init(m) 부분 혹시 설명이 가능할까요? 직관적으로 잘 이해가 안되네요..

감사합니다!

Jay Hong
2022.02.20 18:25

위에서는 Batch Normalization의 파라미터의 표준 정규분포 평균이 1, 표준편차가 0.02, 분산이 0이 되도록 만들었습니다.

Batch Normalization 논문을 읽어보면
Batch단위로 들어오는 데이터를 평균이 0, 표준편차가 1이 되도록 Normalize해주면서,
동시에 원래 데이터의 분포와 조금은 유사해지도록 강요하는 gamma와 delta 파라미터가 있습니다.
그 파라미터들이 학습하기 좋도록 weight를 초기화했습니다.

ssu통계학과
2022.02.20 18:36

빠르고 상세한 설명 감사합니다! 한 가지 더 여쭙고 싶은데요. 

저 함수가 model.apply(weights_init)를 통해 실행이 된 것으로 추측되는데요.

이 과정에서 어떻게 weights_init 함수가 실행이 된건지 궁금합니다.

정말 감사드립니다.

Jay Hong
2022.02.20 18:42

그 부분은 pytorch의 nn.Module의 apply를 이용했습니다!

제가 알기로는
모델 class를 선언할 때, nn.Module Class를 상속받았기에 apply 함수를 사용할 수 있습니다.
그리고 weight initialization도 모델의 서브모듈이므로, apply를 적용할 수 있습니다.
REF : https://pytorch.org/docs/stable/generated/torch.nn.Module.html

이런 점이 파이토치가 참 어려운 것 같네요 ㅠㅠ
제가 이해한 바로는 그렇고, 틀릴 수도 있습니다!

ssu통계학과
2022.02.20 20:41

와 정말 상세한 설명 감사합니다!

파이썬 내 apply 함수인지 어떤 요소인지 궁금했는데, 명쾌하게 알려주셔서 큰 도움이 됬습니다.

감사합니다!