분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
파이토치를 이용한 정말 간단한 Multi-Label Classification
파이토치를 이용한 정말 간단한 Multi-Label Classification입니다.
아래 베이스라인 코드에서 OOF(out of folds)를 잘 모르시는 분은 이 코드로 validation set 정도 나누고
epoch 정도만 늘리셔도 스코어 0.8 정도 나오실 겁니다. 이대로 학습하시면 과적합으로 순위 변동이 심하실 겁니다.
* 파이토치에서 Multi-Label Loss Function을 지원하기 때문에 모형에 따로 추가할 활성화 함수는 필요없습니다.
감사합니다.
와 코유가 뭔지 생각하고 있었네요..
하하하
감사합니다 XD
좋은 코드 공유 감사해요
좋은 코드공유 감사합니다
Deleted Comment
코드 공유 고맙습니다.
```
outputs = outputs > 0.5
acc = (outputs == targets).float().mean()
```
일단 torch.sigmoid(outputs) > 0.5 이 맞겠지요?
그리고 이렇게 계산한 acc 로 local cv score랑 LB score랑 맞추어 지셨나요?
감사합니다.
1. Out of samples와 LB 스코어는 비슷한 수준입니다.
2. 현재 공개한 코드로는 예측값에 sigmoid로 후처리 한 후 0.5로 하시면 점수가 더 낮게 나오실 겁니다. 예측값이 +-값으로 0을 기준으로 바이너리 마스크 생성하셔도 sigmoid로 후처리 한 결과와 비슷한 점수가 나오실 겁니다.
결과: sigmoid 적용 0.874 미적용 0.877
3. 제가 모형 마지막 단에 sigmoid 활성화 함수를 사용하지 않은 이유는 리팩토링할 시간이 없어서 예전에 쓰던 코드로 대충 돌리다보니 multi-gpu, automatic mixed precision 적용 시 매우 불안정하고 학습속도가 느려져서 빼버렸습니다.
Deleted Comment
안녕하세요 혹시 여기선 아직 data augmentation을 적용시키지 않은건가요?
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
코유 감사합니다.