분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
농업 환경 변화에 따른 작물 병해 진단 AI 경진대회
몇가지 팁들
개인적인 이유로 인해 대회를 포기하게 되어 대회를 진행하면서 알게된 몇가지 팁들을 공유하려고 합니다. 한 3일 정도 진행해본 결과인데요, 앞으로 시도할 수 있는것들이 매우 많아서 개인적으로 아쉽네요 :(
저 같은 경우는 전체적인 파이프라인으로 Extra data (Plant-doc + Plant village) 으로 모델을 Pretraining후, 대회 데이터셋에 Cutmix를 활용해서 모델 1차 finetuning. 이후 cutmix없이 환경 변수를 이용해서 2차 Finetuning 하였습니다. 특히 optimizer의 경우 linear-warmup scheduling을 적용하는 것이 학습 안정성에 크게 도움이 되었고, finetuning시에는 lr을 0.1배 낮춰야 훨씬 좋은 결과를 얻었습니다. Efficientnet finetuning시에 Batchnorm freeze하는 trick도 사용해 봤지만 성능향상은 없었고 오히려 성능하락이 있었네요. Multi task learning의 경우 1차 / 2차 finetuning 혹은 1차 finetuning에 적용시키면 될 것 같습니다.
환경 변수까지 활용한 single model이 Local 94까지 나온걸 확인한 걸로 보아, TTA를 쓰면 최대 0.93정도까지는 나올 것 같습니다. 5 fold 앙상블 까지하면 적당한 순위에 들것이라 예상합니다. 저는 3~4일정도 시도한 결과이고 다들 필요한 아이디어 가져가셔서 모델 업그레이드 시키기 바랍니다.
다들 좋은 결과 있으시길 바랍니다.
감사합니다!
감사합니다 !!
정성스런 Discussion이네요! 추후에 활용해보겠습니다 :)
모르던 방식들 많이 배워갑니다. 하나하나 검색해봐야겠네요 감사합니다!!
감사합니다
삭제된 댓글입니다
감사합니다 !!
좋은 정보 감사합니다.
혹시 Vision Transformer 작성하신 코드 공유해주실수 있나요?
좋은 정보 감사합니다~!!
감사합니다!
혹시 cutmix나 mixup등을 사용해서 성능이 향상된걸 보신 분이 계신가요?
제 경험에는 둘다 성능을 오히려 떨어뜨리는 것 같아서요..
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io | 전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
감사합니다.