저해상도 조류 이미지 분류 AI 경진대회

처음으로 PPT도 만들고, 사용된 코드 정리 및 github 업로드를 하려다 보니, 시간이 많이 걸렸습니다.
우선, "파이선초보만" 님이 올려주셨던, ViT 관련 정보와 코드에서 많은 도움을 받았습니다. 감사합니다.

고해상도 이미지를 활용해보려고 노력은 해보았으나, 결과적으로 사용하지 않았습니다.

기본 요소:
   - CrossValidation : 5 Fold
   - 모델 앙상블 : eva_large, beitv2_large

성능향상 요소:
   - 이미지 Resize 알고리즘 : 여러가지 테스트해보았지만, 'ranczos'보다 'robidouxsharp'가 더 좋았습니다.
   - CrossEntropyLoss 적용 : class_weight와 LabelSmoothing 반영
   - EarlyStopping 알고리즘 최적화 : val_score를 감안한 val_loss 사용
   - 이미지 Augmentation 최적화 : TAW 사용. 몇가지 Augmentation 기법은 성능 하락하여 삭제.
   - 지수 감쇠방식의 코사인 LR 스케쥴러 사용
   - RTX-A4000 16GB GPU 사용 : 큰 BATCH_SIZE 사용 등.

추가적인 기법 설명은 PDF를 참고 하여 주시기 바랍니다.

github에는 실제 사용한 노트북 소스코드와 실제 훈련 결과 로그를 올려 놓았습니다.
https://github.com/ujinyang/dacon2024_bird_lowres_image_classification
재현하시려면 github에 있는 파일을 활용해 주시기 바랍니다.

아래의 노트북 소스는 deit3 모델을 실행했던 노트북 파일과 추론 노트북을 발췌한 내용,
그리고, colab 사용가정한 모듈 설치 부분등을 통합한 파일입니다. 
훈련시 설정만 바꾸어서 훈련하다보니, 출력은 deit3 훈련 결과만 들어 있습니다.
실제 제출에 사용한 출력내용은 github 의 출력 결과 파일을 참고해 주십시오.