대학 대항전 : 퍼즐 이미지 AI 경진대회

이번 프로젝트는 Augmentation과 노오력의 승리라고 생각합니다.
먼저 EffiecentNet으로 테스크를 해결해보고자 했었으나, Public 0.6이상 나오질 않아서, 포기하는 와중에,
파이썬초보만님이 코드 공유해주셔서 활용하게 되었습니다.파이썬 초보만님 감사합니다.
모델이 정교하고, 세심하게 되어있어서 대부분 그대로 차용하였습니다.

저는 Transformer 특성상 대규모 데이터가 필요하고 하기 때문에, 양적방법(High Cost 방법..)으로 해결해보고자 했습니다.
Train에서 70,000개 데이터를 augmentation으로 560,000개로 불렸습니다.
방법으로는 70,000개의 데이터를 원복후, 이미지를 회전을 주고, 다시 자르는 형식으로 진행하였습니다.
패치끼리의 연관관계를 추론하여 맞추기 때문에, 연관관계를 새롭게 보이는것을 목적으로 진행하였습니다.
코드상에 동적으로 학습률을 조정하는 코드를 넣지않았고, 매 결과물마다, 학습률을 조정하여, 학습시켰습니다.

 I7-14700K, RAM - 32GB, RTX4090 (RTX 4090도 새로샀다는.. 280만원.. ㅠㅠ)
WSL Ubuntu 22.04 LTS 환경에서 진행하였고, Conda 가상환경에서 진행했습니다.
Python version: 3.11.7 (main, Dec 15 2023, 18:12:31) [GCC 11.2.0]
numpy version: 1.24.3
pandas version: 1.5.3
matplotlib version: 3.6.0
torch version: 2.2.0+cu121
timm version: 0.9.12
lightning version: 2.1.4
PIL version: 10.2.0
sklearn version: 1.2.2
torchvision version: 0.17.0+cu121
tqdm version: 4.66.1
pytorch_lightning version: 2.1.4