이미지 분류 해커톤: 데이터 속 아이콘의 종류를 맞혀라!

test_transform에 ToPILImage(), ToTensor()를 빼먹었네요;; 수정했습니다. 다시 해보니 public 0.88 나옵니다.

네 확인했습니다. 감사드립니다

그런데 public 상에서 0.10 이 나오는 것 같습니다
val_acc 는 0.85가 나옵니다

확인해보니 DataLoader에 Generator까지 지정해줘야 완전히 랜덤성 제어가 되네요.

g = torch.Generator()
g.manual_seed(SEED)
train_loader = DataLoader(train_dataset, batch_size=BATCH_SIZE, shuffle=True, collate_fn=collate_fn_train_transform, generator=g)

이렇게 고정하고 제출했을 때 2번 모두 0.888 나왔습니다. 

이외에 생각해볼 수 있는 문제는 모델 파라미터 초기화 문제입니다.VGG 논문에서도 깊은 layer의 네트워크를 학습시킬 때 11 weights layer로 구성된 네트워크 중 7개의 layer 파라미터를 복사해서 파라미터 초기화에 사용했습니다. 저도 vgg를 사용하는 이후 코드에서는 vgg11을 먼저 학습시키고 feature extractor에서는 4개의 conv. layer를, classifier에서는 3개의 layer 전부를 복사해서 파라미터 초기화에 사용합니다.