데이터셋을 보며 느낀점과 적용할 수 있겠다고 생각한 아이디어를 공유합니다.

1. 데이터분석

>>> df['label'].value_counts()

훼손 1405

오염 595

걸레받이수정 307

꼬임 210

터짐 162

곰팡이 145

오타공 142

몰딩수정 130

면불량 99

석고수정 57

들뜸 54

피스 51

창틀,문틀수정 27

울음 22

이음부불량 17

녹오염 14

가구수정 12

틈새과다 5

반점 3

Name: count, dtype: int64

- '반점' class가 가장 적고, '훼손' class가 가장 많았습니다.

- class imbalance가 생각보다 심한 데이터셋이네요.

2. 데이터 증강 기법

Albumentations에는 다양한 augmentation 기법들이 존재합니다.

데이터셋을 분석했을 때, HorizentalFlip은 필수로 사용하는 것이 좋을 것 같고,

shift나 scale의 경우 하자가 없는 이미지가 나올 수 있으니 파라미터를 잘 조정해서 사용하는 것이 좋을 것 같습니다.

이외에도 추가적으로 사용하면 좋을 것 같은 augmentation기법들을 적용해보는것이 좋을 것 같습니다.

+) '걸레받이수정'과 '꼬임', 그리고 '몰딩수정' 데이터를 rotate 또는 verticalflip을 하면 구분을 못하게 되네요. rotate와 verticalflip은 안넣는것이 좋겠습니다.

3. stratifiedkfold 사용

class imbalance를 확인하고 stratifiedkfold를 사용했는데, f1-score가 0.1~0.2에서 머물렀습니다. 이유는 잘 모르겠지만, baseline의 train_test_split을 그대로 사용하는 것이 좋을 것 같습니다.

+) 데이터 추가 및 augmentation 방법을 사용하였을 때, straitifiedkfold 적용시에도 비슷한 score가 나왔습니다.

    voting 방법을 사용하지 않는다면 train_test_split 방법을 그대로 사용해도 나쁘지 않을 것 같습니다.

+) 대회에서 제공된 데이터셋의 갯수가 적고 class imbalance도 심하기 때문에 split을 한다면 train set과 valid set의 비율을 거의 비슷하게 해야할 것 같습니다.

4. Loss 사용

baseline에서 사용하는 CrossentropyLoss 이외에도 FocalLoss나 Asymmetricloss를 사용해보았지만, 오히려 성능이 감소했습니다.

class imbalance만 너무 신경쓰는 것은 지양해야할 것 같습니다.(아닐 수도.....)

+) 여러 augmentation 방법을 사용하고 난 후 FocalLoss를 사용하였을 때 성능이 증가하였습니다.

5. 학습 속도 향상

CustomDataset class를 수정하여 학습 속도를 향상하였습니다.

RAM에 데이터셋을 미리 load하는 방법입니다. 학습 속도가 약 2배정도 향상했습니다.

코드는 코드 공유 게시판에 업로드 하였습니다.

(공유했던 코드는 이미지 처리 분야에서는 보장되지 않는 randomness로 인해 사용하면 안되는 방법입니다 ㅠㅠ)