HAI(하이)! - Hecto AI Challenge : 2025 First Half Hecto Recruitment AI Competition

태스크 자체는 간단하였으나 fine-grained issue와 valid-test gap 때문에 마냥 쉽지만은 않은 대회였습니다.

저는 총 3개 모델을 앙상블했습니다.

tf_efficientnetv2_xl.in21k

convnextv2_large.fcmae_ft_in22k_in1k_384

eva02_large_patch14_448.mim_m38m_ft_in22k_in1k

tf_efficientNet은 sam-optimizer로 성능 향상을 보았고

convnextv2와 eva는 sam-optimizer 없이 하였습니다.

각각 lb score 0.107, 0.114, 0.101 나왔으며 ensemble하여 현재 점수를 달성하였습니다.

eva02는 448, 나머지는 512 사이즈로 학습했으며 512보다 더 크거나 작은 경우에는 성능 하락을 경험했습니다.

대표적으로 적용했던 augmentation들은 RandomResizedCrop, RandomSideCrop(랜덤한 비율로 좌우 crop), RandAugment, RandomErasing 사용했습니다.

모든 모델 기본적으로 EMA를 적용하였습니다.

처음에는 데이터 클렌징 없이 사용했으나, 후반부에는 20개정도의 데이터를 제거하고 학습했습니다.

mixup은 효과를 보지 못했고 CutMix로 효과를 보았습니다.

SuperPixelGridMix나 GridMix 또한 효과를 보지 못했습니다.

efficientNet에 Convolutional Attention을 주는 CBAM도 효과를 보지 못했습니다.

TTA(hflip, fivecrop, resizedCenterCrop)는 오히려 성능이 하락하였습니다.

다들 고생하셨습니다!!