2022 관광데이터 AI 경진대회

알고리즘 | 비전 | 언어 | 분류 | Weighted f1 score

  • moneyIcon 상금 : 1,000 만원
  • 1,292명 마감

 

[Private 2위] Klue-RoBERTa + RegNetY120 + MultiModal Ensemble

공동작성자

stroke
2022.11.24 10:55 2,932 조회 language

안녕하세요. Not Bad Team 코드 공유합니다.(TensorFlow 활용)

저희는 저희가 고안한 Text 증강 데이터를 학습과 검증에 이용했고, Optimizer Sam(Sharpness-Aware Minimization)을 이용해 성능 향상에 효과를 봤습니다.

여러 방식으로 증강한 데이터, 다양한 Optimizer, 기타 전처리 방법을 다양하게 적용한 결과값들을 앙상블 하는 방식으로 사용했으며, 지금 공유하는 코드에는 다 넣지 않았지만 실제로는 몇 십 개의 결과값을 Voting 하여 F1 Score를 올렸습니다.

텍스트는 주로 klue-RoBERTa(Large), 이미지는 RegNetY120 을 활용했고, 멀티모달의 경우 HJOK님께서 공유해주신 New-Baseline Model에서 옵티마이저 정도만 변형해보는 식으로 결과를 뽑아서 Voting 에 활용했습니다.


(텍스트 증강에 사용한 형용사, 부사어, 유의어 목록은 구글드라이브 주소를 첨부하였고, 코드 정리가 다소 미숙해서 보기 어려우시면 피피티를 통해 어떤 방법 사용했나 정도 확인하시면 될 것 같습니다.)

PDF
코드
이전 글
이전 글이 존재하지 않습니다.
현재 글
[Private 2위] Klue-RoBERTa + RegNetY120 + MultiModal Ensemble
대회 - 2022 관광데이터 AI 경진대회
좋아요 15
조회 2,932
댓글 0
일 년 전
다음 글
[Private 26위, 0.8559] RoBERTa (ver.TensorFlow)
대회 - 2022 관광데이터 AI 경진대회
좋아요 16
조회 1,972
댓글 4
일 년 전