ChatGPT 활용 AI 경진대회 월간 데이콘

알고리즘 | ChatGPT | 프롬프트 엔지니어링 | 언어 | 분류 | Macro F1 Score

  • moneyIcon 상금 : 인증서
  • 1,200명 마감

 

[Private 4위] RoBERTa-Large

2023.04.15 17:29 1,475 조회 language

중간에 잠깐 일을 맡게 되어 바빠져, 대회 중반부 부터 추가적인 프롬프트 & 코드 테스트 및 업데이트를 못했습니다.
기본적인 TextCNN부터 BERT, DistillBERT, ALBERT, Funnel-Transformer 등의 모델을 시도 해 보았고, 그 중 RoBERTa-Large 모델이 가장 좋았습니다.
추가적인 여러 텍스트 전처리나 Backtranslation 등의 증강기법 등을 테스트 못 해본 점이 아쉽네요.
다들 수고 많으셨습니다. 저도 올려주신 여러 인사이트 들 보며 많이 배웠습니다.


Model Weight Link : https://drive.google.com/file/d/1bejQzXPo1TBPt4Arepfq91s8xpfxKeM4/view?usp=share_link

PDF
코드