월간 데이콘 코드 유사성 판단 AI 경진대회

알고리즘 | NLP | 분류 | 유사성 | Accuracy

  • moneyIcon 상금 : 총 600만 원
  • 884명 마감

 

baseline을 bert로 바꿔보았습니다. (0.76086)

2022.05.09 14:24 3,806 조회 language

올려주신 baseline에서 pre_trained만 klue/bert로 바꿔보았습니다. 
(google colab + 기준) roberta는 n hour씩 학습이 필요하지만 bert로 30분 학습시켜도 roberta와 비슷한 성능이 나오는 것을 확인하였습니다. roberta가 무거워 돌리기 힘드신 분들은 bert를 baseline으로 잡아보시는 것도 좋을 것 같습니다.

코드