월간 데이콘 코드 유사성 판단 AI 경진대회

알고리즘 | NLP | 분류 | 유사성 | Accuracy

Prize : 총 600만 원
908명 마감

Practice

Overview Data Code (share) Talk Leaderboard

Submission

baseline을 bert로 바꿔보았습니다. (0.76086)

개밥바라기

2022.05.09 14:24 4,756 Views language

올려주신 baseline에서 pre_trained만 klue/bert로 바꿔보았습니다.
(google colab + 기준) roberta는 n hour씩 학습이 필요하지만 bert로 30분 학습시켜도 roberta와 비슷한 성능이 나오는 것을 확인하였습니다. roberta가 무거워 돌리기 힘드신 분들은 bert를 baseline으로 잡아보시는 것도 좋을 것 같습니다.

Code