월간 데이콘 코드 유사성 판단 AI 경진대회

알고리즘 | NLP | 분류 | 유사성 | Accuracy

상금 : 총 600만 원
908명 마감

연습

대회안내 데이터 코드 공유 토크 리더보드

제출

baseline을 bert로 바꿔보았습니다. (0.76086)

개밥바라기

2022.05.09 14:24 4,754 조회 language

올려주신 baseline에서 pre_trained만 klue/bert로 바꿔보았습니다.
(google colab + 기준) roberta는 n hour씩 학습이 필요하지만 bert로 30분 학습시켜도 roberta와 비슷한 성능이 나오는 것을 확인하였습니다. roberta가 무거워 돌리기 힘드신 분들은 bert를 baseline으로 잡아보시는 것도 좋을 것 같습니다.

코드