분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
Private 3rd | 0.71128 | 5-Model | Hard-Voting
안녕하세요! Private 3등 코드 공유합니다.
Pororo를 활용하여 BackTranslation(영어, 일본어)를 진행하여 데이터셋의 사이즈를 3배로 만들었습니다.
[klue/bert-base | klue/roberta-large | kykim/bert-kor-base | kykim/electra-kor-base | kykim_funnel-kor-base]
BackTranslation데이터셋을 활용하여 5개의 모델에 대해 학습을 진행하였습니다.
하이퍼파라미터 튜닝의 경우, 학습셋 비율을 (0.9/0.1)로 진행하고, 최종 제출에서 (0.999/0.001)로 변경하였습니다.
이외에 batch_size=200, epoch=5, lr=2e-5로 고정하고, 2에폭의 결과 CSV를 총 5개 하드보팅하여 제출하였습니다.
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io | 전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved