Sentence Type Classification AI Competition

Algorithm | NLP | Classification | Weighted f1 Score

5,000,000 KRW
1,077 Users Completed

Practice

Overview Data Code (share) Talk Leaderboard

Submission

[초보주의] NLP 공부해보려고 baseline 코드에서 모델만 바꿔보기(roberta-large)

이세의인공지능

2022.12.23 07:24 3,008 Views language

안녕하세요 Computer Vision에 관심이 많지만,
ViT를 이해하기 위해 Transformer 공부를 시작한 NLP 초보입니다!
파이썬부터 잘 할 줄 모르기 때문에 코드가 엉망진창입니다!
베이스라인에서 모델과 토크나이저만 AutoModel, AutoTokenizer로 불러와서 이식해봤습니다.
어떤 모델이 돌려도 되는 모델인지 모르겠어서, 다른 데이콘 대회 수상자들이 사용했던 모델들로만 시험해봤습니다!
공유하는 코드는 점수가 그나마 잘 나왔던 klue/roberta-large 모델입니다!
좋은 대회 매번 감사합니다~~

+ 다른 대회에서 본 back translation?도 야매로 시도해봤는데, 구글 번역으로 하니 엉망진창이 되어버려서 포기했습니다 ㅎ...

Code