문장 유형 분류 AI 경진대회

알고리즘 | 언어 | 분류 | Weighted f1 Score

상금 : 500 만원
1,049명 마감

연습

대회안내 데이터 코드 공유 토크 리더보드

제출

[초보주의] NLP 공부해보려고 baseline 코드에서 모델만 바꿔보기(roberta-large)

이세의인공지능

2022.12.23 07:24 1,994 조회 language

안녕하세요 Computer Vision에 관심이 많지만,
ViT를 이해하기 위해 Transformer 공부를 시작한 NLP 초보입니다!
파이썬부터 잘 할 줄 모르기 때문에 코드가 엉망진창입니다!
베이스라인에서 모델과 토크나이저만 AutoModel, AutoTokenizer로 불러와서 이식해봤습니다.
어떤 모델이 돌려도 되는 모델인지 모르겠어서, 다른 데이콘 대회 수상자들이 사용했던 모델들로만 시험해봤습니다!
공유하는 코드는 점수가 그나마 잘 나왔던 klue/roberta-large 모델입니다!
좋은 대회 매번 감사합니다~~

+ 다른 대회에서 본 back translation?도 야매로 시도해봤는데, 구글 번역으로 하니 엉망진창이 되어버려서 포기했습니다 ㅎ...

코드