2024 용인시와 함께하는 한국외대 SW중심대학 - GBT 해커톤 경진대회

알고리즘 | 언어 | 분류 | Macro F1 Score

 

klue-roberta-large 코드 공유 [public 0.46]

2024.10.02 01:23 648 조회 language

klue-roberta-large baseline 코드 공유드립니다!
최대한 주석으로 세세하게 설명을 추가하였습니다.

[참고]
월간 데이콘 뉴스 토픽 분류 AI 경진대회
[Private 2nd] Huggingface를 사용한 베이스라인
Team 님의 코드를 필사 후, 2024 용인시와 함께하는 한국외대 SW중심대학 - GBT 해커톤 경진대회에 적합하게 수정하였습니다.

코드 제공해주셔서 감사합니다!

팁!
1. preprocessing 함수는 처음 한번만 실행하면 됩니다.
2. optimizer을 adamW로 수정하면 성능이 더 좋아집니다.
3. lr을 높게 잡으면 성능이 조금 더 개선되었습니다.

Dropout / EDA / Back Translation을 하면 성능이 더 좋아지지 않을까 합니다?..

코드