2024 용인시와 함께하는 한국외대 SW중심대학 - GBT 해커톤 경진대회

Algorithm | NLP | Classification | Macro F1 Score

 

[PrivateScore 0.68] TF-IDF + klue-robera-large

공동작성자
2024.11.05 13:12 289 Views language

- klue-robert-large : 문맥 이해 및 의미 관계 포착
- TF-IDF : 주요 키워드 식별 및 부서 특화 용어 강조
마지막 레이어에만 분류 레이어를 추가하고 나머지 레이어는 freeze하여 오버피팅 방지
특수 토큰  [SEP] 활용
Class Weights 적용 - 클래스 불균형 문제

Code