ChatGPT 활용 AI 경진대회 월간 데이콘

알고리즘 | ChatGPT | 프롬프트 엔지니어링 | 언어 | 분류 | Macro F1 Score

Prize : 인증서
1,212명 마감

Practice

Overview Data Code (share) Talk Leaderboard

Submission

[Private 15위] Deberta-v3-large

Surdarla

2023.04.16 17:30 2,383 Views language

deberta-v3-large를 사용하되 RandomOverSampler를 사용해서 data augmentation을 해주고, SubsetRandomSampler를 사용해서 epoch를 쪼개줬습니다. pytorch-lightning을 사용하고 wandb로 log해줬습니다. colab과 kaggle을 사용해서 학습을 진행했습니다. 런타임 제한으로 충분한 학습을 못해서 아쉽습니다만, 다른 분들이 base 모델로도 좋은 성적을 거두신 것들을 보면서 많이 배웠습니다. 고생 많으셨습니다👏

모델 학습 및 추론 환경
- python : 3.7.12
- os : Linux-5.15.90+-x86_64-with-debian-bullseye-sid
- gpu : Tesla P100-PCIE-16GB
- pytorch-ligthning : 1.9.4

weight file link : https://drive.google.com/file/d/1ofhpGnuKJw3O4gu9RzMlGXBrdMdEqYMy/view
wandb link : https://wandb.ai/surdarla/ChatGPT-prompt/runs/y0fh47ga
notion pdf public link : https://surdarla.notion.site/surdarla/ChatGPT-submit-2356dc979fab4a3787d4416fa1a94044
(sharegpt를 확인해보고 싶으시면 notion링크에 들어가셔서 회색으로 된 부분을 눌러보시면 됩니다.)

PDF

Code