ChatGPT 활용 AI 경진대회 월간 데이콘

알고리즘 | ChatGPT | 프롬프트 엔지니어링 | 언어 | 분류 | Macro F1 Score

  • moneyIcon Prize : 인증서
  • 1,214명 마감

 

[Private 3위] Robert large using Focal loss

2023.04.10 22:36 2,086 Views language

프롬프트는 추후 정리되는대로 공유하겠습니다. 
Pytorch로 진행했으며 RTX 3090 24GB 8대로 병렬처리하였습니다.
다들 말 안듣는 Chatgpt 훈련하느라 고생 많으셨습니다

torch                  1.12.1+cu116    
transformers           4.27.3

Bert based , Roberta based  https://sharegpt.com/c/dTMQcnb

model weight  : https://drive.google.com/file/d/1QTzORIv9wsHoEUGoaZkcamhsFA_GUbWn/view?usp=sharing 

Focal loss RobertaLarge  https://shareg.pt/HnUjaBT

PDF
Code