ChatGPT 활용 AI 경진대회 월간 데이콘

알고리즘 | ChatGPT | 프롬프트 엔지니어링 | 언어 | 분류 | Macro F1 Score

상금 : 인증서
1,200명 마감

연습

대회안내 데이터 코드 공유 토크 리더보드

제출

[private 6위] RoBERTa accumulation

mutoy

2023.04.11 09:02 1,149 조회 language

개발환경 : AMD Ryzen 5 3600 6-Core Processor 3.60 GHz / RTX 3060 12GB / Windows 10 21H2 (OS 빌드 19044.2728) / python 3.10
라이브러리 버전 :
focal-loss-torch 0.1.1 / huggingface-hub 0.13.2 / imbalanced-learn 0.10.1 / mpmath 1.3.0 / nlpaug 1.1.11 / nltk 3.8.1 / numpy 1.24.2 / packaging 23.0 / pandas 1.5.3 / python-dateutil 2.8.2 / scikit-learn 1.2.2 / tokenizers 0.13.2 / torch 2.0.0+cu117 / torchaudio 2.0.1+cu117 / torchvision 0.15.1+cu117 / tqdm 4.65.0 / transformers 4.27.1 / urllib3 1.26.15 /
chat gpt 3.5을 사용하다 답답하여 chat gpt4.0으로 도중에 바꾸었습니다. 하이퍼파라미터를 조정하면서 최적화를 해야하는데 한번 학습에 14시간 넘게 걸려서 모델과 코드만 조정하다가 하이퍼 파라미터는 조정을 제대로 하지 못한듯 합니다.
chat gpt가 코드를 작성하다 끊는 경우가 많이 있는데, 저는 이 경우에는 작성한 코드까지 전부 복사한 다음에 여기부터 끊겼으니까 여기서부터 이어서 작성해달라고 했습니다. 그냥 please continue write 할때는 갑자기 이상한 코드가 나올때가 많은데 끊긴 부분까지 전부 복사하면 그런 경우가 거의 없었습니다. 코드를 받은 과정입니다.
https://mutoy-choi.github.io/dev/2023/04/06/dacon-chatgpt-ai-competiton(1)

PDF

코드