Customer Loan Grade Classification AI Hackathon

감사합니다! 😊 

LLM의 경우 COT 프롬프팅으로 LLM의 단계별 추론 과정을 유도해서 XAI를 실행하는 것으로 알고는 있지만 
아직 그 정도로 정교하게 프롬프팅 하는 것은 저한테 어렵더군요 ㅠㅜ
만약 실행해서 LLM이 판단하는 피처들의 관계나 , 중요도를 알 수 있다면 정말 흥미로울 것 같습니다 ! 

질문 감사드립니다! 
1. public score 의 경우 1 epoch 했을 때는 0.15 정도 2 epoch 했을 때 0.17 초반 나왔습니다! 아예 못하는 task 에서 어느 정도 정답률이 나왔다는 것에 의의를 두고 있습니다.  학습 과정에 좀 더 부채 등급을 판단하는 채점 과정이나 , COT처럼 상세하게 작성해볼 계획입니다 !  
2. 다른 bit의 경우는 제가 개인적으로 사용 가능한 리소스 내에서 시도해보지 못했습니다. 다른 모델의 경우  solar 나 mistral 같은 경우가 있을 텐데 
Solar (instruct tuning x ) 의 경우는 시도 1 epoch기준 비슷한 score였고  또 10.7B다 보니 추가로 디벨롭하지는 못했습니다. 
3. 해당 작업은 전부 다 직접 작성하긴 했지만 이전에 LLM finetuning을 위해 레퍼런스로 봤던 부분은 이 정도 입니다 ! 
  : https://gathnex.medium.com/mistral-7b-fine-tuning-a-step-by-step-guide-52122cdbeca8
: https://huggingface.co/docs/peft/task_guides/image_classification_lora
:https://github.com/brevdev/notebooks/blob/main/mistral-finetune.ipynb

빠른 답변 및 상세한 답변 감사합니다! 도움 많이될 듯 합니다 감사합니다.