도배 하자 질의 응답 처리 : 한솔데코 시즌2 AI 경진대회

알고리즘 | 언어 | 생성형 AI | LLM | MLOps | QA | Cosine Similarity

  • moneyIcon 상금 : 1,000만 원
  • 1,463명 마감

 

pubilc [0.63588] LLM 파인튜닝 전 학습없는 아이디어 빌드 ( 1/ 2 )

2024.01.30 15:58 4,181 조회 language

이미 학습시키고 있는 LLM이있어서 가용 GPU가 없더군요.. 그래서 CPU 만으로 진행 가능한 1 편 
추후에는 LLM을 finetuning 을 시켜서 2편을 올리도록 하겠습니다. ! 

일단은 언어 모델을 학습시키지 않았기에 대회에 Rule 에 맞지는 않지만 , 
아이디어 공유차 올리게 되었습니다. ! 

코드
로그인이 필요합니다
0 / 1000
IIllIIllIIll
2024.01.30 16:35

심심이가 약간 이런 방식을 쓰지 않나요? 가장 유사한 질답 세트 찾아서 답변해주는 방식ㅎㅎ

jaban_kong
2024.01.30 16:46

네! 거의 리트리벌 시스템처럼 작동하는 방식입니다 ㅎㅎ 
여기에 encoder를 넣어 유사도를 증가시키거나, 
혹은 LLM구성을 위한 RAG처럼 쓸수 있지 않을까 생각하고있습니다. 

파이썬초보만
2024.02.02 11:54

잘봤습니다!

Oak_tree
2024.02.07 16:35

잘봤습니다. 공유 감사합니다!