모델 및 알고리즘 질문

2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

모델 및 알고리즘 질문

건우조

2025.05.05 15:19 748 Views

1.unsloth/Meta-Llama-3.1-8B-Instruct나 unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit 모델도 사용이 불가능한가요?

2.추론 시 vLLM을 사용하는 것이 가능한가요?

3.하나의 데이터 샘플에 대해 반드시 한 번의 추론만 허용되나요?

예를 들어, 11번 샘플에 대해 동일한 모델과 프롬프트를 사용했을 때 결과가 일정 기준에 미치지 못하면,

generate()를 다시 호출해 답변을 재생성하는 방식의 알고리즘을 적용해도 괜찮은가요?

2 Comments

comment

0 / 1000

DACON.SooWoong

2025.05.07 11:26

안녕하세요, 건우조님.
문의 사항 관련하여 답변드립니다.
1. 대회에서 제한하고 있는 공식 모델만 사용가능합니다.
2. Huggingface의 "meta-llama/Llama-3.1-8B-Instruct" 모델을 사용하는 경우 가능합니다.
3. 동일한 모델과 알고리즘을 모든 샘플에 일관되게 적용한다면, generate()를 반복 호출하는 방식은 허용됩니다.
감사합니다.