분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
재정정보 생성 AI 활용 검색 알고리즘 경진대회
instruction 답변 고정은 다들 어떻게 하셨나요?
안녕하세요
궁금해서 남깁니다
LLM 모델 generate 옵션을 건드려서 하셨나요?
감사합니다
text_generation_pipeline = pipeline(
model=model,
tokenizer=tokenizer,
task="text-generation",
temperature=0.3,
do_sample=True,
return_full_text=False,
max_new_tokens=550,
)
파인튜닝 없이 오직 rag 만 했어요.
# 모델 ID
model_id = "rtzr/ko-gemma-2-9b-it"
온도를 0으로 두는 것보다는 0.3 정도로 하니 점수가 0.1 점 정도 올랐습니다.
그럼 점수가 매번 바뀌지 않나요?
그 부분은 크게 체크 하지 않았네요. 점수가 조금 바뀌는것은 신경 안썼어요.
torch 시드 고정으로 안되시나요?
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
```python
do_sample=False,
temperature=0,
```
로 알겠습니다