분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
재정정보 AI 검색 알고리즘 경진대회
instruction 답변 고정은 다들 어떻게 하셨나요?
안녕하세요
궁금해서 남깁니다
LLM 모델 generate 옵션을 건드려서 하셨나요?
감사합니다
text_generation_pipeline = pipeline(
model=model,
tokenizer=tokenizer,
task="text-generation",
temperature=0.3,
do_sample=True,
return_full_text=False,
max_new_tokens=550,
)
파인튜닝 없이 오직 rag 만 했어요.
# 모델 ID
model_id = "rtzr/ko-gemma-2-9b-it"
온도를 0으로 두는 것보다는 0.3 정도로 하니 점수가 0.1 점 정도 올랐습니다.
그럼 점수가 매번 바뀌지 않나요?
그 부분은 크게 체크 하지 않았네요. 점수가 조금 바뀌는것은 신경 안썼어요.
torch 시드 고정으로 안되시나요?
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
직업정보제공사업 신고번호: J1204020250004
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io |
전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
```python
do_sample=False,
temperature=0,
```
로 알겠습니다