인덱싱시 추론 시간에 포함되나요?

2025 금융 AI Challenge : 금융 AI 모델 경쟁

인덱싱시 추론 시간에 포함되나요?

filot

2025.08.06 07:45 537 조회

RAG가 가능한 상황으로 이해가 됩니다.

외부 데이터를 청킹 후 인덱싱하는 시간도 추론 시간에 포함되는지 궁금합니다.
인덱싱 사용하는 모델과 추론시 사용한 모델이 달라도 상관 없는지 문의드립니다.

감사합니다.

댓글 4개

로그인이 필요합니다

comment

0 / 1000

DACON.GM

2025.08.06 09:09

1) 제출 시 평가 데이터셋에 대한 추론 코드를 별도로 제출해야하며, 이 코드의 실행 시간을 측정합니다.
2) 청킹/인덱싱 과정에서의 임베딩 모델은 별도 사용이 가능하지만, 실제 추론 과정(Retrieve + Generate)에서 복수 LLM을 사용하는 것은 허용되지 않습니다.

plee

2025.08.06 17:56

안녕하세요,

추론 과정의 Retrieve(검색) 단계에서 '질문'을 '벡터'로 변환할 때 청킹/인덱싱 과정에서 사용했던 임베딩 모델을 사용하는 것도 복수 LLM을 사용하는 것인지 문의드립니다. 이 모델은 직접적으로 답변을 생성하진 않습니다.

DACON.GM

2025.08.06 18:00

임베딩 모델은 복수 LLM에 고려되지 않습니다. 그러나 추론 리소스에서는 임베딩 모델까지 포함한 동작이 가능해야합니다.