식음업장 메뉴 수요 예측 AI 온라인 해커톤

안녕하세요. 식음업장-메뉴별로 각기 다른 모델 구성을 사용하는 것이 Data Leakage에 해당하는지 궁금합니다.

삭제된 댓글입니다

trainset에 feature를 추가해서 훈련시켜도 되나요?

안녕하세요. (2), (4) 관련해서 문의드립니다.

추론 시점 이후의 정보를 사용할 수 없다면, 예를 들어 테스트셋으로 2025-03-01 ~ 2024-03-28 데이터가 input으로 들어오고, D+1(2024-03-29) 매출을 추론할 때, 2024년 3월 29일은 3월이고, 29일이고, 토요일이다. 와 같은 정보를 추론시 사용할 수 없는지 문의드립니다.

안녕하세요, 파이썬의 holidays 를 import하여 holidays.KR() 를 특징으로 사용하여도 무관한지 문의드립니다.

안녕하세요. 제가 방지 규칙을 충분히 숙지하지 못한 채, Data Leakage 가능성이 있는 방법을 사용하여 파일을 제출했습니다.
최종 제출 시 해당 파일을 선택하지 않으면 불이익을 피할 수 있을지 문의드립니다.

안녕하세요, 혹시 공휴일 데이터 중 설날, 어린이날 등의 공휴일같이 늘 존재하는 공휴일이 아니라 그 해에만 생성된 임시공휴일도 함께 공휴일 데이터 사용가능한가요? 예를 들어, 공휴일 사이에 있어 공휴일로 지정된 날이나 선거로 인한 공휴일을 공휴일 데이터로 사용가능한지 궁금합니다. 

안녕하세요. 

(3) 평가 샘플은 서로 독립적으로 추론해야 합니다.

하나의 평가 샘플 결과나 입력을 다른 샘플의 예측에 사용하는 것은 금지됩니다.
모든 샘플은 각자의 Input(28일)만을 사용해 개별적으로 예측되어야 합니다. 

와 관련해 문의드립니다. 

lgbm으로 7일간을 recursive방식으로 예측을 하는 방법이 많이 쓰이는데 (3)을 확인해보니 이 방법이 dataleakage에 해당하는 방식 같은데 한번 확인받고 싶습니다. 위에 jisung6723님이 말씀해주신 7일치를 반복 적용해 순차적으로 예측하는 방식은 모델에서 2일치의 예측값은 1일치의 예측값을  참조해서 결과를 내도록 코드가 구성되는게 일반적인데  이를 확인하고 싶습니다.

안녕하십니까, 이번 Dacon '식음업장 메뉴 수요 예측 AI 온라인 해커톤'에서 활용할 수 있는 데이터 관련하여 몇 가지 문의사항 있어 연락드립니다.

1. '카스'라는 메뉴가 맥주, 즉 주류라는 것은 사회적 통념으로 알 수 있습니다. 하지만 제공된 데이터셋의 메뉴명을 보았을 때 이것이 무엇을 의미하는지  알기 힘든 메뉴도 존재합니다. 물론 해당 업계 종사자는 알 수도 있습니다. 그렇다면 이와 같은 상황에서 메뉴명에 대한 활용을 시도할 때 사회적 통념으로 허용되는 범위가 어디까지인지 궁금합니다. 특정 참가팀이 이 메뉴가 무엇인지 직관적으로 알았다고 했을 때, 이것이 도메인 지식에 해당하지 않는다고 규칙 위반으로 간주될 수도 있지 않은지 문의드립니다. 

2. 주어진 train 데이터를 시각화하여 매장 혹은 메뉴에 대한 특정 인사이트를 도출해내었고 이를 모델링에 활용할 경우, 이는 외부 데이터를 활용한 것은 아니지만, 동시에 사회적 통념의 도메인 지식을 활용한 것 역시 아닙니다. 이 경우 규칙에 위배되는지 궁금합니다. 

3. 배포된 문제설명 강의자료에 보면, 6페이지에 6개 업장이 어떤 메뉴를 판매하는 업장인지에 대한 설명이 존재합니다. 즉 해당 매장에 관한 정보를 강의자료에서 확인할 수 있습니다. 이는 이번 에이머스 참가 팀 모두에게 공개되어있는 내용입니다. 만약 홈페이지 상에서 일정 등을 확인하는게 외부 데이터라면, 현재 곤지암 리조트의 해당 업장들이 무슨 업장인지 기본적인 정보를 알고 파생변수로 반영하는 것도 외부 데이터로 취급되는지, 만약 그렇다면 최소한 강의자료 상의 6개 매장의 정보를 사용하는 것은 도메인 지식으로 허용되는 데이터인지 궁금합니다. 

안녕하세요, 위 2-(3)과 평가 데이터 구성 요약과 관련해서, 각 평가 데이터 내에서 메뉴 간의 데이터를 활용하여 학습에 활용하는 것이 독립 추론 위반인지 문의 드립니다.

안녕하세요, TEST00~09 파일별로 서로 다른 모델을 써서 예측해도 되는지 궁금합니다

삭제된 댓글입니다

안녕하세요, 파생 변수 생성 시 Data Leakage 위험성을 확인하고자 문의드립니다.

1) Train 데이터 기반 파생 변수 생성 시 데이터 누수 범위
Train 데이터의 매출수량을 활용하여 파생 변수를 생성 시, 전체 Train 기간의 데이터를 참조하여 계산해도 되는지 아니면 각 시점 이전 데이터까지만 사용하도록 누적 연산을 적용해야 하는지 궁금합니다. 
예를 들어, "메뉴의 기여도 =  메뉴 매출 전체의 합 / 매장 매출 전체의 합" 변수를 만들 때 "전체"의 기준이 Train 전체 구간이 되어도 규칙 위반에 해당되지 않는지 확인 부탁드립니다.
데이터 분석 관점에서는 전체 Train 기간의 데이터를 참조할 수 있을 것이라 생각하나, 모델의 관점에서는 훈련 과정에서도 예측이 이루어지면서 사실상 미래의 데이터 알게 되는 형상이 아닐까하여 확인 차 문의드립니다.

2) Test Input 28일 데이터 활용 범위
위 질문에 이어, 평가 데이터(TEST_00 ~ TEST_09) 각각의 Input 구간(28일)에서 제공되는 매출수량 정보를 파생 변수 생성에 활용해도 괜찮은지 궁금합니다.
위 질문의 예시와 같은 변수 생성 시, Test Input 28일의 매출을 연산에 사용해 예측 모델의 피처로 사용하는 것은 허용되는걸까요?
추가로, "추론시 추가적인 과거 데이터를 연결하여 사용하는 것은 허용되지 않는다" 규칙으로 미루어 보아, 파생변수 생성 시에도 Train 기간의 데이터가 사용되면 안되는 것이 맞을까요?

확인 감사합니다.

안녕하세요. 
Phase1에서 제공했던 "『D&O 해커톤 문제 및 도메인 지식 소개』강의자료"  및 영상에서 제시된 정보들 모두 참여자들이 확인할 수 있는 공개되어 있는 부분인데, 해당 부분 모두 외부 데이터로 분류하면 될까요? (ex. 객실 정보, 가게 관련 정보)
감사합니다.

안녕하세요! 도메인 지식에 관해 궁금점이 있어 문의드립니다.
데이터셋을 하나씩 확인해보면서 데이터셋 안에서 확인된 배경지식을 활용해도 되는지 궁금합니다.

예를 들어,
1. A 메뉴가 2023-01~05까지는 판매량이 0이었는데 2023-06부터 판매하기 시작
-> A 메뉴가 06월에 출시했을 것이라는 판단

2. B 메뉴가 2023-09~2024-03에만 판매
-> 계절 메뉴일 것이라는 판단
-> B 메뉴는 제철이 9월부터 3월이라는 지식

3. C 메뉴가 2024-03까지만 판매
-> C 메뉴는 단종되었을 것이라는 판단

위 3가지 예시 중 반영하면 안되는 번호와 이유에 대해 설명해주시면 감사하겠습니다!

대회 규칙에서 "외부 데이터, 크롤링, API 호출은 금지되나, 도메인 지식 기반의 정보(공휴일, 요일 등)는 활용 가능"하다고 안내되어 있어
holidayskr 또는 holidays Python 라이브러리나 다른 라이브러리들을 사용하여, 라이브러리가 외부 서버 접속 없이 로컬에서 계산하는 경우 규칙 위반에 해당하지 않는지 또는 대회에서는 이러한 라이브러리 사용도 “외부 데이터 활용”으로 간주하는지가 궁금합니다.

안녕하세요, 여러 공지사항을 확인한 결과 data leakage에 관해 의문이 생겨서 아래와 같이 질문 드립니다.

https://dacon.io/competitions/official/236559/talkboard/414404?page=1&dtype=recent
위 링크에서 확인할 수 있는 공지사항에서 "pandas의 get_dummies() 함수를 test 데이터셋에 적용하는 경우"가 Data leakage에 해당한다고 하였는데, 

https://dacon.io/competitions/official/236559/talkboard/414557?page=1&dtype=recent
위 링크에서 확인할 수 있는 공지사항에서는 같은 평가 데이터의 샘플 내에서는 평가 데이터의 input 통계 정보를 활용해도 된다고 나와있습니다.

그러면 train data를 분석 후 요일과 공휴일 같이 새로운 feature를 생성해서 이를 학습에 이용하여 예측에 사용하도록 한 경우, test 데이터가 가지고 있는 정보를 직접 확인하지 않고 train data에서 새로운 feature 생성을 위해 처리하던 코드를 그대로 사용해 train data와 똑같이 feature를 생성해서 one-hot encoding해서 input에 넣는 것도 data leakage에 해당하는 것인가요? 이때 train data를 분석하여 얻은 인사이트만을 이용했다는 것을 가정합니다.

pandas의 get_dummies()가 one-hot encoding 시 자주 사용되는 함수인 것으로 알고 있어서 위 위와 같은 질문을 드립니다.

삭제된 댓글입니다

1) Lookback 이 불가능하다는 건 예측시 해당 메뉴의 과거 통계량이나 , lag_feature를 못 쓴다는 말씀인가요?
2) train 데이터의 통계를 바탕으로 메뉴들에 대한 그룹화를 한 특성을 test 시에 사용하는것도 Data Leakage 에 해당되나요? (과거 데이터를 사용한 특성이기 때문입니다.)
3)밑에 질문처럼 같은 TEST_*.csv 내에서 예측시에 1일차 예측값이 2일차 예측에 관여해도 된다는건가요? 감사합니다

안녕하세요. 대회 규칙과 관련하여 문의드립니다.
대회 규칙(시계열 예측 관련 Data Leakage 방지 규칙) 제2항에서는
"평가 시 제공된 28일 외의 데이터를 추가로 사용할 수 없다." 라고 명시하고 있습니다.
이와 관련해, “판매 시작일로부터 경과한 일수”와 같은 피처의 사용 가능 여부가 헷갈려 문의드립니다.

1) 해당 값이 메뉴의 고정적 속성처럼 간주되어 메타정보에 해당한다고 볼 수도 있습니다. (train 데이터 기준으로 계산 가능)
2) 그러나 동시에, 이 값을 산출하려면 평가 Input(28일) 이전의 과거 시계열 기록(첫 판매일)을 확인해야 하므로, 규칙상 금지된 “28일 외 데이터 활용”에 해당할 수 있다는 해석도 가능한 것으로 생각됩니다.
따라서 위와 같은 피처가 규칙 위반에 해당하는지 여부에 대해 확인하고 싶습니다.

감사합니다.