온라인 채널 제품 판매량 예측 AI 오프라인 해커톤

채용 | 알고리즘 | 정형 | 시계열 | LG Aimers | 수요 예측 | SFA

  • moneyIcon 상금 : 1,000만 원
  • 110명 마감
마감

 

[Private 7th] TiDE + NDLinear Residual Connection

2023.09.24 16:08 1,268 조회 language

Google Research에서 23년 4월에 발표한 Long-term Forecasting with TiDE: Time-series Dense Encoder 논문의 구조를 Base로 가져왔습니다.
github에 올려져 있는 official code는 tensorflow기반이라, 구조를 간소화하며 torch로 수정하여 직접 구현하였습니다.
해당 모델에서, Feature Projection은 known future covariates를 포함해야 하므로, 이번 대회의 데이터에서 유일하게 알 수 있는 날짜(년, 월, 일, 요일) 정보를 Embedding하여 넣어주었습니다. 또한, static covariates 및 brand keyword cnt 정보를 인코딩하여 추가로 input feature로 넣어주었습니다.

기존 논문에서는 Global Residual Connection으로 단순히 Linear layer를 사용하지만, 벤치마크 데이터셋에 대해 높은 성능을 기록한 DLinear와 NLinear의 2개 방법론을 모두 채택하여 동시에 결합한 NDLinear 구조를 residual connection으로 사용하였습니다. (decomposition + denormalization)

Loss 또한 PSFA metric의 특성을 반영하여 예측값이 실제값보다 낮으면 페널티를 주는 Custom Loss를 사용하였습니다.
(학습에 대한 hyperparameter는 코드 참고)

따로 EDA에 대한 깊은 지식이 없어, 추가적인 전처리를 크게 하지 않고 모델 구조만 수정하며 돌려보았는데, 이번 대회를 통해 EDA가 정말 중요하다는 것을 다시 한 번 깨닫고 갑니다!  모두 고생하셨습니다!!😄

PDF
코드