분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
[Private기준 28등, Public기준 36등] Attention을 기반으로 Ensemble 진행
안녕하세요!
저희는 Private기준 28등, Public기준 36등을 기록하였습니다.
도메인 지식의 부족으로 feature engineering을 다각적으로 진행하지는 못하였지만,
모델 앙상블을 할 때 attention을 기반으로 해보았는데, 아이디어를 공유할겸 코드를 공유하게 되었습니다!
최종모델은 lgbm, xgboost, random forest를 optuna 돌려 최적의 파라미터를 추출하고 이 셋 모델을 앙상블하는 방법을 택했지만,
이 코드는 파생변수를 다각적으로 생성하여 데이터셋을 추가로 다섯개로 만들고,
이에 대한 xgboost prediction 값을 attention score를 기반으로 ensemble한 것입니다!
읽어주셔서 감사합니다!
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved