대구 교통사고 피해 예측 AI 경진대회

알고리즘 | 정형 | 회귀 | 교통 | RMSLE | 정성평가

  • moneyIcon 상금 : 1,000만원
  • 2,197명 마감

 

[LB:0.4313] Transformer feature encoding

2023.12.07 17:08 848 조회 language

transformer 구조중 multihead attention을 18개의 feature에 적용해서 feature간의 연관성에 좀 더 집중하는 모델을 만들고자 했습니다. Brain_AI_이희원님의 전처리를 참고하였습니다.

코드