대구 교통사고 피해 예측 AI 경진대회

알고리즘 | 정형 | 회귀 | 교통 | RMSLE | 정성평가

  • moneyIcon Prize : 1,000만원
  • 2,274명 마감

 

[LB:0.4313] Transformer feature encoding

2023.12.07 17:08 1,060 Views language

transformer 구조중 multihead attention을 18개의 feature에 적용해서 feature간의 연관성에 좀 더 집중하는 모델을 만들고자 했습니다. Brain_AI_이희원님의 전처리를 참고하였습니다.

Code