칼로리 소모량 예측 AI 해커톤

안녕하세요! 우선 PolynomialFeatures  > Scaler 순으로 처리한 것은 Pycaret에서의 모델 비교를 하며 PolynomialFeatures  > Scaler 경우가 Scaler  > PolynomialFeatures 경우보다 성능이 미세하게 좋았거나 완전히 뒤떨어지는 성능이 관측되었기 때문이었습니다. 저도 구글링을 하며 그 순서에 대해서 의문이 있었으나, 이번 대회에서는 제가 진행한 코드에 일반화하여 진행하는 것이 오히려 좋지 않았습니다.
두 번째로, 특성 생성(파생변수)에 관한 것입니다. 대회의 초반에는 기존의 데이터를 이용하여 BMR_per_duration이라는 한 가지 특성을 생성하여 모델에 넣었을 때 성능이 향상되어 그 기세를 몰아 여러 가지 특성들을 생성했습니다. 얘기하신 것처럼, 기존 데이터 셋을 이용한 특성 공학은 다중공선성으로 인해 오히려 특성 공학이 예측을 방해하는 경향을 보였습니다. 저 또한 이 점에 대해 굉장히 고심했습니다. 6500 행, 8~9 열이라는 매우 소량의 데이터에서 파생 변수를 만드는 것과 만들지 않는 것 사이에서 그만 정신을 잃을 뻔했습니다. 하지만 PolynomialFeatures을 통해서 성능 향상을 시켰습니다. 더 정확하게 말한다면 저는 다중공선성을 해결하지 못했으나, PolynomialFeatures을 통해 비선형성을 개선한 것이 효과적이었다고 생각합니다. 제가 AutoML을 돌렸을 때 성능 향상이 비약적으로 이루어진 것은 'LinearRegression'에서의 꽤나 좋은 예측을 만들었던 덕분이었습니다.
글이 많이 길어졌습니다. 마지막으로 요약하자면 첫 번째로 주신 질문의 경우 논리성이나 원리보다는 다양한 상황을 실험을 했을 때 PolynomialFeatures  > Scaler 순서가 유의미했습니다. 두 번째 질문에는 매우 강력한 비선형성의 개선은 다중공선성으로 인한 성능 저하의 영향력을 넘어서 회귀 예측에서의 성능이 좋아진 대회였다고 생각합니다.

삭제된 댓글입니다

+) 특성을 생성하는 것은 상황에 따라 달라진다고 봅니다. 따라서, 파생변수 생성 후 상관관계를 보고 특성 선택 혹은 삭제를 하거나 사이킷런이나 다른 라이브러리를 활용하여 특성 선택을 하는 방법을 사용하는 것이 필요하다고 생각합니다. 또한 데이터 셋이 적을 경우(10000rows미만)에는 그렇지 않을 경우보다 좀 더 효과적일 수 있다고 생각합니다.

제 답변이 질문을 주신 것에 비해 많이 미흡하지만 조금이라도 도움이 되셨으면 좋겠습니다. 

감사합니다. 덕분에 진행하며 궁금했던 부분들을 어떤 방식으로 해결해 나아가야되는지 방향이 좀 잡히는 것 같습니다.
첫 데이콘이라 진행 과정에서 많이 미숙했고 결과에 대해 실망이 많이 컸는데 다음번에는 더 좋은 결과가 나올 수 있을 것 같다는 기대감이 드네요 ㅎㅎ
좋은 말씀 감사합니다.

아 더불어 분석 과정에서 하나만 더 여쭙고 싶습니다. ㅎㅎ

전처리 과정과 모델 학습 과정을 진행하다 보니 결국 성능에 따라 전처리와 모델을 결정하게 되는데, 이때 전에 진행한 전처리 방식 또는 모델이 더 높은 성능을 내는 경우가 많았습니다.

다만, 전처리를 과정을 하나 진행 또는 수정할 때마다 모든 과정을 각각의 코드로 따로 저장하기 힘든데 과거부터 지금까지 진행한 전처리와 모델 학습 과정을 저장? 또는 기록하는 팁이 있을까요?

실제 처음 진행했던 전처리가 가장 성능이 좋았었는데 나중에 해당 부분으로 다시 돌아가려 했더니, 이 변수에 로그 스케일을 취했던가, 이 순서대로 전처리를 진행했던가.. 하면서 다시 돌아가는데 시간이 많이 걸렸어서여.. ㅜ.ㅜ

저는 진행 중인 코드에 변경할 사항이 있다면 그 코드를 복사한 사본에 수정하는 편이기는 합니다. 많이 번거로울 수는 있으나 가장 확실한 방법이라... 만약 코랩을 사용하신다면 좀 더 수월하게 정리하실 수 있습니다... (이미 몇 번 날려봤습니다...)
어쨌든, 수정 전의 코드를 남겨두는 게 가장 좋을 거라 생각해여!