대회 참여할 때 주변에서도 “앙상블은 무조건 해야한다”라는 이야기를 자주 듣는데

사실, 대회에서 앙상블은 단일 모델보다 점수를 올리는 데 큰 도움을 주긴하지만 마지막 단계 같긴 하더라구요.

하지만 항상 무조건 앙상블이 좋은 선택인지는 모르겠습니다.

단순히 다양한 모델을 무작정 섞는다고 해서 항상 기대하는 만큼의 성능 향상이 나타나는 것은 아닌 것 같습니다.

• 비슷한 특성을 가진 모델들을 앙상블하면 단순히 개별 모델의 오류가 비슷하게 나타나 큰 효과를 보지 못하고,
• 대회에서는 제출 횟수 제한과 같은 제약도 있는데 앙상블 기법은 복잡도가 증가하고 튜닝이 어려워서 오히려 검증 점수에 과적합될 위험도 있구요.
• 여러 모델을 돌리고 그 결과를 조합하는 과정은 추가적인 계산 비용과 시간이 또 들어가는 것 같습니다.

그래도 저는 앙상블은 하긴 하지만 실제로는 어떻게 다들 사용하고 계신가요??