분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
제출물 선정 관련(2차 예선 평가 기준) 질문 있습니다!
위의 식이 2차 예선 평가 점수인 것으로 알고 있습니다. 다만 해당 평가 점수를 따를 경우 제출물 선정 기준이 모호하다는 문제가 있어 질문드립니다!
A - NMAE : 0.1 / 추론시간 : 10초
B - NMAE : 0.43 / 추론시간 : 5초
일 경우, A는 현재 리더보드에도 없는 점수임에 반해, N값에 따라 얼마든지 베이스라인인 B의 최종 점수가 더 좋게 나올 수도 있게 됩니다.
이러한 N에 따른 최종 점수의 변동은, 제출물 선정에 있어 큰 어려움을 준다고 생각하며 대회의 취지를 파악하기 어렵게 만든다고 생각합니다.
위의 예시와 유사한 상황은 팀 내 여러 제출물 사이에서 충분히 나올 수 있는데, N에 대한 그 어떠한 정보도 없으면 제출물 고르는 것이
순전히 운의 영역으로 넘어갈 수 있게됩니다.
N은 규정상 비공개니, 가령 제출물 선정에 있어 높은 점수의 제출물을 내는 것이 해당 기준에도 불구하고 더욱 바람직 하다거나, 이번 대회는 점수보단 빠르게 예측을 요하는 곳에 필요하다거나 하는 식의 취지라도 알게 된다면, 남은 일정 진행에 있어 큰 도움이 될 것 같습니다.
해당 점수는 N에 따라 무조건 속도가 빠른 것이 가장 좋을 수도, 속도는 전혀 필요 없고 NMAE만 낮은 것이 좋을 수도 있기에, 운이 아닌 합리적인 기준을 바탕으로 제출물을 선정하기 위한 적절한 가이드라인을 알게 되면 좋을 것 같습니다.
넵 감사합니다!
데이콘(주) | 대표 김국진 | 699-81-01021
통신판매업 신고번호: 제 2021-서울영등포-1704호
직업정보제공사업 신고번호: J1204020250004
서울특별시 영등포구 은행로 3 익스콘벤처타워 901호
이메일 dacon@dacon.io |
전화번호: 070-4102-0545
Copyright ⓒ DACON Inc. All rights reserved
N은 1로 가정하여 진행해주셔도 문제 없습니다. (정확한 N은 비공개이나, 1에서 크게 벗어나지 않습니다)
평가 산식을 살펴보면 결국 최고 득점 팀의 점수가 기준이 되는 것이고, 모델 성능과 추론 속도의 반영 비율은 90:10 으로 반영됩니다.
즉, 성능과 추론 속도를 전략적으로 고려하여 최고 점수를 낼 수 있는 제출물을 Private 리더보드 최종 선택물로 채택해야합니다.