분석시각화 대회 코드 공유 게시물은
내용 확인 후
좋아요(투표) 가능합니다.
Aimers 9기 : 투구 제구 성공 확률 예측 AI 온라인 해커톤
비정상적으로 높은 리더보드 점수 및 외부 정답 정보 활용 가능성에 대한 운영 방침 문의
현재 리더보드에서 99% 후반대의 매우 높은 점수가 확인되고 있는데, 이와 관련하여 단순히 해당 제출의 삭제 여부를 넘어 운영진의 명확한 설명이 필요하다고 생각하여 문의드립니다.
제가 가장 우려하는 부분은 특정 참가자가 실제로 어떤 방법을 사용했는지를 단정하는 것이 아닙니다. 더 근본적인 문제는 만약 인터넷, 지인, 외부 데이터 등을 통해 Test 데이터의 정답 또는 정답과 매우 강하게 연결된 정보가 일부라도 유통되고 있는 상황이라면 이를 어떻게 탐지하고 처리할 것인가입니다.
예를 들어 외부에서 확보한 정답 데이터를 그대로 모델의 학습 데이터로 사용하는 경우라면 코드나 데이터 검증 과정에서 비교적 명확하게 규칙 위반을 확인할 수 있을 것이라고 생각합니다.
하지만 진짜 애매한 문제는 외부 정보를 통해 특정 Test 행들의 실제 결과를 알고 있는 참가자가 전체 정답을 직접 학습에 사용하는 것이 아니라,
등으로 간접적으로 Test 정답 정보를 활용한다면, 최종 코드만 보고 이것을 어떻게 판별할 수 있는지가 궁금합니다.
특히 이러한 방식은 전체 정답지를 그대로 사용하는 것보다 탐지가 훨씬 어렵지만, 정상적으로 Train 데이터만 이용하여 모델링한 참가자와의 공정성을 심각하게 훼손할 수 있다고 생각합니다.
현재 DACON에서는 규칙 위반 제출이 확인될 경우 리더보드에서 해당 기록이 삭제되는 것으로 알고 있습니다. 다만 이번처럼 정상적인 모델링 성능과 상당히 큰 차이를 보이는 극단적인 점수가 발생한 경우에는 단순히 기록을 삭제하는 것만으로 끝내기보다, 최소한 참가자들이 납득할 수 있도록 다음 사항에 대한 안내가 필요하다고 생각합니다.
이 문제는 특정 참가자 한 팀에 대한 의혹 제기만의 문제가 아니라고 생각합니다.
Test 정답에 접근할 가능성이 실제로 존재한다면, 정답 전체를 그대로 제출하는 참가자보다 그 정보를 일부만 교묘하게 활용하는 경우가 오히려 훨씬 중요한 공정성 문제가 될 수 있습니다.
정상적으로 대회 데이터를 기반으로 모델을 개발하고 있는 참가자 입장에서는 운영진이 이러한 상황을 어떤 기준으로 검증하고 있는지, 그리고 최종 평가 및 코드 검증 단계에서 어떻게 방지할 예정인지 명확한 안내를 부탁드립니다.
답변 감사합니다. 다만 기존 공식 답변과 함께 보면 한 가지 핵심적인 의문이 남아 추가 문의드립니다.
8/12 운영진 답변에서는 리더보드 점수를 참고하여 모델·하이퍼파라미터·앙상블 가중치를 선택·조정하고, 제출 결과의 점수 차이를 바탕으로 후보값을 보간하는 것까지 허용된다고 안내하셨습니다.
그렇다면 외부의 정답 또는 정답에 준하는 정보가 최종 추론 코드에 직접 등장하지 않고, 단지 특정 후처리 계수·앙상블 비율·Feature·모델 설정을 결정하는 데만 사용된 뒤 최종 코드에는 고정된 상수와 정상적인 추론 로직만 남는 경우가 가장 우려됩니다.
예를 들어 A라는 보정값이 정상적인 LB 튜닝을 통해 선택되었는지, 외부의 정답에 준하는 정보를 참고하여 선택된 뒤 LB로 확인된 것인지는 최종 코드만 보면 동일할 수 있습니다. 두 경우 모두 코드 재현도 정상적으로 가능합니다.
따라서 제가 궁금한 것은 구체적인 탐지 기법보다 Phase 3 검증에서 단순히 코드가 해당 점수를 재현하는가만 확인하는 것이 아니라, 성능에 큰 영향을 준 후처리값·Feature·앙상블 비율·모델 설정 등이 어떤 정보와 실험을 근거로 도출되었는지 그 과정까지 검증하는지입니다.
현재처럼 통상적인 리더보드 성능과 극단적으로 차이가 나는 기록이 등장한 상황에서는 특히 이 구분이 중요하다고 생각합니다. 이러한 설정값의 도출 과정과 실험 근거까지 검증 대상에 포함되는지 확인 부탁드립니다.
추가 문의주신 내용과 관련하여 안내드립니다.
우선 우려하신 것처럼 외부의 정답 또는 정답에 준하는 정보를 참고하여 후처리값·앙상블 비율·Feature·모델 설정을 조정하는 방식은 본 대회 구조상 정상적으로 수행할 수 없습니다.
평가 데이터는 비공개로 운영되며, 정답 정보 역시 외부에 공개되어 있지 않고 유출 가능성이 원천 차단되어있기에 참가자가 이를 사전에 확보하여 튜닝에 활용할 수 있는 구조가 아닙니다.
또한 말씀하신 것과 같이 Phase 3 선발 검증에서는 단순히 제출 코드가 기존 점수를 재현하는지만 확인하지 않습니다. 학습 코드, 추론 코드, 주요 Feature·후처리값·앙상블 비율·모델 설정 등이 어떠한 근거와 과정으로 도출되었는지까지 종합적으로 확인합니다.
따라서 규칙을 준수하지 않은 방식으로 성능상 이점을 얻은 것이 확인되거나 소명이 이루어지지 않아 검증을 통과하지 못하는 경우에는, 재현 여부나 리더보드 순위와 관계없이 Phase 3 오프라인 해커톤 대상자로 선발되지 않습니다.
감사합니다.
DACON Co.,Ltd | CEO Kookjin Kim | 699-81-01021
Mail-order-sales Registration Number: 2021-서울영등포-1704
Business Providing Employment Information Number: J1204020250004
#901, Eunhaeng-ro 3, Yeongdeungpo-gu, Seoul 07237
E-mail dacon@dacon.io |
Tel. 070-4102-0545
Copyright ⓒ DACON Co.,Ltd All rights reserved
안녕하세요. 데이콘입니다.
문의주신 내용과 관련하여 안내드립니다.
대회 기간 중 참가자는 추론 코드 및 결과물을 제출하며, 제출된 추론 코드에 평가 데이터의 특정 샘플을 식별하거나 예측값을 임의로 조정하는 등 규칙에 위배되는 로직이 포함되어 있는지는 운영진에서도 확인하고 있습니다.
또한 본 대회의 평가 데이터는 외부에서 정답을 그대로 조회하거나 단순 대응할 수 있는 형태가 아닙니다. 데이터는 비식별화 등 필요한 처리가 이루어져 있으며, 특히 ‘제구 성공’ 여부는 본 대회의 문제 정의에 따라 별도로 구성된 기준을 적용하고 있습니다.
그럼에도 정상적인 모델 학습·추론 절차를 벗어나 평가 데이터의 실제 결과 또는 정답에 준하는 정보를 취득·추정·도출하여 예측에 활용하는 모든 행위는 규칙 위반에 해당합니다. 외부 정보 활용뿐만 아니라 특정 샘플의 정답을 비정상적인 방법으로 추정하여 예측값 조정, 후처리, Feature 설계 등에 반영하는 경우도 포함됩니다.
무엇보다 Phase 3 오프라인 해커톤 대상자 선발 과정에서는 추론 코드뿐만 아니라 학습 코드, 활용 데이터 및 전체 학습·추론 과정에 대한 검증과 재현성 확인을 진행합니다. 이 과정에서 규칙 위반이 확인되거나 제출 결과를 정상적으로 재현하지 못하는 경우에는 리더보드 순위와 관계없이 Phase 3 오프라인 해커톤 대상자로 선발되지 않습니다.
즉, 대회 기간 중 높은 리더보드 점수를 기록하더라도 규칙을 준수하지 않은 방식으로 얻은 결과는 최종 선발에 인정되지 않으며, 규칙 위반 참가자가 오프라인 해커톤에 진출하는 일이 없도록 검증할 예정입니다.
아울러 개별 참가자의 구체적인 위반 방식이나 세부 검증 내용을 모두 공개할 경우, 해당 정보가 오히려 규칙 우회 또는 검증 회피에 악용될 수 있습니다. 이에 운영진은 필요한 검증과 조치를 진행하되, 개별 사례의 세부 내용은 일률적으로 공개하지 않습니다.
감사합니다.
데이콘 드림