카메라 이미지 품질 향상 AI 경진대회

알고리즘 | CV | 이미지 변환 | 제어 | PSNR

  • moneyIcon 상금 : 총 1,000만원
  • 1,295명 마감

 

inference 속도 관련 문의

2021.07.25 22:22 2,050 조회

안녕하세요. 추론 속도 관련 문의가 있어서 글 남깁니다.

현재 작동속도가 15점을 차지할정도로 큰 점수를 차지하는데, 이 부분에 대한 정보가 없어서 많이들 헷갈려 하실거 같습니다.


예상 가능한 시나리오는 아래 두가지와 같습니다.

1) ppt를 통해 각자 팀마다의 환경셋팅에서 작동속도를 낮추기 위해 여러가지 시도를 해봤고, 어떤 방법이 몇 % 정도 가속을 해줬다. (심사위원분들이 각 팀들의 방법론을 보고 말그대로 적용가능성을 평가)

2) 데이콘에서 각자의 코드를 받아서 inference를 해본다.


1)

장점:

  • 각자 팀마다 환경셋팅에서 다양한 연산 가속화 기법들을 적용해보고, 대회 취지에 맞게 적용가능성을 제시해 줄 수 있다.

단점:

  • 각자 팀마다 xx초 가 나왔다는 것은 사용한 연산장치에 따라 확연히 다르기에 공정한 비교가 될 수 없다.
  • 각자 팀마다 각자의 환경에서 몇초가 아니라 몇%를 가속했다라고 pt에서 표현하면 되지만 실제로 그정도 나왔는지 검증할수는 없다

(하지만,  전문적인 지식을 가지신 심사위원분들이 방법론 자체를 보고 적용가능성을 판단해주실 수는 있음.  ex) 이정도는 나올 수 있을만한 수치다. 경험적인 검증)


2)

장점:

  • 확실한 검증이 된다.

단점 :

  • 미리 연산 환경 스펙을 공지해주지 않았다.(최적화 연산은 연산장비에 따라서 지원될수도 있고 될수 없는경우도 많다.), 따라서 대회 진행중 고려할 수 없다.
  • 리더보드 상에 연산속도가 점수에 산정되어 표시되는게 아니기 때문에 최종 모델 파일 제출을 전략적으로 할 수도 없고, 이는 도박이나 다름없다.


저는 개인적으로는 1)번의 시나리오가 가장 이상적인 시나리오라고 생각하고, 다른 참가자분들이나 데이콘, 주최자분들께서는 어떻게 생각하시는지 궁금합니다.

로그인이 필요합니다
0 / 1000
TEAM-EDA
2021.07.25 22:40

동의합니다 ㅠㅠ 뭔가 평가에 대한 정확한 기준이 없는 것 같아요. 제출 2개를 하게 되는데 Inference 평가를 가장 Private70 + Public 30 이 높은 1개로 Inference 체크하는 지? 아니면 속도 올리려고 시행한 모든 것으로 체크하는 지도 궁금합니다..

DACONIO
2021.07.26 08:51

안녕하세요. 이광한님
동작속도는 제출 받은 inference 코드를 실행하여 테스트 데이터의 전처리부터 최종 제출물 생성(앙상블, TTA 등 모두 inference time에 포함)까지의 시간을 측정하여 평가됩니다.
inference time이 가장 짧은 팀이 만점이며 추론 시간 차이에 따라 점수는 차등부여됩니다.
재현 환경은 GPU:Tesla V100 32GB, CPU:32core, RAM:128GB로 예정 되어 있으나 모든 제출 코드가 동일한 환경에서 실행이 불가능 할 경우
모든 코드가 실행 가능하도록 재현 환경은 변경될 수 있습니다.
감사합니다.

2weeks0
2021.07.26 18:30

최종 제출은 2개를 선택할 수 있는 것으로 알고 있는데, 추론시간은 2개의 평균을 내는 것인가요? 아니면 가장 높은 점수의 추론시간을 평가하나요?

TEAM-EDA
2021.07.26 21:11

그러니깐요. 이게 좀 명확히 되어야할 것 같은데 Private 제일 높은거만 속도 체크하는 건지, 아니면 제출한 2개에서 저희가 선택할 수 있는 것인지 알려줘야 제출할때 문제가 없을 것 같습니다. 

DACONIO
2021.07.27 09:58

평가는 최종 제출한 코드를 기반으로 합니다.
코드는 Private 리더보드 복원이 가능한 코드로 제출 받고 있으며 Private 리더보드는 두개의 선택 파일중 높은 파일로 기록됩니다.
코드는 두개의 선택 파일중 점수가 높은 파일로 제출해주시기 바랍니다.
감사합니다.