SW중심대학 공동 AI 경진대회 <본선>

SW중심대학 | 본선 | OCR | Accuracy

 

Private 리더보드 공개 및 발표 평가 대상자 차후 일정 안내

2022.10.06 18:34 3,256 조회

안녕하세요 데이콘입니다.

‘SW중심대학 공동 AI 경진대회<본선>’ Private 리더보드가 공개되었습니다.

참가자 모두 치열한 노력과 학습의 결과에 존경을 표합니다.


SW중심대학 공동 AI 경진대회<본선>’의 평가 기준 및 일정 안내입니다.

발표 평가 대상자(Private 리더보드 상위 20팀)분들은 반드시 숙지해주시기 바랍니다.


[발표 평가 대상 팀]

: Private 등수는 최종 등수가 아니며, 최종 등수는 발표 평가와 최종 코드 검증을 통해 정해지며 수상자가 선정됩니다.


[발표 평가 개요]

  • (일 시) 2022년 10월 18일(화), 13:00~17:50
  • (장 소) 온라인 (ZOOM) 
  • (주 제) 한글 이미지 OCR솔루션 모델
  • (평가위원)  인공 지능 관련 (VISION AI, OCR) 산학연 전문가 심사위원 5인
  • (평가대상) Private 리더보드 기준 상위 20개팀
  • (평가방법) 평가표에 의거하여 팀별 발표자료 및 내용을 평가
  • (종합점수) 배점 100점 (리더보드 점수 30점, 발표평가 점수 70점)


[발표자 선정 및 발표자료 제출]

  • (제출기한) ~10월 14일(금), 23:59까지
  • (제출방법) 각 팀의 발표자가 제출링크를 통해 발표자 정보 및 발표자료 제출

* 제출링크 : https://forms.gle/4ctMP4DFLpnm65G79

  • (파일형식 및 분량) PDF 혹은 PPT파일 / 10페이지 이내(5분발표분량)로 자유롭게 작성
  • (발표자 선정 시 유의사항) 각 팀의 발표 순서 및 시간은, 발표자 및 발표자료 제출이 마감된 후 랜덤으로 정해집니다.

* 발표시간 변경,조정이 어려울 수 있으니, 전체 진행일정(10/18, 13:00~17:50)에 시간을 내실 수 있는 인원으로 선정을 부탁드립니다.

  • 상세 발표 일정과 ZOOM 입장 주소 관련하여 제출 기한 이후 주최측에서 발표자들에게 개별 안내를 드릴 예정입니다.


[발표 평가 항목]

  • 발표자료에는 아래의 평가항목 중 모델 성능을 제외한 나머지 항목에 대한 내용이 필수로 포함되어야 합니다.
  • 현재 Private 리더보드 상의 순위는 최종 순위가 아니며, 발표평가 및 최종 코드 검증을 통해 최종 순위 및 수상자가 결정됩니다. 


[차후 일정]

  • 발표 자료(PPT) 제출 : 2022년 10월 07일 금요일 19:00 ~ 2022년 10월 14일 금요일 23:59
  • 온라인 발표 평가 : 2022년 10월 18일 화요일 13:00 ~ 17:50
  • 평가일은 변경 불가능합니다.
  • 추후 발표자에게 개별 안내될 본인의 발표 시간에만 입장하시면 됩니다.
  • 발표 평가 결과 안내 : 2022년 10월 19일 수요일 10:00
  • 코드 제출 : 2022년 10월 19일 수요일 10:00 ~ 2022년 10월 23일 일요일 23:59
  • 발표 평가 상위 6팀 코드 제출
  • 최종 코드 검증 : 2022년 10월 24일 월요일 ~ 2022년 11월 04일 금요일
  • 최종 순위 발표 : 2022년 11월 07일 월요일



감사합니다.

로그인이 필요합니다
0 / 1000
오리도리
2022.10.07 19:27

안녕하세요.
한 가지 문의 드리고자 연락드렸습니다.
다름이 아니라, 10/18일 13:00-17:30까지 시간을 낼 수 있는 인원이 없을 것 같은데 발표자를 여러 명 적어도 되는지 여쭈어봅니다.

감사합니다.

DACON.GM
2022.10.07 19:32

안녕하세요 오리도리님,
13:00-17:30 중 팀의 발표 및 질의응답 시간(10분)에만 참여하시면 됩니다.
정확한 팀별 발표 일정은 발표 자료 제출이 마무리된 후 발표자들에게 주최측에서 안내드릴 예정입니다.
따라서 가급적 발표자 한분을 선정하여 발표자료와 같이 제출 부탁드립니다.
감사합니다.

오리도리
2022.10.07 19:32

네 답변 감사합니다.

sksmslhy
2022.10.11 15:12

안녕하세요. 발표 관련 문의가 있습니다.
질의응답에는 발표자만 답변할 수 있는 것인가요? 
발표자가 아니더라도 해당 시간에 팀원이 함께 참여하여 답변할 수 있는지 궁금합니다. 
감사합니다.

DACON.GM
2022.10.11 16:09

안녕하세요 sksmslhy님,
팀 별 발표 시간에는 발표자만 입장 가능합니다.
감사합니다.

일론머스크
2022.10.18 01:08

대회에서는 검증 데이터 셋 구축 전략, 알고리즘의 차별점 같은 것보다 성능이 우선시 되는 게 맞다고 생각합니다. 알고리즘에 차별성이 있고 여러 가지 SOTA 기법들을 많이 적용했다고 해당 테스크에서 성능이 높아진다고 볼 수 없기 때문입니다. 결국 성능이 가장 높은 팀이 가장 적절하게 기법들을 사용했다고 보는 것이 맞으며 성능 점수가 30점 밖에 되지 않고 그 외 점수가 70점이라는 것이 조금 안타깝습니다. 또한 알고리즘 차별성과 검증 데이터 셋 구축 전략과 같은 독창성 평가 항목이 있었다면 본선 시작 전에 미리 어떤 비율로 평가가 진행되는지 공지가 되었어야 하는 것이 옳지 않았을까 생각합니다.

SW중심대학협의회
2022.10.20 09:35

안녕하세요, 공동 AI 경진대회 주관기관인 SW중심대학협의회 입니다.

공동 AI 경진대회 <본선>은,
1) 리더보드 결과 순위 + 2) 발표평가 + 3) 코드평가 를 통해 최종 수상자가 결정됨을 대회 시작부터 공지 드린 바 있습니다.
어떤 점을 우선시할지에 대한 평가 비중은, 대회 추진위원회의 회의를 통해 결정된 사항입니다.

본 대회는 전국 44개교의 SW중심대학 학생들만을 대상으로 하여 온라인으로 진행되는 경진대회입니다.
이미지 데이터셋으로 컴퓨팅 연산량이 많은 경진대회의 경우, 아무래도 컴퓨팅 파워가 높은 대학 소속의 팀이 우승활 확률이 높기 때문에
리더보드 순위(성능)만으로 평가를 하지 않고, '성능에 대한 검증/독창성' 등의 내용을 발표평가를 통해 추가로 평가함이
각 출전팀별(대학별) 훈수의 문제를 한 차례 검증할 수 있는 방법이라고 논의되어 위와 같이 평가 절차를 진행하였습니다.

본선 리더보드 순위 발표 후, 모든 참가자에게 동일한 시점에 관련 내용이 공지가 되었고(평가항목별 배점, 일정 등)
공지 이후부터 모든 대상팀에게 동일한 약 10일간의 발표평가 준비 기간을 드렸기에,
문의주신 팀에게만 불공평한 상황으로 진행된 것은 아님을 말씀드립니다.

안내드린 평가 항목별 내용과 관련 질의응답을 잘 준비하시어 진행하셨다면,
평가에도 잘 반영됐으리라 생각됩니다!

제가김민우입니다
2022.10.20 11:25

리더보드 순위가 발표되고 나서 모든팀에게 똑같이 발표평가 준비기간을 10일동안 주신것은 맞지만
독창성등의 내용이 필요하다는것을 모든 실험이 끝나고 나서 공지한것은 잘못된거같습니다..

독창성을 고려되야 한다는 사실을 알았더라면 성능이 같거나 소폭 하락되더라도 독창성 있는 여러가지 방법을 사용했을 겁니다.
대회 평가 기준이 뒤늦게 알려졌기 때문에, 어떤팀이 성능이 낮은데 독창성 점수를 높게받아 순위가 변동된다면 그것은 운적인 요소가 작용한 것이라고 할 수 있지않을까요? 

일론머스크
2022.10.20 11:25

본선은 발표평가, 코드 평가도 들어간다고 공지를 했었죠 하지만, 해당 부분의 비율을 얼마나 줄 것인지 사전 공지가 없었습니다. 일반적인 경우에는 미리 사전에 평가 지표와 배점을 공개하고 대회를 진행합니다. 이점은 명백하게 SW 중심대학협의회의 잘못이고 저랑 어제 통화에서도 이 부분은 인정하셨습니다.

일론머스크
2022.10.20 14:59

컴퓨팅 파워 같은 경우에도 검증하지 못합니다. 아이디어가 좋고 독창적이라고 성능이 잘 나오는 것은 아니며 이 대회의 테스크를 얼마나 잘 이해하고 있고 열심히 했는지에 따라서 제출 횟수, 실험 횟수들도 달라지기 때문에 독창성과 컴퓨팅 파워를 어떻게 검증할 수 있는지 궁금합니다.
제가 알아본 바로는 모든 발표 팀한테 저희한테 질문한 것과 같이 컴퓨팅 파워가 얼마나 있는지 물어본 것은 아니라고 알고 있습니다.

SW중심대학협의회
2022.10.20 11:47

현재까지는 최종 결과가 발표되지 않은 상황이오니,

결과 발표 이후, 참가자께서 염려하시는 평가항목 관련 확인이 필요하실 경우 문의주시면
최종 집계된 결과를 토대로 답변드리겠습니다. (SW중심대학협의회 / 02-2078-2902)

감사합니다.

SW중심대학협의회
2022.10.20 18:51

@일론머스크
: 본선은 발표평가, 코드 평가도 들어간다고 공지를 했었죠 하지만, 해당 부분의 비율을 얼마나 줄 것인지 사전 공지가 없었습니다. 일반적인 경우에는 미리 사전에 평가 지표와 배점을 공개하고 대회를 진행합니다. 이점은 명백하게 SW 중심대학협의회의 잘못이고 저랑 어제 통화에서도 이 부분은 인정하셨습니다.

→ 위 댓글에 대하여 답변을 남깁니다.
학생과 통화 당시 "평가 항목 및 배점에 대한 공개는, 본선대회 결과물 제출 후 모든 참가자에게 동일한 시점 안내되어 발표평가 준비하실 수 있게 하였다."고 
안내드린 사항이지, 사전에 평가 지표와 배점을 공개하지 않은 것이 저희의 잘못이라고 인정한 사실 없음을 말씀드립니다.

현재 결과 발표가 되지 않은 상황이오니, 결과 발표 후 궁금하신 사항 문의바립니다.

일론머스크
2022.10.18 01:06

경진 대회 특성상 다른 팀을 보고 배울 점도 많고 SW 중심대학 '공동' AI경진대회인데 발표 평가가 비공개로 진행되는 특별한 이유가 있는지 궁금합니다. 다른 SW 중심대학들과 솔루션 공유 및 교류를 통해 함께 성장을 해가는 것이 더 의미가 있는 경진 대회가 아닌가라는 생각이 듭니다.

DACON.GM
2022.10.18 17:37

안녕하세요 일론머스크님,
발표평가(정성평가) 방식의 경우에는 주최측에서 결정한 사인이고 주최측에서 진행하기 때문에 내부 사항에 대해 답변드리기 어렵습니다.
다만, 해당 내용을 바탕으로 참가팀들의 솔루션들을 서로 공유할 수 있는 방안에 대해서는 주최측에 의견을 전달하여 논의해보도록 하겠습니다.
감사합니다.

SW중심대학협의회
2022.10.21 18:16

안녕하세요, 공동 AI 경진대회 주관기관인 SW중심대학협의회 입니다.

문의주신 참가자의 의견도 일리가 있으나,
공동 AI 경진대회 <본선> 발표평가는, 저희 운영진측에서 임의로 배정한 순서에 따라 진행되었기에
모든 팀에게 공개되는 평가로 진행할 경우, 임의로 배정된 순서상의 공정성 시비가 있을 여지가 충분하여 
운영진/심사위원회 및 평가대상팀 대표(발표자)만 참석하에 공정하게 평가가 진행되었습니다. 
(공정한 심사를 위해, 심사위원회는 SW중심대학 참여 교수 및 관계자를 제외한  외부 산·학·연 AI 관련 전문가로 구성되었습니다.)

참고를 부탁드립니다!
---------------------------------------------------------------------------------------
 상기 "순서상 공정성"에 대해 부연설명 드립니다.

본 대회는 동일한 주제로 진행되는 경진대회입니다.
공개형 발표평가로 진행하는 경우
먼저 진행되는 팀의 발표 및 질의 응답 내용이 공개가 됩니다. 

하여 발표순서로 인한 유불리가 없도록
발표평가는 비공개로 진행되었습니다

yoyonghyeon
2022.10.20 14:08

삭제된 댓글입니다

일론머스크
2022.10.19 11:08

발표 평가 결과 안내이므로 수상후보자 6팀 + 예비 4팀한테만 메일 주시지 마시고 전체 발표 팀에 대한 발표 평가 결과 순위를 올려주시면 감사드리겠습니다.

DACON.GM
2022.10.19 11:18

안녕하세요 일론머스크님,
안내 방식은 주최측(소프트웨어중심대학협의회)의 결정이며, 해당 의견을 주최측에 전달드리도록 하겠습니다.
감사합니다.

일론머스크
2022.10.19 11:15

주최측 답변이 오는대로 댓글 부탁드립니다.

DACON.GM
2022.10.19 11:23

아래는 해당 의견에 대한 주최측의 답변입니다.
발표평가 순위는 현재 공개하지 않으며, 최종 결과 발표일(22.11.07)에 최종 순위를 발표할 예정입니다.
감사합니다.

일론머스크
2022.10.19 11:38

최종 순위 발표시 평가 점수에 대한 이의제기에 어려움이 있을 것으로 예상 됩니다. 공정한 평가를 위해 투명한 정보공개 부탁드립니다. 1. 상위 6팀과 예비 4팀 공개, 2. 발표평가 점수 순위 공개

DACON.GM
2022.10.19 12:03

평가 결과와 관련하여 주최측에 문의부탁드립니다. (이전에 발표평가 관련 전체적으로 개별 안내드렸던 메일 혹은 번호)
추가로 해당 내용에 대해 주최측에 전달드렸으며, 정보공개 요청 관련하여 주최측에서 문의자분께 안내드릴 예정입니다.
감사합니다.

Cha_seung_il
2022.10.19 11:50

문의자분께만 안내드리지 말고 안내사항이 있다면 전체적으로 안내하는 것도 좋을 것 같습니다!

DACON.GM
2022.10.19 11:51

관련하여 주최측으로부터 전달받은 내용 중,
안내드린 내용 중에서 변동사항이 있다면 전체적으로 안내드리겠습니다.
감사합니다.

SW중심대학협의회
2022.10.20 09:38

안녕하세요, 공동 AI 경진대회 주관기관인 SW중심대학협의회 입니다.

최종 순위는 본선 대회 모든 평가 절차 마무리 후에 공개 예정입니다.
모든 평가 결과 및 데이터가 공정하게 집계 및 정리되고 있으니, 
추후 이의제기 시 최종 집계된 결과를 토대로 답변드릴 수 있도록 하겠습니다. 

감사합니다.

장어
2022.10.20 15:12

안녕하세요. 
올라온 댓글들에 대해서 매우 동감하는 바입니다. 

1) 발표 평가 방식
발표평가 점수가 많은 만큼 모든 점수와 평가항목을 공개하는 것이 맞다고 생각합니다. 또한, 원래 데이콘에서 진행하던 방식과 동일하게 수상자들의 발표자료 역시 공개하는 것이 투명하게 평가하는 방식이라 생각합니다. 

2) 컴퓨팅환경 및 대회 진행 방식
분명 컴퓨팅환경에 대해서도 대회 시작하며 여러 명의 참가자가 문의를 했고, GPU가 부족한 사람의 경우 빌릴 수 있냐고 까지 댓글을 단 것을 기억합니다. 하지만, GPU 제한은 공정하지 않다고 댓글을 달았습니다. 또한, GPU 대여 역시 불가능했습니다. 그런 상황에서 발표 평가가 존재하지만, 평가 비율이 사전 공지되지 않았습니다. 때문에, 이제껏 AI 경진대회에서 그랬던 것처럼 성능 평가가 우선시 된다고 생각한 팀이 많을 것입니다. 그렇다면 경진대회의 목적에 맞게 내가 가진 자원 안에서 가장 높은 성능을 보이는 것이 적절한 선택입니다. 하지만, 대회가 종료된 이후 발표 평가 점수가 70%나 되며, 독창성을 비롯한 여러 평가항목이 존재했습니다.
 
3) 최종 순위 발표
최종 순위가 발표된 이후에 이의제기를 하면 되돌리기 늦었다고 생각합니다. 또한, 현재 발표 평가로 상위 10팀이 정해졌다고 최종 집계된 결과가 이미 나왔다고 봐도 되는 것이 아닌가 생각됩니다. 코드 검증으로는 data leakage를 비롯한 발표에서 진행한 프로세스를 진행했느냐에 대한 검증만이 남아있는 것 아닌가요? 

감사합니다.