게시글이 없습니다
로그인이 필요합니다
0 / 1000
DACONIO
2021.12.22 14:19

안녕하세요 작성자님.

추출요약의 경우 모델이 추출한 요약문과 사람이 생성한 생성요약문과의 ROUGE 스코어를 계산합니다. 
현재 대표적인 영어 벤치마크 데이터셋인 CNN/DM 경우에도 위와 같은 방식으로 스코어를 계산하고 있습니다. 
만약 정답 추출요약문과의 스코어를 계산한다면 단순히 classification에 해당하는 스코어(accuracy) 와 같은 다른 지표를 사용하는 것이 더 낫다고 생각합니다. 
해당 태스크는 요약에 관한 것이기 때문에 사람이 생성한 요약문과 비교하는것이 더 타당하다고 판단됩니다.

감사합니다.
데이콘 드림.

Ynot
2020.11.23 17:51

넵 감사합니다. 한가지 더 궁금한점이 있는데요.
이렇게 되면 추출요약과 생성요약 별개의 대회에 추출요약 결과만 내면 점수가 동일하게 나올텐데 이런식으로 제출해도 되는 것인가요? 아니면 평가할 때 생성요약인지 추출요약인지 구분하는 프로세스가 있을까요?

DACONIO
2020.11.23 19:12

submission 제출단계에서 자동확인은 안되나 최종 평가 단계에서 추출요약 결과를 생성요약 제출했을 경우 수상에서 제외되며 반대의 경우도 제외됩니다.

Ynot
2020.11.24 14:24

넵 이해했습니다. 감사합니다.

이전 글
이전 글이 존재하지 않습니다.
현재 글
[Dacon 답변 요청] 평가방식에 대한 문의
대회 - 한국어 문서 추출요약 AI 경진대회
좋아요 6
조회 2,549
댓글 4
3년 전
다음 글
다음 글이 존재하지 않습니다.