안녕하세요? 모델 성능을 개선하고자 coordinate regression 대신 heatmap regression으로 모델링을 하고 있었습니다.

Fully connected network 모델 및 FC-densenet 모델을 훈련시켜 결과를 확인해 봤는데, 결과가 너무 형편이 없었습니다. 어디가 문제인가 고민해 본 결과, output layer와 손실함수가 마음에 걸렸는데요,

heatmap regression의 경우, output layer의 shape는 (image_height, image_width, number of keypoints) 가 되고, 저는 output layer에 relu activation을 취한 뒤 손실함수로  mse를 사용했습니다. 혹시 다른 activation function과 loss function을 사용해야 하나요?

답변 부탁드립니다 !