평소 딥러닝 모델을 사용할 때, 이 모델이 데이터의 어느 부분을 통해 다음과 같은 결과를 도출했는 지 궁금하지 않으셨나요?   
 
기본적으로 딥러닝 모델은 내부 구조를 파악할 수 없는 블랙 박스이지만, 많은 사람들이 모델의 내부 구조를 파악하기 위해 노력해왔습니다. 
이처럼 모델의 동작과 최종결과를 올바르게 해석할 수 있고, 결과물이 생성되는 과정을 설명 가능하도록 해주는 기술을 XAI라고 하는데요. 

오늘은 XAI 중 CNN의 구조를 파악할 수 있는 Class Activation Map에 대해 알아보도록 하겠습니다.