AI판단 해석하기: 하

필수 선행 학습 📖

AI판단 해석하기: 상

개요

머신러닝은 데이터에서 학습하여 예측 또는 결정을 내리는 인공지능의 한 분야로, 다양한 산업에서 널리 사용되고 있습니다.
XAI(Explainable AI)는 이러한 머신러닝 모델의 결정 과정을 설명 가능하게 만들어, 결과에 대한 투명성과 신뢰성을 높이는 기술입니다.
이번 교재에서는 반사실적 설명(CounterFactual Explanation) 및 앵커 설명(Anchor Explanation) 그리고 SHAP 에 대해서 배웁니다.
연습용 데이터로 사용 방법을 알아보고 , 이후 실제 데이터를 활용하여 코드 실행 결과에 대해서 어떻게 해석을 수행할 수 있는지를 이해할 수 있습니다.
이 과정을 통해 모델의 예측을 해석하는 과정을 수행하여, 최종적으로는 모델의 예측 결과를 설명하는 방법에 대해 다룹니다.

학습 목표

• 스테이지 1 : 반사실적 설명의 개념을 이해하고, 예측 결과를 바꾸기 위한 조건을 식별하는 방법을 알아봅니다. 또한, 생성된 반사실적 설명을 통해 예측 결과를 해석하는 방법도 배웁니다.
• 스테이지 2 : 앵커 설명의 개념을 이해하고, 특정 예측에 강하게 영향을 미치는 규칙을 식별하는 방법을 배웁니다. 또한, 해당 설명이 얼마나 일반화될 수 있는지를 평가합니다.
• 스테이지 3 : SHAP 값 개념 및 계산 방법을 이해합니다. SHAP 값을 바탕으로 모델의 예측을 해석하는 방법을 배웁니다.
• 스테이지 4 : 반사실적 설명, SHAP 을 통해 실제 데이터에 대한 모델의 예측 결과를 해석합니다. 이를 바탕으로 인사이트를 도출합니다.