안녕하세요 🙋‍♂️🙋‍♀️

지난 시간에는 PCA의 상위 개념인 차원 축소와 feature extraction에 대해 알아보았습니다. 이번 시간에는 PCA의 개념에 대해 알아 보도록 하겠습니다.✨

차원 축소 기법 중 가장 대표적인 기법인 PCA는 여러 변수 간에 존재하는 상관관계를 이용해 이를 대표하는 주성분을 추출해 차원을 축소하는 기법입니다.

PCA는 기존 데이터의 정보 유실 최소화를 위해 가장 높은 분산을 가지는 데이터 축을 찾아 해당 축으로 차원을 축소합니다.

키와 몸무게 2개의 피처를 가지고 있는 데이터셋이 다음과 같이 구성 되어 있다고 가정 해보겠습니다.

이 2개의 피처를 한개의 주성분을 가진 데이터 셋으로 차원축소하는 과정은 다음과 같습니다.

PCA는 제일 먼저 가장 큰 데이터 변동성을 기반으로 첫 번째 벡터 축을 생성하고,

두 번째 축은 이 벡터 축에 직각이 되는 벡터(직교 벡터)를 축으로 합니다.

세 번째 축은 다시 두 번째 축과 직각이 되는 벡터를 설정하는 방식으로 축을 생성합니다.

이렇게 생성된 벡터 축에 원본 데이터를 투영하면 벡터 축의 개수 만큼의 차원으로 원본 데이터가 차원 축소 됩니다.

요약하면 PCA는 많은 속성으로 구성된 원본 데이터를 그 핵심을 구성하는 데이터로 압축한 것 입니다.

다음 시간에는 iris 데이터 셋을 이용해 PCA를 실습 해보도록 하겠습니다.🧃