[면접 꿀팁] Eigenvalue와 Eigenvector 설명

안녕하세요, 우리를 힘들게 하는 선형대수에는 eigenvalue, eigenvector라는 개념이 밥 먹듯 등장합니다. 다른 분야는 잘 모르겠지만 컴퓨터 비전을 공부한다면 누구나 맞닥뜨릴 Linear Transformation$선형 변환$, Eigenvalue$고윳값$, Eigenvector$고유 벡터$에 대해 간단히 리뷰하면 좋을 것 같습니다.

Linear Transformation $선형 변환$

Linear Transformation이란 무엇일까요? 거두절미하고 다음의 두 가지 성질을 만족하면 됩니다.

• 가산성$additivity$: 두 벡터를 선형 변환한 결과를 더한 값은, 두 벡터를 각각 선형 변환한 결과를 더한 것과 같습니다.
  $$T(u+v)=T(u)+T(v)$$
• 동차성$homogeneity$: 상수$constant, scalar$배한 벡터를 선형 변환한 결과는, 해당 벡터를 선형 변환한 결과에 스칼라를 곱한 것과 같습니다.
  $$T(cu)=cT(u)$$

여기서, $T$는 선형 변환을 의미하고, $u$와 $v$는 벡터, $c$는 스칼라입니다.

예를 들어, 다음과 같은 선형변환을 고려해 봅시다.

$$T(x,y)=(3x-2y,2x+y)$$

이 경우, 위의 두 가지 성질을 만족합니다. 예를 들어, $1, 2$와 $3, 4$를 각각 선형 변환한 결과를 더하면 다음과 같이 계산됩니다.

$$T(1,2)+T(3,4)=(1,8)+(7,14)=(8,22)$$

반면, $1, 2$와 $3, 4$를 더한 후에 선형 변환한 결과는 다음과 같습니다.

$$T((1,2)+(3,4))=T(4,6)=(10,14)$$

이 경우, 가산성 성질이 만족됩니다. 마찬가지로, $1, 2$를 2배 한 벡터와 $3, 4$를 2배 한 벡터를 각각 선형 변환한 결과를 비교하면, 동차성 성질이 만족됨을 확인할 수 있습니다.

---

Eigenvector, Eigenvalue $고유 벡터, 고윳값$

Linear Transformation에 대해 간단하게 이해했으니 이제 eigenvector, eigenvalue를 알아보면,

어떤 벡터를 선형 변환 했을 때, 크기$길이$만 다르고 방향은 같은 벡터는 무엇인가요?

 

여기서 물어보는 벡터가 eigenvector이고, 그래서 선형 변환을 거쳐 크기가 얼마냐 변했냐고 물어보면 eigenvalue$배$만큼 변했다고 하면 됩니다.

$$\mathbf{A}\mathbf{x}=\lambda \mathbf{x}$$

여기서

• $\mathbf{A}$: 선형 변환 행렬
• $\mathbf{x}$: 고유 벡터 $Eigenvector$
• $\lambda$: 고윳값 $Eigenvalue$

입니다. 계산 예제는 직접 써봤습니다.

어떤 선형 변환에 대한 Eigenvector, Eigenvalue 구하는 법

명심할 점 몇가지는

1. Eigenvector, eigenvalue는 어떤 선형 변환 $\mathbf{A}$에 대한 정보입니다. 선형 변환이 바뀌면 당연히 새로 구해야 합니다.
2. Eigenvector는 0벡터가 아닌 벡터입니다.
3. 하나의 Eigenvector에 대해 여러 개의 Eigenvalue가 존재할 수 있습니다.
4. Eigenvalue와 Eigenvector는 쌍으로 존재합니다.
5. Eigenvalue와 Eigenvector는 스칼라배의 관점에서만 의미가 있습니다. 즉, Eigenvector의 방향은 유지되고 크기만 변화합니다.