Lecture 10: The four fundamental subspaces

 

4개의 주요 부분 공간

 

Column space C(A)

 

Null space N(A)

 

Row space $C(A^{T})$

 

Left null space $N(A^{T})$

 

 

Row Space

 

Row space 

 

= All combs of rows

 

= All combs of columns of $A^{T}$

 

= $C(A^{T})$

 

column 벡터를 다루는 것에 익숙하기 때문에 전치를 한 후 column space를 정의하면 원래 row space가 정의되는 것과 같습니다. 

 

 

Left Null Space

 

Null space of $A^{T}$ 

 

= $N(A^{T})$ 

 

= left null space of A

 

행렬 A의 전치에 대한 Null space를 의미합니다. 

 

 

주요 부분 공간들이 놓여있는 전체공간 (component 개수)

 

행렬 A가 m x n 행렬일 때,

 

Column space in $R^{m}$

 

m은 row의 수입니다.

 

 

Null space in $R^{n}$

 

n은 column의 수입니다.

 

 

Row space in $R^{n}$

 

A의 전치행렬에 대한 column space이므로 $R^{n}$에 존재하게 됩니다. 

 

 

Left null space in $R^{m}$

 

A의 전치행렬에 대한 null space이므로 $R^{m}$에 존재합니다.

 

 

주요 부분공간 표현

 

그림1

 

N(A)의 dimension은 special solution에서 free variable 개수인 n-r이라고 배웠습니다.

 

C(A)의 dimension은 pivot column의 개수인 rank r과 같습니다. 

 

Row space의 dimension은 A의 rank=r과 같습니다. 

 

Left null space의 dimension은 m - r입니다.

 

주목해야할 사실은 

 

Row space와 Null space는 직교하여 n차원 공간을 형성하고

 

Column space와 Left null space는 직교하여 m차원 공간을 형성합니다.

 

또한 row space와 column  space의 차원이 같다는 사실도 알아둡니다. 

 

직교는 다음 강의에서 설명드리겠습니다. 

 

 

주요 부분 공간들의 기저 (basis)와 차원 (dimension)

 

C(A)의 기저는 pivot columns고 차원은 r입니다.

 

N(A)의 기저는 special solutions고 차원은 n-r입니다.

 

 

Row space의 기저를 구해보겠습니다.

 

$A = \begin{bmatrix} 1 & 2 & 3 & 1\\  1 & 1 & 2 & 1\\  1 & 2 & 3 & 1 \end{bmatrix}$

 

-> $\begin{bmatrix} 1 & 2 & 3 & 1\\  0 & 1 & 1 & 0\\  0 & 0 & 0 & 0 \end{bmatrix}$

 

-> $\begin{bmatrix} 1 & 0 & 1 & 1\\  0 & 1 & 1 & 0\\  0 & 0 & 0 & 0 \end{bmatrix}$ = R

 

행렬 A를 소거하여 R을 만들어주면 위와 같습니다. 

 

A의 column space와 R의 column space는 같지 않습니다.

 

$C(A) \neq C(R)$

 

A에는 벡터 $\begin{bmatrix} 1\\1  \\1 \end{bmatrix}$이 있지만 R은 그렇지 않기 때문입니다. 

 

A와 R은 column space는 다르지만 row space는 같습니다. 

 

row space가 같은 이유는 소거를 할 때 한 연산은 row reduction 즉, row끼리 선형 결합 연산을 한 것이라 변하지 않은 것입니다. 

 

row space의 기저는 R의 처음 r개의 row vector입니다. 

 

R에서 A를 만드는 연산을 해보면 R의 기저 벡터의 선형 결합으로 A의 row space를 만들 수 있습니다.

 

 

Left null space의 기저를 구해보겠습니다.

 

$A^{T}\mathbf{y} = \mathbf{0}$

 

$\mathbf{y}A = \mathbf{0}^{T}$

 

$rref [A_{m x n} ~I_{m x m}]$

 

-> $[R_{m x n} E_{m x m}]$

 

$E[A_{m x n} I_{m x m}]$

 

-> $[R_{m x n} E_{m x m}]$

 

EA = R

 

EI = E

 

E를 계산하면

 

$\begin{bmatrix} 1 & 0 & 0\\  0 & 1 & 0\\  0 &0  & 1 \end{bmatrix}$

 

-> $\begin{bmatrix} -1 & 2 & 0\\  1 & -1 & 0\\  -1 &0  & 1 \end{bmatrix}$

 

EA =

 

$\begin{bmatrix} -1 & 2 & 0\\  1 & -1 & 0\\  -1 &0  & 1 \end{bmatrix}\begin{bmatrix} 1 & 2 & 3 & 1\\  1 & 1 & 2 & 1\\  1 & 2 & 3 & 1 \end{bmatrix}$ 

 

= $\begin{bmatrix} 1 & 0 & 1 & 1\\  0 & 1 & 1 & 0\\  0 & 0 & 0 & 0 \end{bmatrix}$ = R

 

Left null space는 A의 row 벡터의 선형 결합으로 영벡터를 만드는 것입니다.

 

R행렬의 row3가 영벡터이므로 위의 설명에 맞아떨어지고

 

대응되는 행렬 E의 row3가 행렬 A의 left null space가 됩니다.