Lecture 6: Column Space and Null Space

 

벡터 공간 

 

벡터 공간이 성립하기 위해서는 

 

1. 벡터 공간 내 임의의 벡터 $\mathbf{v}$와 $\mathbf{w}$를 더한 $\mathbf{v + w}$도 반드시 같은 벡터 공간 안에 있어야 합니다.

 

2. 벡터 공간 내 임의의 벡터 $\mathbf{v}$에 임의의 상수 c를 곱해도 반드시 같은 벡터 공간 안에 있어야 합니다.

 

3. 선형 결합 $\mathbf{cv + dw}$가 반드시 같은 벡터 공간 안에 있어야 합니다.

 

 

부분 공간

 

$R^{3}$ 3차원 공간의 경우, 부분 공간으로 임의의 평면 P나 임의의 직선 L이 될 수 있습니다. 

 

평면 P와 직선 L 부분 공간 2개가 있다고 생각합니다.

 

$P \cup L$ = all vectors in P or L or both 

 

P와 L 각각 혹은 둘 다가 하나의 부분 공간이 될 수 있을까요? (합집합)

 

P와 L의 합집합은 부분 공간이 아닙니다. 

 

이유는 선형 결합이 성립되지 않기 때문입니다. 

 

선형 결합 후에도 같은 공간에 존재해야 하는데 P 안의 벡터와 L 안의 벡터를 더하면 그렇지 못합니다. 

 

 

$P \cap  L$ = all vectors in both P and L 

 

P와 L의 교집합은 부분 공간일까요?

 

부분 공간입니다. P와 L이 겹쳐지는 공간은 부분 공간이 될 수 밖에 없습니다. (각각이 모두 부분 공간임을 기억)

 

 

열 공간 (Column Space)

 

$A = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}$

 

각 열은 4개의 components로 이루어져 있고 $R^{4}$의 부분 공간입니다. 

 

열 공간이 부분 공간임을 알 수 있는 방법은 선형 결합을 이용하면 됩니다. 

 

A의 3개의 열을 이용해 모든 선형 결합을 찾으면 부분 공간을 알 수 있습니다. 

 

Column space of A is subspace of $R^{4}$

 

subspace = all linear combs of columns

 

위의 열 공간으로 $R^{4}$ 공간을 다 채울 수 있을까요? No

 

$A\mathbf{x} = \mathbf{b}$는 모든 $\mathbf{b}$에 대해 해를 가지고 있는지 생각합니다.

 

$A\mathbf{x} = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}\begin{bmatrix}
x1\\x2 
\\x3
\end{bmatrix} = \begin{bmatrix}
b_{1}\\b_{2} 
\\b_{3} 
\\b_{4} 
\end{bmatrix}$

 

4개의 방정식과 3개의 미지수를 가지고 있습니다. 

 

해를 구할 수 있는 몇 가지 예시를 들어보겠습니다. 

 

$A\mathbf{x} = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}\begin{bmatrix}
0\\0 
\\0
\end{bmatrix} = \begin{bmatrix}
0\\0 
\\0 
\\0 
\end{bmatrix}$

 

$A\mathbf{x} = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}\begin{bmatrix}
1\\0 
\\0
\end{bmatrix} = \begin{bmatrix}
1\\2 
\\3
\\4 
\end{bmatrix}$

 

$A\mathbf{x} = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}\begin{bmatrix}
0\\0 
\\1
\end{bmatrix} = \begin{bmatrix}
2\\3 
\\4
\\5 
\end{bmatrix}$

 

위의 예시를 토대로 

 

$\mathbf{b}$는 행렬 A의 열 공간에 존재해야만 해를 구할 수 있습니다. 

 

$\mathbf{b}$가 행렬 A의 열 공간에 존재하지 않으면 해도 존재하지 않습니다. 

 

 

행렬 A의 열 공간의 크기를 알고 싶습니다.

 

A의 1, 2열은 서로 상호 독립적입니다. (Independent) 그러나 3열은 1, 2열의 선형 결합으로 정의할 수 있기 때문에 종속적 (Dependent)입니다. 

 

col1과 col2를 pivot column라고 합니다. 

 

pivot column의 조합을 통해 하나의 평면(plane)을 정의할 수 있습니다. 

 

따라서 A의 열 공간은 4차원 공간에서 2차원 공간인 평면을 정의합니다. 

 

 

영 공간 (Null Space)

 

영 공간의 정의는 다음과 같습니다.

 

Null Space of A = all solutions $\mathbf{x} = \begin{bmatrix}
x_{1}\\x_{2} 
\\x_{3}
\end{bmatrix}$ to $A\mathbf{x} = \mathbf{0}$ 

 

즉, $\mathbf{b}$가 영벡터일 때 식을 만족시키는 모든 가능한 해 $\mathbf{x}$의 집합입니다. 

 

$A\mathbf{x} = \begin{bmatrix}
1 & 1 & 2\\ 
2 & 1 & 3\\ 
3 & 1 & 4\\ 
4 & 1 & 5
\end{bmatrix}\begin{bmatrix}
x_{1}\\x_{2} 
\\x_{3}
\end{bmatrix} = \begin{bmatrix}
0\\0 
\\0
\\0 
\end{bmatrix}$

 

위의 식에서 바로 떠올릴 수 있는 해는 $\mathbf{x} = \begin{bmatrix}
0\\0 
\\0
\end{bmatrix}$, 영벡터입니다. 

 

영벡터를 제외한 해를 구해보면 

 

$\mathbf{x} = \begin{bmatrix}
1\\1 
\\-1
\end{bmatrix}$이 있습니다.

 

이 해에 임의의 scalar를 곱해주면 모두 해가 될 수 있음을 알 수 있습니다. 

 

따라서 A의 영 공간은 $\mathbf{x} = c\begin{bmatrix}
1\\1 
\\-1
\end{bmatrix}$입니다.

 

3차원 공간에서 A의 영 공간은 직선의 형태로 표현됩니다. 

 

 

영 공간이 부분 공간인지 확인하기

 

$A\mathbf{v} = 0$

$A\mathbf{w} = 0$ 

 

$A(\mathbf{v+w}) = 0$

 

마지막은 분배 법칙에 의해 $A\mathbf{v} + A\mathbf{w} = 0$라고 쓸 수 있습니다. 

 

$A(c\mathbf{x}) = 0$에서 상수 c는 앞으로 뺄 수 있므로 성립합니다.