Lecture 9: Independence, basis, and dimension

 

선형 독립 배경지식

 

m by n 행렬 A가 있다고 가정합니다.

 

m < n 일 때 (미지수가 식의 개수보다 더 많음), $A\mathbf{x} = 0$에 대하여 0이 아닌 해가 존재합니다. 

 

이유는 free variables이 존재하기 때문입니다. 

 

 

선형 독립

 

벡터 $\mathbf{x}_{1}$, $\mathbf{x}_{2}$, ..., $\mathbf{x}_{n}$은 모든 계수들이 0인 경우를 제외하고 어떠한 선형 결합으로도 0을 만들 수 없다면 독립입니다.

 

$c_{1}\mathbf{x}_{1} +  c_{2}\mathbf{x}_{2} + ... + c_{n}\mathbf{x}_{3} \neq 0$, except all $c_{i} = 0$

 

선형 결합으로 0을 만든다면 종속입니다. 

 

 

선형 종속 예시

 

그림1

 

$\mathbf{v}_{1}$

 

$\mathbf{v}_{2} = 2\mathbf{v}_{1}$

 

$2\mathbf{v}_{1} - \mathbf{v}_{2}$  

 

$c_{1} = 2$, $c_{2} = 1$)

 

0이 만들어지기 때문에 종속입니다.

 

 

그림2

 

$\mathbf{v}_{2} = \mathbf{0}$

 

$0\mathbf{v}_{1} - 6\mathbf{v}_{2}$

 

하나의 벡터가 0인 경우 역시 종속입니다. 

 

 

선형 독립 예시

 

 

 

그림3

 

위의 두 벡터는 둘의 계수가 모두 0이 아닌 이상 선형 결합을 한다해도 0을 만들 수 없습니다.

 

독립입니다. 추가로 이 두 벡터를 이용하여 2차원 공간상의 어떤 벡터도 만들 수 있습니다. 

 

 

선형 종속 (벡터 추가)

 

그림4

 

$\mathbf{v}_{3}$를 추가했습니다. 

 

종속입니다. 

 

$A = \begin{bmatrix} 
2 &  1& 2.5\\  
1 & 2 & -1 
\end{bmatrix}$

 

3개의 벡터를 행렬 A의 column으로 표시했습니다.

 

m < n인 경우입니다. 위의 배경 지식에서 살펴봤듯이 free variable이 존재합니다.

 

$A = \begin{bmatrix} 
2 &  1& 2.5\\  
1 & 2 & -1 
\end{bmatrix}\begin{bmatrix} 
 c_{1} \\ c_{2} \\ c_{3} 
\end{bmatrix} = \begin{bmatrix} 
0\\ 0 
\end{bmatrix}$

 

$c_{1}\begin{bmatrix} 
2\\1 
\end{bmatrix} + c_{2}\begin{bmatrix} 
1\\2 
\end{bmatrix} + c_{3}\begin{bmatrix} 
2.5\\-1 
\end{bmatrix} = \begin{bmatrix} 
0\\0 
\end{bmatrix}$

 

벡터 $\mathbf{c}$에서 모든 $c_{i}$가 0이 아닌 때를 제외한 값이 Null space에 존재한다면 종속입니다.  

 

 

독립, 종속 정리

 

벡터 $\mathbf{v}_{1}, ..., \mathbf{v}_{n}$이 행렬 A의 columns일 때

 

독립은 N(A) = {$\mathbf{0}$}, rank = n, no free variables입니다.

 

종속은 몇몇 0이 아닌 $\mathbf{c}$에 대해 $A\mathbf{c} = \mathbf{0}$, rank < n, free variable 존재입니다.  

 

 

Span

 

vectors $\mathbf{v}_{1}, ..., \mathbf{v}_{l}$ span a space의 의미는 

 

벡터들의 모든 선형 결합으로 공간을 형성하는 것을 의미합니다. 

 

공간은 모든 공간이 될 수도 있고 부분 공간이 될 수도 있습니다.

 

 

Basis

 

기저는 다음과 같은 2가지 속성을 가진 벡터들입니다.

 

1. 기저벡터들은 독립입니다.

 

2. 기저벡터들은 공간을 span합니다.

 

 

3차원 공간 $R^{3}$ 예시

 

쉽게 떠올릴 수 있는 기저벡터는 아래와 같습니다.  

 

$\begin{bmatrix} 
1\\0  
\\0 
\end{bmatrix}$, $\begin{bmatrix} 
0\\1  
\\0 
\end{bmatrix}$, $\begin{bmatrix} 
0\\0  
\\1 
\end{bmatrix}$ 

 

위 벡터들은 독립이고 공간 전체를 span할 수 있습니다. 

 

위와 같은 기저벡터를 표준기저벡터라고 합니다.

 

위의 기저는 3차원 공간의 유일한 기저가 아닙니다.

 

3차원 공간의 기저는 무수히 많습니다.

 

3차원 공간의 또다른 기저 

 

$\begin{bmatrix} 
1\\1  
\\2 
\end{bmatrix}$, $\begin{bmatrix} 
2\\2  
\\5 
\end{bmatrix} $, $\begin{bmatrix} 
3\\4   
\\8 
\end{bmatrix}$

 

 

$R^{n}$에 n 개의 벡터가 있을 때 기저벡터가 되기 위해서는 n 개의 벡터로 만든 n x n 행렬의 역행렬이 존재해야합니다. 

 

 

Dimension

 

$\begin{bmatrix} 
1\\1  
\\2 
\end{bmatrix}$, $\begin{bmatrix} 
2\\2  
\\5 
\end{bmatrix}$는 $R^{3}$에 대한 기저가 아닙니다. 

 

즉, 3차원 공간의 부분 공간인 2차원 평면에 대한 기저입니다. 

 

공간에 대한 모든 기저는 같은 수의 벡터를 가집니다. 여기서 말하는 벡터의 수가 공간의 차원이 됩니다.

 

 

Column Space의 차원

 

$A = \begin{bmatrix} 
1 &  2&  3& 1\\  
 1&  1&  2& 1\\  
 1&  2&  3& 1 
\end{bmatrix}$

 

column vector들은 column space를 span합니다. 

 

그러나 column vector들은 독립이 아닙니다. 

 

즉, column vector들은 C(A)의 기저가 아닙니다.

 

C(A)의 기저는 pivot column인 col1과 col2입니다. 

 

pivot column의 수는 A의 rank와 같습니다. 

 

2 = rank(A) = # pivot columns = dimension of C(A) 

 

명심해야 할 점은 N차원이 아니라 행렬 A의 column space의 차원이라는 것입니다. 

 

 

Null Space의 차원

 

위의 행렬 A의 예시를 계속 들겠습니다.

 

free variable에 1과 0을 번갈아 넣어주고 special solution을 계산합니다.

 

$\begin{bmatrix} 
-1\\ -1 
\\1  
\\0  
\end{bmatrix}$, $\begin{bmatrix} 
-1\\ 0 
\\0  
\\1  
\end{bmatrix}$

 

이 두 개의 벡터는 Null space의 기저입니다. 

 

N(A)의 차원 dim N(A)는 # free variables = n - r과 같습니다.