Lecture 7: Solving Ax = 0: pivot variables, special solutions

`

$A\mathbf{x}=0$의 해, Null space 

 

$A\mathbf{x}=0$의 해를 구해보겠습니다.

 

Null space를 구하는 것과 동일합니다. 

 

소거를 해줄 것인데, 중요한 점은 소거를 해도 Null space가 변하지 않는다는 것입니다. 

 

$A = \begin{bmatrix}
1 & 2 & 2 & 2\\ 
2 & 4 & 6 & 8\\ 
3 & 6 & 8 & 10
\end{bmatrix}$

 

-> $\begin{bmatrix}
1 & 2 & 2 & 2\\ 
0 & 0 & 2 & 4\\ 
0 & 0 & 2 & 4
\end{bmatrix}$

 

-> $\begin{bmatrix} 
1 & 2 & 2 & 2\\  
0 & 0 & 2 & 4\\  
0 & 0 & 0 & 0 
\end{bmatrix}$

 

소거를 해주었습니다. 

 

1st pivot은 1입니다. 

 

2nd pivot은 col 3에 있습니다. 

 

col 2에 없는 이유는 A의 col 2가 col 1에 종속적이기 때문입니다. 즉, 같은 선상에 위치합니다. 

 

소거가 끝난 행렬은 U인데 삼각형 모양이 아니라 계단 형태입니다. 

 

이러한 형태를 echelon form라고 합니다. 

 

행렬 A는 2 pivot columns, 2 free columns로 구성되어 있습니다. 

 

 

Rank of A 

 

A에 2 pivot columns가 있습니다.

 

rank of A = # of pivot echelon = 2 # of pivot variable 

 

즉, Rank는 소거 후의 pivot 개수와 일치하고 선형 독립인 row 또는 column vector의 수를 나타냅니다. 

 

 

$A\mathbf{x} = 0$과 $U\mathbf{x} = 0$의 Null Space

 

$A\mathbf{x}=0$과 $U\mathbf{x}=0$의 해는 같은 Null space입니다.

 

pivot variable과 free variable을 이용해서 구할 수 있습니다. (pivot columns, free columns)

 

free variable은 임의의 값을 자유롭게 설정할 수 있습니다.

 

$x_{1} + 2x_{2} + 2x_{3} + 2x_{4} = 0$ 
                           $2x_{3} + 4x_{4} = 0$

 

$x_{2}$와 $x_{4}$가 free variable입니다.

 

어떤 값을 넣어도 상관 없으므로 $x_{2} = 1$, $x_{4} = 0$을 넣겠습니다.

 

후방대입법을 통해 값을 찾으면 

 

$x_{3} =0$이고 $x_{1} = -2$가 됩니다. 

 

$\mathbf{x} = \begin{bmatrix}
-2\\ 1
\\ 0
\\ 0
\end{bmatrix}$

 

Null space의 해는 한 개가 아닙니다. 나머지 해들을 찾기 위해 임의의 상수 c를 곱해줍니다.

 

$\mathbf{x} = c\begin{bmatrix}
-2\\ 1
\\ 0
\\ 0
\end{bmatrix}$

 

궁금한게 생겼습니다.

 

위의 $\mathbf{x}$로 Null space를 채울 수 있을까요?  No

 

free variable을 2개 였다는 것을 기억합니다.

 

이번에는 $x_{2} = 0$, $x_{4} = 1$을 대입하여 구해보겠습니다.

 

후방대입법을 적용하였습니다.

 

$\mathbf{x} = \begin{bmatrix}
2\\ 0
\\ -2
\\ 1
\end{bmatrix}$

 

임의의 상수 d를 곱해주었습니다.

 

$\mathbf{x} = d\begin{bmatrix}
2\\ 0
\\ -2
\\ 1
\end{bmatrix}$

 

이 두 개의 해의 선형 결합으로 Null space를 정의할 수 있습니다. 

 

$\mathbf{x} = c\begin{bmatrix} 
-2\\ 1 
\\ 0 
\\ 0 
\end{bmatrix} + d\begin{bmatrix}
2\\ 0
\\ -2
\\ 1
\end{bmatrix}$

 

 

Special Solution

 

special solution : free variables의 순서대로 1을 넣고 (나머지 free variables는 0) 설정한 식으로 계산하는 방법을 말합니다. 

 

# of free variables : n - r 

 

free variables의 개수는 전체 columns의 수에서 rank의 수를 뺀 것과 같습니다. 

 

 

기약행 사다리꼴 행렬 (Reduced Row Echelon Form)

 

$U = \begin{bmatrix}  
1 & 2 & 2 & 2\\   
0 & 0 & 2 & 4\\   
0 & 0 & 0 & 0  
\end{bmatrix}$ 

 

U행렬을 더 간소화시킨 기약행 사다리꼴 행렬을 만들어보겠습니다. 

 

기약행 사다리꼴 행렬은 pivot 원소들의 위아래를 모두 0으로 만듭니다. 

 

$\begin{bmatrix}  
1 & 2 & 2 & 2\\   
0 & 0 & 2 & 4\\   
0 & 0 & 0 & 0  
\end{bmatrix}$

 

-> $\begin{bmatrix}  
1 & 2 & 0 & -2\\   
0 & 0 & 2 & 4\\   
0 & 0 & 0 & 0  
\end{bmatrix}$ 

 

또한 모든 pivot을 1로 만들어줍니다.

 

$\begin{bmatrix}  
1 & 2 & 0 & -2\\   
0 & 0 & 1 & 2\\   
0 & 0 & 0 & 0  
\end{bmatrix} = R = rref(A)$

 

마지막 행렬이 기약행 사다리꼴 행렬 R입니다. 

 

 

$R\mathbf{x} = 0$

 

\begin{bmatrix}  
1 & 2 & 0 & -2\\   
0 & 0 & 1 & 2\\   
0 & 0 & 0 & 0  
\end{bmatrix} 

 

기약행 사다리꼴 행렬에서 

 

pivot col과 pivot row가 겹쳐지는 부분을 보면 2 x 2 크기의 단위 행렬입니다. 

 

앞에서 $A\mathbf{x} = 0$과 $U\mathbf{x}$의 해는 동일한 Null space에 있었습니다.

 

$R\mathbf{x} = 0$의 해도 마찬가지입니다.  

 

 

$A^{T}$ to U

 

행렬 $A$를 전치시켜서 위의 과정을 진행하겠습니다.

 

$A = \begin{bmatrix}
1 & 2 & 3\\ 
2 & 4 & 6\\ 
2 & 6 & 8\\ 
2 & 8 & 10
\end{bmatrix}$

 

-> $\begin{bmatrix}
1 & 2 & 3\\ 
0 & 0 & 0\\ 
0 & 2 & 2\\ 
0 & 4 & 4
\end{bmatrix}$

 

-> $\begin{bmatrix}
1 & 2 & 3\\ 
0 & 2 & 2\\ 
0 & 0 & 0\\ 
0 & 0 & 0
\end{bmatrix} = U$

 

rank of A = 2 

 

free column = 3 - 2 = 1

 

$x_{1} + 2x_{2} + 3x_{3} = 0$

 

             $2x_{2} + 2x_{3} = 0$

 

free variable은 $x_{3}$입니다. 

 

$x_{3} = 1$로 두고 후방대입법을 적용합니다.

 

$\mathbf{x} = \begin{bmatrix}
-1\\-1 
\\1 
\end{bmatrix}$

 

전체 Null space는 임의의 상수 c를 곱한

 

$\mathbf{x} = c\begin{bmatrix}
-1\\-1 
\\1 
\end{bmatrix}$입니다.