1. 선형 독립 (Linear Independence)

정의와 판별법

벡터들의 집합 $v_1, \dots, v_n$ 이 독립(Independent) 이라는 것은, 이들의 선형 결합이 영벡터가 되는 유일한 방법이 모든 계수가 0인 경우뿐이라는 뜻이다.

• 식: $c_1 v_1 + \dots + c_n v_n = 0$ 은 오직 $c_1 = \dots = c_n = 0$ 일 때만 성립한다.

• 만약 0이 아닌 $c$ 가 하나라도 존재해서 $0$ 을 만들 수 있다면, 그 벡터들은 종속(Dependent) 이다.

• 교재의 다른 표현: “하나의 벡터가 다른 벡터들의 조합으로 표현된다면 종속이다.” ($v_1 = c_2 v_2 + \dots$)

기하학적 의미와 예시

1. $R^2$ 평면에서의 예시

   • 독립: 두 벡터가 일직선상에 있지 않을 때. 예: $(1, 0)$ 과 $(0, 1)$.

   • 종속: 두 벡터가 원점을 지나는 같은 직선 위에 있을 때.

     • 예: $v_1 = (1, 1)$, $v_2 = (-1, -1)$.

     • 이때 $1 \cdot v_1 + 1 \cdot v_2 = (0, 0)$ 이므로, 계수가 0이 아닌 해가 존재한다.

   • 종속: 세 개의 벡터가 $R^2$ 에 있을 때. ==평면 위의 세 벡터는 반드시 종속==이다.

2. $R^3$ 공간에서의 예시

   • 독립: 세 벡터가 같은 평면(Plane) 위에 있지 않을 때. 이들은 공간 전체를 생성할 수 있다.

   • 종속: 세 벡터가 하나의 평면 위에 있거나, 혹은 하나의 직선 위에 있을 때.

   • 예: 영벡터가 포함된 경우. $(1, 1, 0), (2, 2, 1), (0, 0, 0)$. 영벡터는 어떤 계수를 곱해도 0이므로 전체 집합을 종속으로 만든다.

$Ax = 0$ 과 독립성

벡터들을 행렬 $A$ 의 열(column)로 배치했을 때, $Ax = 0$ 의 해를 통해 독립성을 판별한다.

• 중요한 규칙: $m \times n$ 행렬에서 $n > m$ (행보다 열이 많음, Short and Wide 행렬)이면, 열벡터들은 반드시 종속이다.

  • 이유: 미지수($n$)가 방정식($m$)보다 많으므로, 소거법 후 반드시 자유 변수(free variable)가 남는다. 자유 변수에 0이 아닌 값을 주면 영벡터가 아닌 해(Non-zero solution)가 생긴다.

• 예제 (Example 1):

  $A = \begin{bmatrix} 1 & 0 & 3 \\ 2 & 1 & 5 \\ 1 & 0 & 3 \end{bmatrix}$

  • 소거 결과: $R = \begin{bmatrix} 1 & 0 & 3 \\ 0 & 1 & -1 \\ 0 & 0 & 0 \end{bmatrix}$

  • 랭크 $r = 2$, 변수 $n = 3$. 자유 변수가 1개 존재한다.

  • 해를 구하면 $x = (-3, 1, 1)$. 즉, $-3(\text{col }1) + 1(\text{col }2) + 1(\text{col }3) = 0$.

  • 결론: 3번째 열은 1번째와 2번째 열의 조합이다. 따라서 이 열들은 종속이다.

---

2. 공간의 생성 (Spanning a Space)

정의

벡터 $v_1, \dots, v_l$ 의 모든 가능한 선형 결합(Linear Combination)을 모은 집합을 그 벡터들이 생성하는 공간(Space spanned by vectors) 이라고 한다.

• 예: $v_1 = \begin{bmatrix} 1 \\ 0 \end{bmatrix}, v_2 = \begin{bmatrix} 0 \\ 1 \end{bmatrix}$ 은 $R^2$ 전체를 생성한다.

• 예: $w_1 = \begin{bmatrix} 1 \\ 1 \end{bmatrix}, w_2 = \begin{bmatrix} -1 \\ -1 \end{bmatrix}$ 은 $R^2$ 내의 직선 하나만 생성한다.

열공간과 행공간

1. 열공간 (Column Space, $C(A)$): 행렬 $A$ 의 열벡터들의 선형 결합으로 생성되는 공간. $R^m$ 의 부분공간이다.

2. 행공간 (Row Space, $C(A^T)$): 행렬 $A$ 의 행벡터들의 선형 결합으로 생성되는 공간. $R^n$ 의 부분공간이다.

---

3. 기저 (Basis)

정의

벡터 공간의 기저(Basis)는 다음 두 조건을 만족하는 벡터들의 집합이다.

1. 독립 (Independent): 필요한 최소한의 벡터만 있어야 한다.

2. 생성 (Span): 공간 전체를 만들 수 있어야 한다 (충분한 벡터가 있어야 한다).

• 직관: 기저는 공간을 설명하기 위해 “너무 많지도 않고, 너무 적지도 않은” 딱 맞는(Just right) 집합이다.

유일성 (Uniqueness)

주어진 벡터 $v$ 를 기저 벡터들의 선형 결합으로 표현하는 방법은 유일하다.

$v = c_1 v_1 + \dots + c_n v_n$ 을 만족하는 계수 $c_i$ 들은 딱 한 쌍만 존재한다.

주요 예시

1. $R^n$ 의 표준 기저 (Standard Basis)

   • $R^2$ 의 기저: $i = \begin{bmatrix} 1 \\ 0 \end{bmatrix}, j = \begin{bmatrix} 0 \\ 1 \end{bmatrix}$. (서로 독립이며 평면 전체를 생성함)

   • $R^n$ 의 경우: 단위 행렬 $I$ 의 열벡터들 $e_1, \dots, e_n$.

2. 가역 행렬 (Invertible Matrix)

   • $n \times n$ 행렬이 가역적(Invertible)이라면, 그 행렬의 열들은 $R^n$ 의 기저가 된다.

   • 이유: $Ax=0$ 은 $x=0$ 만을 해로 가지므로 독립이고, $Ax=b$ 는 항상 해가 있으므로 생성한다.

3. 구체적인 Worked Example (3.4 A)

   • 벡터 $v_1 = (1, 2, 0)$, $v_2 = (2, 3, 0)$.

   • 이들은 독립인가? 그렇다. 서로 상수배가 아니다.

   • 이들은 어떤 공간의 기저인가? $R^3$ 내의 $xy$ 평면 ($z=0$ 인 평면)의 기저이다.

   • 이 공간의 차원은? 벡터가 2개이므로 2차원이다.

---

4. 차원 (Dimension)

정의

공간의 차원(Dimension)은 그 공간의 기저(Basis)에 속한 벡터의 개수이다.

• 기저는 유일하지 않지만, 기저 벡터의 개수는 어떤 기저를 선택하더라도 항상 같다.

다양한 공간의 차원 예시

벡터 공간은 $R^n$ 뿐만 아니라 행렬이나 함수로도 구성될 수 있다.

1. 행렬 공간 (Matrix Space)

   • 모든 $2 \times 2$ 행렬 공간 $M$: 기저 행렬이 4개 필요하므로 차원은 4이다.

     기저: $\begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix}, \begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}, \begin{bmatrix} 0 & 0 \\ 1 & 0 \end{bmatrix}, \begin{bmatrix} 0 & 0 \\ 0 & 1 \end{bmatrix}$

   • 상삼각행렬 (Upper triangular matrices): $\begin{bmatrix} a & b \\ 0 & d \end{bmatrix}$ 꼴. 자유로운 변수가 3개($a,b,d$)이므로 차원은 3이다.

   • 대각행렬 (Diagonal matrices): $\begin{bmatrix} a & 0 \\ 0 & d \end{bmatrix}$ 꼴. 차원은 2이다.

   • 대칭행렬 (Symmetric matrices): $\begin{bmatrix} a & b \\ b & d \end{bmatrix}$ 꼴. $b$ 가 결정되면 반대편 성분도 결정되므로 자유 변수는 $a, b, d$ 3개다. 차원은 3이다.

2. 함수 공간 (Function Space)

   • 미분방정식 $y'' = 0$ 의 해공간:

     • 해는 $y = cx + d$ 형태의 직선이다.

     • 기저 함수는 $x$ 와 $1$. 차원은 2이다.

   • 미분방정식 $y'' = -y$ 의 해공간:

     • 해는 $y = c \cos x + d \sin x$.

     • 기저 함수는 $\cos x$ 와 $\sin x$. 차원은 2이다.

   • 주의: $y'' = 2$ 의 해들의 집합은 부분공간이 아니다. (영벡터, 즉 $y=0$ 함수가 해가 아니기 때문). 이는 선형방정식 $Ax=b$ 처럼 원점을 지나지 않는 평면과 같다.

---

5. 행렬 $A$ 의 4가지 부분공간과 기저 찾기

행렬 $A$ 에 대해 소거법을 수행하여 $R$ (Row reduced echelon form)을 만들었을 때 기저를 찾는 방법.

1. 열공간 $C(A)$ 의 기저

• 방법: $R$ 에서 피벗이 있는 열(Pivot columns)을 찾는다. 그리고 원래 행렬 $A$ 의 해당 열들을 가져온다.

• 주의: $R$ 의 열을 가져오면 안 된다. ($R$ 의 열공간과 $A$ 의 열공간은 다르다.)

• 차원: $\dim(C(A)) = r$ (랭크).

2. 행공간 $C(A^T)$ 의 기저

• 방법: $R$ 에서 0이 아닌 행(Non-zero rows)들을 가져온다.

• 특징: $A$ 의 행공간과 $R$ 의 행공간은 동일하다. (소거법은 행들의 선형 결합이므로 행공간을 바꾸지 않음).

• 차원: $\dim(C(A^T)) = r$ (랭크).

• 결론: 행공간의 차원과 열공간의 차원은 항상 같다.

3. 영공간 $N(A)$ 의 기저

• 방법: $Ax=0$ 의 특수 해(Special solutions)를 찾는다.

• 과정: 자유 변수(Free variables)가 $n-r$ 개 있다. 각 자유 변수에 대해 하나는 1, 나머지는 0을 대입하여 해를 구한다.

• 차원: $\dim(N(A)) = n - r$ (Nullity).

---

정리

1. $Ax=0$ 의 해가 $x=0$ 뿐이면 열들은 독립이다.

2. 벡터들이 공간 전체를 채우면 그 공간을 생성(Span) 한다.

3. 기저(Basis) 는 독립이면서 공간을 생성하는 벡터들이다.

4. 모든 기저는 같은 수의 벡터를 가지며, 이 수를 차원(Dimension) 이라 한다.

5. 행렬의 열공간 차원은 $r$, 영공간 차원은 $n-r$ 이다.

---