3.1. Space of Vector

벡터 공간(Vector Space)

벡터 공간은 덧셈과 스칼라곱에 대해 닫혀 있는 벡터들의 집합이다.

집합 VV가 벡터 공간이 되려면 다음 조건을 만족해야 한다.

  • 덧셈에 닫혀 있어야 한다.
    • u,v∈V  ⟹  u+v∈Vu, v \in V \implies u+v \in V
  • 스칼라곱에 닫혀 있어야 한다.
    • v∈V, c∈R  ⟹  cv∈Vv \in V,\ c \in \mathbb{R} \implies cv \in V
  • 영벡터를 포함해야 한다.
    • 0∈V0 \in V

즉, 벡터 공간 안에 있는 벡터들을 더하거나 스칼라배해도 다시 같은 벡터 공간 안에 있어야 한다.

벡터 공간의 기본 성질

일반적인 nn차원 공간 Rn\mathbb{R}^n은 nn개의 성분을 가진 모든 실수 벡터를 포함한다.

예를 들어 R2\mathbb{R}^2는 모든 2차원 실수 벡터의 집합이고, R3\mathbb{R}^3는 모든 3차원 실수 벡터의 집합이다.

벡터 공간 SS 안에 두 벡터 vv, ww가 있다면, 모든 선형결합도 반드시 SS 안에 있어야 한다.

v,w∈S  ⟹  cv+dw∈Sv,w \in S \implies cv+dw \in S

여기서 cc, dd는 임의의 스칼라이다.

즉, 벡터 공간은 선형결합에 대해 닫혀 있다.

벡터 공간의 원소

벡터 공간의 원소는 꼭 화살표 모양의 벡터일 필요는 없다.

벡터 공간 안의 원소는 다음과 같은 것들도 될 수 있다.

  • 일반적인 열벡터
  • 행렬
  • 함수

예를 들어 어떤 함수들의 집합도 덧셈과 스칼라곱에 대해 닫혀 있다면 벡터 공간이 될 수 있다.

또한 하나의 좌표만을 가지는 공간도 생각할 수 있다. 예를 들어 원점만 포함하는 공간은 다음과 같다.

Z={0}Z=\{0\}

이 공간은 영벡터만 포함하지만, 덧셈과 스칼라곱에 대해 닫혀 있으므로 벡터 공간이다.

부분공간(Subspace)

Rn\mathbb{R}^n의 부분공간은 Rn\mathbb{R}^n 안에 들어 있는 벡터 공간이다.

즉, 부분공간은 더 큰 벡터 공간의 부분집합이면서, 그 자체로도 벡터 공간이어야 한다.

예를 들어 R2\mathbb{R}^2에서 다음 직선을 생각하자.

y=3xy=3x

이 직선은 원점을 지나며, 덧셈과 스칼라곱에 대해 닫혀 있다. 따라서 R2\mathbb{R}^2의 부분공간이다.

반대로 원점을 지나지 않는 직선은 부분공간이 아니다. 영벡터를 포함하지 않기 때문이다.

부분공간과 선형결합

부분공간도 벡터 공간의 하위집합이므로, 벡터 공간의 성립 조건을 그대로 만족해야 한다.

따라서 부분공간 안에 있는 벡터들로 만든 모든 선형결합은 다시 그 부분공간 안에 놓인다.

즉, 부분공간 SS에 대해 다음이 성립한다.

v,w∈S  ⟹  cv+dw∈Sv,w \in S \implies cv+dw \in S

이 성질 때문에 부분공간은 선형결합으로 설명할 수 있다.

열공간(Column Space)

행렬 AA의 열공간은 AA의 모든 열벡터들의 선형결합으로 만들어지는 공간이다.

이를 C(A)C(A)라고 쓴다.

C(A)={A의 열벡터들의 모든 선형결합}C(A) = \{\text{A의 열벡터들의 모든 선형결합}\}

행렬 AA의 열벡터를 a1,a2,…,ana_1,a_2,\ldots,a_n이라고 하면, 열공간은 다음 벡터들의 집합이다.

C(A)={x1a1+x2a2+⋯+xnan}C(A) = \{x_1a_1+x_2a_2+\cdots+x_na_n\}

또한 AxAx는 정확히 AA의 열벡터들의 선형결합이다.

Ax=x1a1+x2a2+⋯+xnanAx=x_1a_1+x_2a_2+\cdots+x_na_n

따라서 열공간은 가능한 모든 AxAx 벡터들의 집합이다.

C(A)={Ax∣x∈Rn}C(A)=\{Ax \mid x \in \mathbb{R}^n\}

열공간은 부분공간이다

m×nm \times n 행렬 AA가 있다고 하자.

이때 AA의 각 열벡터는 Rm\mathbb{R}^m에 속한다.
따라서 AA의 열공간 C(A)C(A)는 Rm\mathbb{R}^m의 부분공간이다.

C(A)⊆RmC(A) \subseteq \mathbb{R}^m

열공간이 부분공간인 이유는 선형결합에 대해 닫혀 있기 때문이다.

C(A)C(A) 안의 벡터들은 모두 AA의 열벡터들의 선형결합이다.
이 벡터들을 다시 더하거나 스칼라배해도 여전히 AA의 열벡터들의 선형결합으로 표현된다.

Ax=bAx=b와 열공간

선형 방정식 Ax=bAx=b를 푸는 것은 bb가 AA의 열벡터들의 선형결합으로 표현될 수 있는지 묻는 것과 같다.

즉,

Ax=bAx=b

가 해를 가지려면 bb가 AA의 열공간 안에 있어야 한다.

b∈C(A)b \in C(A)

따라서 다음이 성립한다.

Ax=b has a solution  ⟺  b∈C(A)Ax=b \text{ has a solution} \iff b \in C(A)

즉, bb가 열공간 C(A)C(A) 안에 존재할 때만 Ax=bAx=b는 해를 가진다.

단위행렬의 열공간

단위행렬 II의 열공간은 Rn\mathbb{R}^n 전체이다.

그 이유는 단위행렬 II의 열벡터들이 표준 기저 벡터이기 때문이다.

예를 들어 R3\mathbb{R}^3에서 단위행렬의 열벡터는 다음과 같다.

e1=[100],e2=[010],e3=[001]e_1= \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix}, \quad e_2= \begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix}, \quad e_3= \begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix}

이 표준 기저 벡터들의 선형결합으로 R3\mathbb{R}^3의 모든 벡터를 만들 수 있다.

x1e1+x2e2+x3e3=[x1x2x3]x_1e_1+x_2e_2+x_3e_3 = \begin{bmatrix} x_1 \\ x_2 \\ x_3 \end{bmatrix}

따라서 단위행렬의 열공간은 전체 공간이다.

C(I)=RnC(I)=\mathbb{R}^n

핵심 정리

  1. 벡터 공간은 덧셈과 스칼라곱에 대해 닫혀 있는 벡터들의 집합이다.

  2. 벡터 공간은 반드시 영벡터를 포함한다.

  3. Rn\mathbb{R}^n은 nn개의 실수 성분을 가진 모든 벡터들의 공간이다.

  4. 부분공간은 더 큰 벡터 공간 안에 들어 있는 벡터 공간이다.

  5. 부분공간 안의 벡터들로 만든 모든 선형결합은 다시 그 부분공간 안에 있다.

  6. 행렬 AA의 열공간 C(A)C(A)는 AA의 열벡터들의 모든 선형결합으로 이루어진 공간이다.

  7. 열공간은 가능한 모든 AxAx들의 집합이다.

C(A)={Ax∣x∈Rn}C(A)=\{Ax \mid x \in \mathbb{R}^n\}
  1. 선형 방정식 Ax=bAx=b는 bb가 열공간 C(A)C(A)에 있을 때만 해를 가진다.
Ax=b has a solution  ⟺  b∈C(A)Ax=b \text{ has a solution} \iff b \in C(A)
  1. 단위행렬 II의 열공간은 전체 공간 Rn\mathbb{R}^n이다.
C(I)=RnC(I)=\mathbb{R}^n