연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations

내적(Dot Product)

내적은 두 벡터의 대응되는 성분끼리 곱한 뒤 모두 더한 값이다.

v⋅w=v1w1+v2w2v \cdot w = v_1w_1 + v_2w_2

일반적인 nn차원 벡터에서는 다음과 같이 쓸 수 있다.

v⋅w=∑i=1nviwiv \cdot w = \sum_{i=1}^{n} v_i w_i

예를 들어 v=(1,2)v = (1, 2), w=(3,4)w = (3, 4) 라면 내적은 다음과 같다.

v⋅w=1⋅3+2⋅4=11v \cdot w = 1 \cdot 3 + 2 \cdot 4 = 11

내적은 단순한 계산 공식이 아니라, 두 벡터가 서로 얼마나 같은 방향을 향하는지를 측정하는 값이다.

내적의 기하학적 정의

두 벡터 vv, ww 사이의 각을 θ\theta라고 하면 내적은 다음과 같이 정의된다.

v⋅w=∥v∥∥w∥cos⁡θv \cdot w = \|v\| \|w\| \cos \theta

여기서 ∥v∥\|v\|는 벡터 vv의 길이이고, ∥w∥\|w\|는 벡터 ww의 길이이다.

이 식에서 중요한 점은 내적이 각도와 직접 연결되어 있다는 것이다.

  • 두 벡터가 같은 방향이면 θ=0∘\theta = 0^\circ 이고, cos⁡θ=1\cos \theta = 1 이다.
  • 두 벡터가 수직이면 θ=90∘\theta = 90^\circ 이고, cos⁡θ=0\cos \theta = 0 이다.
  • 두 벡터가 반대 방향이면 θ=180∘\theta = 180^\circ 이고, cos⁡θ=−1\cos \theta = -1 이다.

따라서 v⋅w=0v \cdot w = 0 이면 두 벡터는 서로 수직이다.

예를 들어 표준 단위벡터 ii, jj는 다음과 같다.

i=[10],j=[01]i = \begin{bmatrix} 1 \\ 0 \end{bmatrix}, \quad j = \begin{bmatrix} 0 \\ 1 \end{bmatrix}

두 벡터의 내적은 다음과 같다.

i⋅j=1⋅0+0⋅1=0i \cdot j = 1 \cdot 0 + 0 \cdot 1 = 0

따라서 ii와 jj는 서로 수직이다.

길이(length, norm, 노름)

벡터의 길이는 자기 자신과의 내적을 이용해 구할 수 있다.

∥v∥=v⋅v\|v\| = \sqrt{v \cdot v}

벡터 v=(v1,v2,…,vn)v = (v_1, v_2, \ldots, v_n)의 길이는 다음과 같다.

∥v∥=v12+v22+⋯+vn2\|v\| = \sqrt{v_1^2 + v_2^2 + \cdots + v_n^2}

즉, 벡터의 길이는 각 성분의 제곱합에 루트를 씌운 값이다.

예를 들어 v=(1,2,0)v = (1, 2, 0) 이라면 길이는 다음과 같다.

∥v∥=12+22+02=5\|v\| = \sqrt{1^2 + 2^2 + 0^2} = \sqrt{5}

w=(0,0,3)w = (0, 0, 3) 이라면 길이는 다음과 같다.

∥w∥=02+02+32=3\|w\| = \sqrt{0^2 + 0^2 + 3^2} = 3

r=(1,2,3)r = (1, 2, 3) 이라면 길이는 다음과 같다.

∥r∥=12+22+32=14\|r\| = \sqrt{1^2 + 2^2 + 3^2} = \sqrt{14}

주의할 점은 길이를 구할 때 각 축 방향의 길이를 단순히 더하는 것이 아니라, 각 성분의 제곱합에 루트를 씌운다는 것이다.

따라서 다음처럼 계산하면 안 된다.

5+9≠14\sqrt{5} + \sqrt{9} \neq \sqrt{14}

정확한 계산은 다음과 같다.

12+22+32=14\sqrt{1^2 + 2^2 + 3^2} = \sqrt{14}

단위벡터(Unit Vector)

단위벡터는 길이가 1인 벡터이다.

∥u∥=1\|u\| = 1

단위벡터 uu는 다음 조건을 만족한다.

u⋅u=1u \cdot u = 1

대표적인 2차원 표준 단위벡터는 다음과 같다.

i=[10],j=[01]i = \begin{bmatrix} 1 \\ 0 \end{bmatrix}, \quad j = \begin{bmatrix} 0 \\ 1 \end{bmatrix}

각도 θ\theta 방향을 향하는 2차원 단위벡터는 다음과 같이 표현할 수 있다.

u=[cos⁡θsin⁡θ]u = \begin{bmatrix} \cos \theta \\ \sin \theta \end{bmatrix}

이 벡터가 단위벡터인 이유는 다음과 같다.

∥u∥=cos⁡2θ+sin⁡2θ\|u\| = \sqrt{\cos^2 \theta + \sin^2 \theta}

삼각함수의 기본 항등식에 의해 다음이 성립한다.

cos⁡2θ+sin⁡2θ=1\cos^2 \theta + \sin^2 \theta = 1

따라서 ∥u∥=1\|u\| = 1 이다.

벡터를 단위벡터로 만드는 방법

어떤 벡터 vv와 같은 방향을 향하는 단위벡터는 vv를 자신의 길이로 나누면 된다.

u=v∥v∥u = \frac{v}{\|v\|}

단, vv는 영벡터가 아니어야 한다.

예를 들어 v=(3,4)v = (3, 4) 라면 길이는 다음과 같다.

∥v∥=32+42=5\|v\| = \sqrt{3^2 + 4^2} = 5

따라서 vv와 같은 방향을 향하는 단위벡터는 다음과 같다.

u=v∥v∥=(35,45)u = \frac{v}{\|v\|} = \left(\frac{3}{5}, \frac{4}{5}\right)

이 벡터의 길이를 확인하면 다음과 같다.

∥u∥=(35)2+(45)2=925+1625=1\|u\| = \sqrt{\left(\frac{3}{5}\right)^2 + \left(\frac{4}{5}\right)^2} = \sqrt{\frac{9}{25} + \frac{16}{25}} = 1

수직인 벡터와 피타고라스 정리

두 벡터 vv, ww가 서로 수직이면 내적은 0이다.

v⋅w=0v \cdot w = 0

이때 다음 공식이 성립한다.

∥v∥2+∥w∥2=∥v−w∥2\|v\|^2 + \|w\|^2 = \|v - w\|^2

왜냐하면 다음과 같이 전개할 수 있기 때문이다.

∥v−w∥2=(v−w)⋅(v−w)\|v - w\|^2 = (v - w) \cdot (v - w)

내적의 분배법칙을 적용하면 다음과 같다.

(v−w)⋅(v−w)=v⋅v−2v⋅w+w⋅w(v - w) \cdot (v - w) = v \cdot v - 2v \cdot w + w \cdot w

즉,

∥v−w∥2=∥v∥2−2v⋅w+∥w∥2\|v - w\|^2 = \|v\|^2 - 2v \cdot w + \|w\|^2

그런데 vv와 ww가 수직이면 v⋅w=0v \cdot w = 0 이므로 다음과 같이 정리된다.

∥v−w∥2=∥v∥2+∥w∥2\|v - w\|^2 = \|v\|^2 + \|w\|^2

이는 피타고라스 정리와 같은 구조이다.

수직 조건을 성분으로 확인하기

2차원 벡터 v=(v1,v2)v = (v_1, v_2), w=(w1,w2)w = (w_1, w_2)가 있다고 하자.

두 벡터가 수직이면 다음이 성립한다.

∥v∥2+∥w∥2=∥v−w∥2\|v\|^2 + \|w\|^2 = \|v - w\|^2

각 항을 성분으로 쓰면 다음과 같다.

(v12+v22)+(w12+w22)=(v1−w1)2+(v2−w2)2(v_1^2 + v_2^2) + (w_1^2 + w_2^2) = (v_1 - w_1)^2 + (v_2 - w_2)^2

오른쪽을 전개하면 다음과 같다.

(v1−w1)2+(v2−w2)2=v12−2v1w1+w12+v22−2v2w2+w22(v_1 - w_1)^2 + (v_2 - w_2)^2 = v_1^2 - 2v_1w_1 + w_1^2 + v_2^2 - 2v_2w_2 + w_2^2

양변에서 같은 항을 제거하면 다음이 남는다.

0=−2v1w1−2v2w20 = -2v_1w_1 - 2v_2w_2

양변을 −2-2로 나누면 다음과 같다.

v1w1+v2w2=0v_1w_1 + v_2w_2 = 0

이것은 바로 내적이다.

v⋅w=v1w1+v2w2v \cdot w = v_1w_1 + v_2w_2

따라서 두 벡터가 수직이면 내적은 0이다.

반대로, 영벡터가 아닌 두 벡터의 내적이 0이면 두 벡터는 서로 수직이다.

내적은 각도를 측정한다

내적의 기하학적 정의는 다음과 같다.

v⋅w=∥v∥∥w∥cos⁡θv \cdot w = \|v\| \|w\| \cos \theta

특히 두 벡터가 모두 단위벡터라면 ∥v∥=1\|v\| = 1, ∥w∥=1\|w\| = 1 이므로 다음과 같이 단순해진다.

v⋅w=cos⁡θv \cdot w = \cos \theta

즉, 단위벡터끼리의 내적은 두 벡터 사이의 각도에 대한 cos⁡θ\cos \theta 값이다.

그리고 cos⁡θ\cos \theta는 항상 −1-1 이상 11 이하이다.

−1≤cos⁡θ≤1-1 \le \cos \theta \le 1

따라서 단위벡터끼리의 내적도 항상 −1-1 이상 11 이하이다.

−1≤v⋅w≤1-1 \le v \cdot w \le 1

예시: 단위벡터 ii와 uu의 내적

단위벡터 ii는 다음과 같다.

i=[10]i = \begin{bmatrix} 1 \\ 0 \end{bmatrix}

각도 θ\theta 방향의 단위벡터 uu는 다음과 같다.

u=[cos⁡θsin⁡θ]u = \begin{bmatrix} \cos \theta \\ \sin \theta \end{bmatrix}

이 둘의 내적은 다음과 같다.

u⋅i=cos⁡θ⋅1+sin⁡θ⋅0=cos⁡θu \cdot i = \cos \theta \cdot 1 + \sin \theta \cdot 0 = \cos \theta

따라서 단위벡터 ii와 uu의 내적은 uu가 ii로부터 얼마나 회전했는지를 cos⁡θ\cos \theta 값으로 나타낸다.

회전한 두 단위벡터의 내적

단위벡터 하나가 각도 α\alpha 방향을 향하고, 다른 단위벡터가 각도 β\beta 방향을 향한다고 하자.

각 벡터는 다음과 같이 표현할 수 있다.

a=[cos⁡αsin⁡α],b=[cos⁡βsin⁡β]a = \begin{bmatrix} \cos \alpha \\ \sin \alpha \end{bmatrix}, \quad b = \begin{bmatrix} \cos \beta \\ \sin \beta \end{bmatrix}

두 벡터의 내적은 다음과 같다.

a⋅b=cos⁡αcos⁡β+sin⁡αsin⁡βa \cdot b = \cos \alpha \cos \beta + \sin \alpha \sin \beta

코사인 차 공식에 의해 다음이 성립한다.

cos⁡(β−α)=cos⁡αcos⁡β+sin⁡αsin⁡β\cos(\beta - \alpha) = \cos \alpha \cos \beta + \sin \alpha \sin \beta

따라서 다음과 같다.

a⋅b=cos⁡(β−α)a \cdot b = \cos(\beta - \alpha)

만약 두 벡터 사이의 각이 θ\theta라면 θ=β−α\theta = \beta - \alpha 이므로 다음과 같다.

a⋅b=cos⁡θa \cdot b = \cos \theta

즉, 단위벡터끼리의 내적은 두 벡터 사이의 각도에 대한 코사인 값이다.

코사인 공식

내적의 기하학적 정의는 다음과 같다.

v⋅w=∥v∥∥w∥cos⁡θv \cdot w = \|v\| \|w\| \cos \theta

따라서 vv, ww가 영벡터가 아니라면 양변을 ∥v∥∥w∥\|v\| \|w\|로 나눌 수 있다.

cos⁡θ=v⋅w∥v∥∥w∥\cos \theta = \frac{v \cdot w}{\|v\| \|w\|}

이 식을 이용하면 두 벡터 사이의 각도를 구할 수 있다.

예를 들어 v=(1,0)v = (1, 0), w=(1,1)w = (1, 1) 이라고 하자.

먼저 내적은 다음과 같다.

v⋅w=1⋅1+0⋅1=1v \cdot w = 1 \cdot 1 + 0 \cdot 1 = 1

각 벡터의 길이는 다음과 같다.

∥v∥=1,∥w∥=2\|v\| = 1, \quad \|w\| = \sqrt{2}

따라서 다음과 같다.

cos⁡θ=11⋅2=12\cos \theta = \frac{1}{1 \cdot \sqrt{2}} = \frac{1}{\sqrt{2}}

즉, θ=45∘\theta = 45^\circ 이다.

슈바르츠 부등식(Cauchy-Schwarz Inequality)

코사인 공식에서 다음이 성립한다.

cos⁡θ=v⋅w∥v∥∥w∥\cos \theta = \frac{v \cdot w}{\|v\| \|w\|}

그리고 코사인 값의 절댓값은 항상 1 이하이다.

∣cos⁡θ∣≤1|\cos \theta| \le 1

따라서 다음이 성립한다.

∣v⋅w∥v∥∥w∥∣≤1\left| \frac{v \cdot w}{\|v\| \|w\|} \right| \le 1

양변에 ∥v∥∥w∥\|v\| \|w\|를 곱하면 다음과 같다.

∣v⋅w∣≤∥v∥∥w∥|v \cdot w| \le \|v\| \|w\|

이 부등식을 슈바르츠 부등식 또는 코시-슈바르츠 부등식이라고 한다.

∣v⋅w∣≤∥v∥∥w∥|v \cdot w| \le \|v\| \|w\|

이 부등식은 내적의 크기가 두 벡터 길이의 곱보다 클 수 없다는 뜻이다.

삼각부등식

벡터의 길이에 대해서는 다음 부등식도 성립한다.

∥v+w∥≤∥v∥+∥w∥\|v + w\| \le \|v\| + \|w\|

이를 삼각부등식이라고 한다.

기하학적으로는 삼각형의 한 변의 길이가 나머지 두 변의 길이의 합보다 클 수 없다는 뜻이다.

벡터 vv만큼 이동한 뒤 ww만큼 이동하면 최종 이동 벡터는 v+wv + w이다. 이때 직접 한 번에 이동한 거리 ∥v+w∥\|v + w\|는 우회해서 이동한 거리 ∥v∥+∥w∥\|v\| + \|w\|보다 길 수 없다.

핵심 정리

  1. 두 벡터 vv, ww의 내적은 대응되는 성분끼리 곱한 뒤 모두 더한 값이다.
v⋅w=∑i=1nviwiv \cdot w = \sum_{i=1}^{n} v_iw_i
  1. 벡터 vv의 길이, 즉 노름은 자기 자신과의 내적의 제곱근이다.
∥v∥=v⋅v\|v\| = \sqrt{v \cdot v}
  1. 벡터 vv와 같은 방향을 향하는 단위벡터는 vv를 자신의 길이로 나누어 구한다.
u=v∥v∥u = \frac{v}{\|v\|}
  1. 두 벡터의 내적이 0이면 두 벡터는 서로 수직이다.
v⋅w=0v \cdot w = 0
  1. 두 벡터 사이의 각도는 내적을 이용해 구할 수 있다.
cos⁡θ=v⋅w∥v∥∥w∥\cos \theta = \frac{v \cdot w}{\|v\| \|w\|}
  1. 내적의 크기는 두 벡터 길이의 곱보다 클 수 없다.
∣v⋅w∣≤∥v∥∥w∥|v \cdot w| \le \|v\| \|w\|
  1. 벡터의 합의 길이는 각 벡터 길이의 합보다 클 수 없다.
∥v+w∥≤∥v∥+∥w∥\|v + w\| \le \|v\| + \|w\|

한 줄 요약

내적은 두 벡터의 성분별 곱의 합이면서, 동시에 두 벡터가 얼마나 같은 방향을 향하는지를 나타내는 값이다. 수직이면 내적은 0이고, 단위벡터끼리의 내적은 두 벡터 사이 각도의 코사인 값이다.