연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 4강

1. 연속 확률변수

이산 확률변수는 가능한 값을 하나씩 셀 수 있지만, 연속 확률변수(continuous random variable)는 어떤 구간 안의 실숫값을 연속적으로 가질 수 있다. 예를 들어 시간, 길이, 온도와 같은 측정값은 보통 연속 확률변수로 모델링한다.

연속 확률변수에서는 특정한 한 점의 확률이 0이다.

$$P(X=x)=0$$

가능한 값이 없다는 뜻은 아니다. 한 점은 길이가 없으므로 확률밀도함수 아래에서 차지하는 면적도 0이라는 뜻이다. 따라서 연속 확률변수의 확률은 한 점이 아니라 구간에 대해 계산한다.

$$P(a<X\le b)$$

연속 확률변수에서는 끝점 하나를 포함하거나 제외해도 확률이 달라지지 않는다.

$$P(a<X<b) = P(a\le X\le b) = P(a<X\le b)$$

---

2. 확률밀도함수

연속 확률변수 $X$의 확률밀도함수(probability density function, PDF)를 $f_X(x)$라고 쓰면, 구간의 확률은 PDF 아래의 면적으로 구한다.

$$P(a<X\le b) = \int_a^b f_X(x)\,dx$$

PDF의 함수값 $f_X(x)$ 자체는 확률이 아니다. 아주 짧은 구간에서 단위 길이당 확률이 얼마나 밀집되어 있는지를 나타내는 밀도이다. 따라서 $f_X(x)$가 1보다 클 수도 있으며, 전체 면적이 1이면 확률분포로서 문제가 없다.

2.1 PDF의 기본 성질

확률밀도함수는 모든 점에서 음수가 아니어야 한다.

$$f_X(x)\ge0$$

또한 가능한 전체 구간에서 적분한 값은 1이어야 한다.

$$\int_{-\infty}^{\infty}f_X(x)\,dx=1$$

이 두 조건을 만족하면 $f_X(x)$ 아래의 면적을 확률로 해석할 수 있다.

---

3. PDF와 CDF의 관계

누적분포함수(cumulative distribution function, CDF)는 $x$ 이하의 확률을 누적한 함수이다.

$$F_X(x)=P(X\le x)$$

연속 확률변수에서는 PDF를 왼쪽 끝부터 $x$까지 적분하여 CDF를 얻는다.

$$F_X(x) = \int_{-\infty}^{x}f_X(t)\,dt$$

반대로 CDF를 미분하면 PDF를 얻는다. 미분 가능한 점에서는 다음 관계가 성립한다.

$$f_X(x) = \frac{d}{dx}F_X(x)$$

따라서 PDF는 누적 확률이 그 지점에서 얼마나 빠르게 증가하는지를 나타낸다고 볼 수 있다.

CDF를 이용하면 구간 확률을 다음과 같이 계산할 수도 있다.

$$P(a<X\le b) = F_X(b)-F_X(a)$$

이는 PDF를 $a$부터 $b$까지 적분한 결과와 같다.

$$F_X(b)-F_X(a) = \int_a^b f_X(x)\,dx$$

---

4. 연속 균등분포

연속 균등분포(continuous uniform distribution)는 주어진 구간 안에서 같은 길이의 구간들이 같은 확률을 갖는 분포이다. $X$가 $a$와 $b$ 사이의 균등분포를 따르면 다음과 같이 쓴다.

$$X\sim U(a,b)$$

전체 구간의 길이가 $b-a$이고 PDF 아래의 전체 면적이 1이어야 하므로, 구간 안에서의 밀도는 다음과 같다.

$$f_X(x) = \begin{cases} \dfrac{1}{b-a}, & a\le x\le b,\\ 0, & \text{otherwise}. \end{cases}$$

CDF는 PDF를 누적하여 얻는다.

$$F_X(x) = \begin{cases} 0, & x<a,\\ \dfrac{x-a}{b-a}, & a\le x\le b,\\ 1, & x>b. \end{cases}$$

4.1 $U(2,8)$ 예시

어떤 시간이 2초부터 8초 사이에서 균등하게 분포한다고 하자.

$$T\sim U(2,8)$$

이때 PDF는 구간 안에서 높이 $1/6$인 상수 함수이다.

$$f_T(t) = \begin{cases} \dfrac{1}{6}, & 2\le t\le8,\\ 0, & \text{otherwise}. \end{cases}$$

CDF는 다음과 같다.

$$F_T(t) = \begin{cases} 0, & t<2,\\ \dfrac{t-2}{6}, & 2\le t\le8,\\ 1, & t>8. \end{cases}$$

예를 들어 3초부터 5초 사이일 확률은 전체 구간에 대한 해당 구간의 길이 비율과 같다.

$$P(3\le T\le5) = \frac{5-3}{8-2} = \frac{1}{3}$$

균등분포에서는 확률이 길이에 비례하므로 기하학적인 면적이나 길이의 비율로도 직관적으로 이해할 수 있다.

---

5. 연속 신호를 디지털 값으로 바꾸기

연속 확률변수는 실제 측정 과정에서 sampling과 quantization을 거쳐 이산적인 데이터로 저장되는 경우가 많다.

5.1 Sampling

Sampling은 연속 시간 신호에서 일정한 시간 간격으로 값을 뽑는 과정이다. 원래 신호가 $x(t)$라면 sampling 이후에는 다음과 같은 값의 열을 얻는다.

$$x[n]=x(nT_s)$$

$T_s$는 sampling 주기이고, sampling frequency는 다음과 같다.

$$f_s=\frac{1}{T_s}$$

Sampling은 시간축을 이산화하지만, 각 sample의 진폭은 아직 연속적인 값을 가질 수 있다.

원래 신호가 포함하는 최대 주파수를 $f_{\max}$라고 할 때, 신호를 복원하기 위해서는 일반적으로 다음 Nyquist 조건을 만족해야 한다.

$$f_s>2f_{\max}$$

Sampling frequency가 충분히 높지 않으면 서로 다른 주파수 성분이 같은 신호처럼 보이는 aliasing이 발생할 수 있다.

5.2 Quantization

Quantization은 각 sample의 연속적인 진폭을 미리 정한 유한한 level 가운데 하나로 대응시키는 과정이다. Quantization 간격을 $\Delta$라고 하면 반올림 방식에서 quantization error는 보통 다음 범위에 놓인다.

$$-\frac{\Delta}{2} \le e_q \le \frac{\Delta}{2}$$

Quantization error를 단순하게 모델링할 때는 이 구간의 균등분포로 근사하기도 한다.

$$e_q\sim U\left(-\frac{\Delta}{2},\frac{\Delta}{2}\right)$$

$\Delta$가 작을수록 원래 값을 더 정밀하게 표현할 수 있지만 더 많은 bit와 저장 공간이 필요하다. 반대로 $\Delta$가 크면 데이터 크기는 줄어들지만 오차가 커진다.

---

중요 개념 정리

• 연속 확률변수에서는 한 점의 확률이 0이며 구간의 확률을 다룬다.
• PDF는 확률 자체가 아니라 단위 길이당 확률의 밀도이다.
• CDF는 PDF를 누적한 함수이고, PDF는 CDF의 미분이다.
• 연속 균등분포에서는 같은 길이의 구간이 같은 확률을 갖는다.
• Sampling은 시간축을 이산화하고, quantization은 진폭축을 유한한 level로 바꾼다.