수학
수학
- 7.2.1. Left and Right Inverses and the Pseudoinverse 네 기본 부분공간 관점에서 left inverse, right inverse, projection, pseudoinverse를 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 33: Left and Right Inverses; Pseudoinverse 이번 강의는 left inverse, right inverse, pseudoinverse를 다룬다. #선형대수학
- 8.3. The Search for a Good Basis change of basis의 선형대수 구조와 JPEG, wavelet, image compression 예시를 함께 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 31: Change of Basis; Image Compression 이번 강의는 change of basis, 즉 기저변환을 다룬다. #선형대수학
- 8.2. The Matrix of a Linear Transformation basis와 coordinates를 선택하면 linear transformation이 matrix로 표현되는 과정과 projection, derivative 예시 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 30: Linear Transformations and Their Matrices 앞 글에서는 linear transformation의 아이디어를 봤다. #선형대수학
- 8.1. The Idea of a Linear Transformation 좌표와 행렬을 잠시 내려놓고 선형변환의 의미, 예시, 비예시, 선형성 조건을 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 30: Linear Transformations and Their Matrices 이번 강의는 linear transformation, 즉 선형변환을 다룬다. #선형대수학
- 7.2. Bases and Matrices in the SVD rank-one 행렬의 SVD 예시와 네 기본 부분공간의 orthonormal basis 관점에서 SVD 이해하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 29: Singular Value Decomposition 앞 글에서는 SVD의 기본 형태와 full-rank 예시를 봤다. #선형대수학
- 7.1. Image Processing by Linear Algebra SVD의 기본 형태, 행공간과 열공간의 직교기저, A^TA와 AA^T로 singular vector를 구하는 방법 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 29: Singular Value Decomposition 이번 강의는 singular value decomposition, 즉 SVD를 다룬다. #선형대수학
- 6.2.1. Similar Matrices and Jordan Form similar matrix의 의미, 대각화와의 관계, 반복 고유값에서 Jordan form이 필요한 이유 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 28: Similar Matrices and Jordan Form 이번 강의의 핵심 주제는 similar matrices이다. #선형대수학
- 6.5. Positive Definite Matrices positive definite matrix의 판별 조건, quadratic form, 최소점, ellipse와 ellipsoid의 기하적 의미 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 27: Positive Definite Matrices and Minima 이번 강의는 positive definite matrix를 다룬다. #선형대수학
- 6.4.1. Complex Matrices and Fast Fourier Transform 대칭행렬의 복소수 버전인 Hermitian matrix, unitary matrix, Fourier matrix와 FFT의 기본 아이디어 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 26: Complex Matrices; Fast Fourier Transform 이번 강의는 positive definite matrix로 들어가기 직전에 복소수 행렬을 정리하는 연결 강의이다. #선형대수학
- 6.4. Symmetric Matrices 대칭행렬의 실수 고유값, 직교 고유벡터, spectral theorem, positive definite matrix의 기본 판별법 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 25: Symmetric Matrices and Positive Definiteness 이번 강의는 symmetric matrix, 즉 대칭행렬을 다룬다. #선형대수학
- 10.3. Markov Matrices, Population, and Economics Markov 행렬의 정의, 고유값 1, steady state, 인구 이동 모델과 Fourier series로 이어지는 직교기저 관점 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 24: Markov Matrices; Fourier Series 이번 강의는 고유값과 고유벡터의 응용을 다루는 강의이다. #선형대수학
- 6.3. Systems of Differential Equations 고유값과 고유벡터로 선형 미분방정식 시스템을 풀고, 행렬지수 e^{At}와 안정성을 이해하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 23: Differential Equations and exp(At) 이번 강의는 선형대수학을 미분방정식 시스템에 적용하는 내용이다. #선형대수학
- 6.2. Diagonalizing a Matrix 고유벡터 행렬을 이용한 대각화, 행렬의 거듭제곱, 대각화 가능 조건, Fibonacci 수열 예시 연결 강의: MIT 18.06 Linear Algebra - Lecture 22: Diagonalization and Powers of A 지난 강의에서는 eigenvalue와 eigenvector의 기본 방정식을 배웠다. #선형대수학
- 6.1. Introduction to Eigenvalues 고유값과 고유벡터의 정의, characteristic equation, projection, permutation, rotation matrix 예시 연결 강의: MIT 18.06 Linear Algebra - Lecture 21: Eigenvalues and Eigenvectors 이번 강의부터 eigenvalue와 eigenvector를 다룬다. #선형대수학
- 5.3. Cramer's Rule, Inverses, and Volumes 크래머 공식, 여인수로 표현한 역행렬, 행렬식이 나타내는 넓이와 부피의 의미 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 20: Cramer's rule, inverse matrix, and volume 이번 내용은 행렬식의 마지막 응용에 관한 내용이다. 앞에서는 행렬식의 성질과 계산 공식을 배웠다. 이제는 그 행렬식이 실제로 어디에 쓰이는지를 본다. #선형대수학
- 5.2. Permutations and Cofactors 순열 공식과 cofactor 전개로 determinant를 계산하는 방법 연결 강의: MIT 18.06 Linear Algebra - Lecture 19: Determinant formulas and cofactors 이번 강의는 determinant에 대한 두 번째 강의이다. #선형대수학
- 5.1. The Properties of Determinants 행렬식의 기본 성질과 소거법, 가역성, 곱셈 법칙, 전치와의 관계 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 18: Properties of determinants 이번 강의부터는 선형대수학의 초점이 다시 정사각행렬로 이동한다. #선형대수학
- 4.4. Orthonormal Bases and Gram-Schmidt 직교기저, 직교행렬, 그람-슈미트 과정, QR 분해 연결 강의: MIT 18.06 Linear Algebra - Lecture 17: Orthogonal matrices and Gram-Schmidt 이번 강의는 다음을 다룬다. 직교기저와 정규직교기저 직교행렬 정규직교기저를 사용하면 투영과 최소제곱 계산이 왜 쉬워지는지 일반 독립 벡터들을 정규직교 벡터들로 바꾸는 그람-슈미트 과정 그람-슈미트 과정을 행렬 언어로 표현한 QR 분해 #선형대수학
- 4.3. Least Squres Approximations 최소제곱법 연결 강의: MIT 18.06 Linear Algebra - Lecture 16: Projection matrices and least squares 이번 강의의 핵심은 다음 세 가지이다. 프로젝션 행렬 #선형대수학
- 4.2. Projection 투영 연결 강의: MIT 18.06 Linear Algebra - Lecture 15: Projections onto subspaces 프로젝션이란 어떤 벡터 를 어떤 부분공간 위로 가장 가깝게 내리는 것이라고 볼 수 있다. 가장 먼저 1차원 부분공간, 즉 가 만드는 직선 위로 를 내리는 경우를 생각할 수 있다. #선형대수학
- 4.1. Orthogonality of the Four Subspaces 직교와 부분공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 14: Orthogonal vectors and subspaces 이번 강의의 핵심 주제는 직교성(orthogonality) 이다. 직교성은 벡터끼리, 부분공간끼리, 기저끼리 정의할 수 있으며, 기본적으로 서로 90도를 이룬다는 뜻이다. #선형대수학
- 3.5. The Four Fundamental Subspaces 부분공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 11: Matrix spaces; rank 1; small world graphs 연결 강의: MIT 18.06 Linear Algebra - Lecture 12: Graphs, networks, incidence matrices 행렬 는 입력 공간 과 출력 공간 내에 4개의 핵심적인 부분공간(Subspace)을 정의한다. 이를 이해하는 것이 선형대수학의 기본 정리(Fundamental Theorem of Linear Algebra)의 핵심이다. 열공간과 좌영공간이 서로 직교 열공간의 벡터(A의 한 열)과 좌영공간의 벡터 의 직교: 열공간이므로, 로 표기. ( 의 한 행 = 의 한 열) #선형대수학
- 3.4. Independence, Basis, and Dimension 종속, 기저, 차원 연결 강의: MIT 18.06 Linear Algebra - Lecture 10: The four fundamental subspaces 벡터들의 집합 이 독립(Independent) 이라는 것은, 이들의 선형 결합이 영벡터가 되는 유일한 방법이 모든 계수가 0인 경우뿐이라는 뜻이다. 식: 은 오직 일 때만 성립한다. 만약 0이 아닌 가 하나라도 존재해서 을 만들 수 있다면, 그 벡터들은 종속(Dependent) 이다. 교재의 다른 표현: "하나의 벡터가 다른 벡터들의 조합으로 표현된다면 종속이다." () 평면에서의 예시 독립: 두 벡터가 일직선상에 있지 않을 때. 예: 과 . 종속: 두 벡터가 원점을 지나는 같은 직선 위에 있을 때. 예: , . 이때 이므로, 계수가 0이 아닌 해가 존재한다. 종속: 세 개의 벡터가 에 있을 때. ==평면 위의 세 벡터는 반드시 종속==이다. 공간에서의 예시 독립: 세 벡터가 같은 평면(Plane) 위에 있지 않 #선형대수학
- 3.3. The Complete Solution to Ax=b 완전해 연결 강의: MIT 18.06 Linear Algebra - Lecture 8: Solving Ax = b: row reduced form R 연결 강의: MIT 18.06 Linear Algebra - Lecture 9: Independence, basis, and dimension 의 완전해는 의 형태이다. 특수해(Particular Solution ) 는 를 해결하여 구한다. 여기서 는 특수해(particular solution)이고, 은 영공간(nullspace)에 존재하는 해이다. 기하학적으로 의 해집합은 의 해(영공간)를 만큼 평행 이동한 선(또는 평면)과 같다. 를 풀기 위해 행렬 에 벡터 를 붙인 첨가 행렬 를 구성한다. 소거법을 통해 를 형태로 변환하면, 원래 방정식 는 와 동치(equivalent)가 된다. 방정식이 해를 가지려면(solvable), 의 영행(zero rows)에 대응하는 의 성분이 반드시 이어야 한다. 즉, 의 #선형대수학
- 3.2. The Nullspace of A, Solving Ax=0 and Rx=0 영공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 7: Solving Ax = 0: pivot variables, special solutions 영공간 는 을 만족하는 모든 해 벡터들의 집합이다. 이 해 는 (n-차원 공간)에 속한다. (영벡터)는 항상 영공간 에 포함된다. 는 의 부분공간(subspace)이다. (즉, 영공간 내의 벡터끼리 더하거나 스칼라 배를 해도 여전히 영공간에 속한다.) 행렬 에 기본 행 연산(소거)을 적용하여 상삼각행렬 나 기약 행 사다리꼴 을 만들어도 영공간은 변하지 않는다. 따라서 의 해를 구하는 것은 의 해를 구하는 것과 같다. 피벗(Pivot): 소거 후 각 행에서 0이 아닌 첫 번째 성분. 피벗 변수 (Pivot Variables): 피벗을 포함하는 열(column)에 해당하는 변수들이다. 자유 변수 (Free Variables): 피벗이 없는 열에 해당하는 변수들이다. 랭크 (Rank) #선형대수학
- 3.1. Space of Vector 벡터공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 6: Column space and nullspace 벡터 공간은 덧셈과 스칼라곱에 대해 닫혀 있는 벡터들의 집합이다. #선형대수학
- 2.7 Transpose and Permutations 전치, 순열 행렬 연결 강의: MIT 18.06 Linear Algebra - Lecture 5: Transposes, permutations, spaces R^n 전치 행렬 와 순열 행렬 는 선형대수에서 매우 자주 등장하는 기본 행렬이다. #선형대수학
- 2.6 Elimination = Factorization, A=LU 제거, 인수분해 연결 강의: MIT 18.06 Linear Algebra - Lecture 4: LU and LDU factorization 가우스 소거법에서 소거 과정을 나타내는 행렬을 라고 할 때, 그 역행렬은 로 나타낼 수 있다. #선형대수학
- 2.5. Inverse Matrices 역행렬의 정의, 가역성 판별, 소거행렬의 역, Gauss-Jordan 소거법 연결 강의: MIT 18.06 Linear Algebra - Lecture 3: Multiplication and inverse matrices 정사각행렬 에 대해 어떤 행렬 이 존재해서 다음을 만족하면, 를 invertible matrix라고 한다. #선형대수학
- 2.4 Rules for Matrix Operation 행렬 연산 규칙 연결 강의: MIT 18.06 Linear Algebra - Lecture 3: Multiplication and inverse matrices 행렬 와 행렬 를 곱하면, 결과 행렬 의 형상은 이다. #선형대수학
- 2.3 Elimination Using Matrices 행렬 이용 소거 연결 강의: MIT 18.06 Linear Algebra - Lecture 2: Elimination with matrices 다음 선형 방정식계를 생각한다. #선형대수학
- 2.2 The Idea of Elimination 소거법의 개념 연결 강의: MIT 18.06 Linear Algebra - Lecture 2: Elimination with matrices 가우스 소거법은 선형 방정식계 를 위삼각행렬 형태의 로 바꾼 뒤, 역대입(back substitution)으로 해를 구하는 방법이다. #선형대수학
- 2.1. Vectors and Linear Equations 벡터와 선형방정식 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 선형 방정식은 여러 미지수의 선형결합으로 어떤 벡터 를 만드는 문제이다. #선형대수학
- 1.3. Matrix 행렬곱, 차분행렬, cyclic difference, 선형독립과 선형종속 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 행렬과 벡터의 곱 는 여러 관점에서 볼 수 있다. #선형대수학
- 1.2. Lengths and Dot Products 길이와 내적 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 내적은 두 벡터의 대응되는 성분끼리 곱한 뒤 모두 더한 값이다. #선형대수학
- 1.1. Row Picture and Column Picture 선형방정식 Ax=b를 행 관점, 열 관점, 행렬 관점으로 바라보는 첫 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 선형대수학에서 가장 기본이 되는 문제는 선형방정식의 해를 구하는 것이다. #선형대수학
수학
수학
- 21. 표본분산과 Student t, Chi-square Distribution 모분산의 불편추정량인 표본분산을 유도하고, 평균과 분산의 추론에 사용되는 Student t 및 chi-square distribution을 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 21강 평균 , 분산 인 모집단에서 IID sample 을 얻었다고 하자. Sample mean은 다음과 같다. #확률과통계
- 20. 표본분포와 중심극한정리 모집단에서 IID 표본을 추출하고, 표본평균의 평균과 분산 및 중심극한정리를 이용한 정규근사를 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 20강 Descriptive statistics는 관측한 데이터를 평균, 분산, median 같은 값으로 요약한다. 데이터가 어떤 분포에서 나왔는지 완전히 알 수 없더라도 중심과 퍼짐을 간단히 표현할 수 있다. #확률과통계
- 19. Laplace Transform과 확률생성함수 비음수 연속 확률변수의 Laplace transform과 이산 확률변수의 probability-generating function을 정의하고 주요 성질을 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 19강 비음수 연속 확률변수 에 대해 강의에서 S-transform이라 부른 함수는 다음과 같다. #확률과통계
- 18. Fourier Transform과 특성함수 Fourier transform의 기본 관점에서 확률분포의 characteristic function을 정의하고, moment와 convolution에 관한 성질을 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 18강 Chapter 6의 변환은 확률변수에 함수를 적용해 새로운 확률변수를 만드는 것이었다. 이번 transform method는 함수가 표현되는 domain 자체를 바꾼다. 시간에 따른 함수 를 angular frequency 에 따른 함수 로 변환하는 Fourier transform은 다음과 같다. #확률과통계
- 17. 다변수 변환과 난수 생성 두 확률변수를 함께 변환할 때 Jacobian으로 결합 PDF를 구하는 방법과 inverse transform 및 Box-Muller 난수 생성을 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 17강 확률변수 , 로부터 두 개의 새 확률변수 , 를 만든다고 하자. #확률과통계
- 16. 이산 Convolution과 확률분포의 합 이산 확률변수의 합을 convolution으로 구하고, binomial 및 Poisson distribution의 합이 어떤 분포가 되는지 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 16강 정수 값을 갖는 두 이산 확률변수 , 의 합을 다음과 같이 정의한다. #확률과통계
- 15. 확률변수의 합과 Convolution 두 확률변수의 합에 대한 분포를 결합 PDF에서 유도하고, 독립인 경우 convolution으로 표현되는 과정을 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 15강 두 확률변수 , 를 더해 새로운 확률변수 를 만든다. #확률과통계
- 14. 확률변수의 함수와 분포 변환 확률변수에 함수를 적용해 새 확률변수를 만들었을 때 CDF와 PDF가 어떻게 변하는지 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 14강 확률변수 와 함수 를 이용해 새로운 확률변수 를 정의할 수 있다. #확률과통계
- 13. 다변량 정규분포와 공분산 행렬 여러 확률변수의 결합분포를 다항분포와 다변량 정규분포로 확장하고, 공분산 행렬이 변수 사이의 관계를 어떻게 나타내는지 정리한다. 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 13강 두 확률변수 , 의 결합분포에서 다룬 개념은 확률변수가 개인 경우에도 그대로 확장할 수 있다. 확률변수들을 하나의 vector로 모으면 다음과 같다. #확률과통계
- 12. 조건부 기댓값, 공분산과 상관계수 전체 기댓값의 법칙과 공분산·상관계수, uncorrelated와 independent의 차이 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 12강 라는 조건 아래에서 의 평균을 구하면 다음과 같다. #확률과통계
- 11. 조건부분포와 조건부 기댓값 비직사각형 영역의 이중적분, 조건부 PMF·PDF와 조건부 기댓값 및 분산 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 11강 연속 확률변수 의 joint PDF가 일 때, 순서쌍 가 영역 에 들어갈 확률은 다음과 같다. #확률과통계
- 10. 결합분포와 주변분포 여러 확률변수의 joint CDF·PMF·PDF와 marginalization, independence 조건 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 10강 확률변수 하나를 다룰 때는 가 특정 값이나 구간에 들어갈 확률을 구했다. 두 확률변수 를 함께 다룰 때는 두 조건이 동시에 일어날 확률을 생각한다. #확률과통계
- 9. 정규분포와 정규근사 정규분포의 표준화, Gaussian integral, binomial 분포의 정규근사와 Pascal 분포 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 9강 정규분포(normal distribution)는 Gaussian 분포라고도 하며, 연속 확률변수를 모델링할 때 가장 널리 사용되는 분포 중 하나이다. 측정오차나 여러 작은 요인의 합으로 생기는 noise를 나타낼 때 자주 사용한다. #확률과통계
- 8. 지수분포와 Erlang 분포 지수분포의 memoryless 성질, Poisson process와의 관계, Erlang 분포 및 quantization noise 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 8강 단위 시간당 평균 번 발생하는 사건의 개수를 생각하자. 길이가 인 시간 구간에서 발생한 사건의 수를 라고 하면 Poisson process에서는 다음 분포를 따른다. #확률과통계
- 7. Chebyshev 부등식과 이산 확률분포 Chebyshev 부등식의 의미와 Bernoulli·binomial 분포, geometric 분포의 memoryless 성질 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 7강 확률변수 의 값을 하나의 상수 로 예측한다고 하자. 예측값과 실제값 사이의 평균 제곱오차는 다음과 같다. #확률과통계
- 6. 기하분포와 조건부 평균 첫 성공까지의 시행 횟수를 나타내는 기하분포와 평균의 오차 최소화 해석, 조건부 평균 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 6강 성공 확률이 인 독립적인 시행을 성공할 때까지 반복한다고 하자. 첫 성공이 나올 때까지 수행한 전체 시행 횟수를 확률변수 로 정의하면 는 기하분포(geometric distribution)를 따른다. #확률과통계
- 5. 기댓값, 모멘트와 분산 확률변수의 기댓값과 모멘트, 분산, 기댓값의 선형성 및 Poisson 분포 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 5강 여러 관측값 의 산술평균은 다음과 같다. #확률과통계
- 4. 연속 확률변수와 균등분포 연속 확률변수의 PDF와 CDF 관계, 균등분포, sampling과 quantization 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 4강 이산 확률변수는 가능한 값을 하나씩 셀 수 있지만, 연속 확률변수(continuous random variable)는 어떤 구간 안의 실숫값을 연속적으로 가질 수 있다. 예를 들어 시간, 길이, 온도와 같은 측정값은 보통 연속 확률변수로 모델링한다. #확률과통계
- 3. 확률변수와 확률분포 표본공간을 실수로 매핑하는 확률변수의 정의와 CDF, 이산 확률변수의 PMF 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 3강 지금까지는 표본공간의 부분집합인 사건을 중심으로 확률을 다뤘다. 이제는 실험에서 나온 각 결과를 실수에 대응시켜 확률을 함수처럼 다룬다. #확률과통계
- 2. 경우의 수와 시스템 신뢰도 순열과 조합, 이항정리와 급수 계산, Stirling 근사, 직렬·병렬 시스템의 신뢰도 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 2강 전확률 정리에서 가장 먼저 확인해야 할 것은 무엇을 분할하는가이다. #확률과통계
- 1. 확률의 기본 개념 표본공간과 사건, 조건부 확률, 전확률과 Bayes 정리, 독립 사건과 결합 시행 정리 연결 강의: 이상화 교수 - 확률과 통계 (HYU 2014) 1강 확률을 다루려면 먼저 어떤 실험을 하고 있으며, 그 실험에서 어떤 결과가 나올 수 있는지를 정해야 한다. #확률과통계
- 7.2.1. Left and Right Inverses and the Pseudoinverse 네 기본 부분공간 관점에서 left inverse, right inverse, projection, pseudoinverse를 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 33: Left and Right Inverses; Pseudoinverse 이번 강의는 left inverse, right inverse, pseudoinverse를 다룬다. #선형대수학
- 8.3. The Search for a Good Basis change of basis의 선형대수 구조와 JPEG, wavelet, image compression 예시를 함께 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 31: Change of Basis; Image Compression 이번 강의는 change of basis, 즉 기저변환을 다룬다. #선형대수학
- 8.2. The Matrix of a Linear Transformation basis와 coordinates를 선택하면 linear transformation이 matrix로 표현되는 과정과 projection, derivative 예시 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 30: Linear Transformations and Their Matrices 앞 글에서는 linear transformation의 아이디어를 봤다. #선형대수학
- 8.1. The Idea of a Linear Transformation 좌표와 행렬을 잠시 내려놓고 선형변환의 의미, 예시, 비예시, 선형성 조건을 정리하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 30: Linear Transformations and Their Matrices 이번 강의는 linear transformation, 즉 선형변환을 다룬다. #선형대수학
- 7.2. Bases and Matrices in the SVD rank-one 행렬의 SVD 예시와 네 기본 부분공간의 orthonormal basis 관점에서 SVD 이해하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 29: Singular Value Decomposition 앞 글에서는 SVD의 기본 형태와 full-rank 예시를 봤다. #선형대수학
- 7.1. Image Processing by Linear Algebra SVD의 기본 형태, 행공간과 열공간의 직교기저, A^TA와 AA^T로 singular vector를 구하는 방법 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 29: Singular Value Decomposition 이번 강의는 singular value decomposition, 즉 SVD를 다룬다. #선형대수학
- 6.2.1. Similar Matrices and Jordan Form similar matrix의 의미, 대각화와의 관계, 반복 고유값에서 Jordan form이 필요한 이유 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 28: Similar Matrices and Jordan Form 이번 강의의 핵심 주제는 similar matrices이다. #선형대수학
- 6.5. Positive Definite Matrices positive definite matrix의 판별 조건, quadratic form, 최소점, ellipse와 ellipsoid의 기하적 의미 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 27: Positive Definite Matrices and Minima 이번 강의는 positive definite matrix를 다룬다. #선형대수학
- 6.4.1. Complex Matrices and Fast Fourier Transform 대칭행렬의 복소수 버전인 Hermitian matrix, unitary matrix, Fourier matrix와 FFT의 기본 아이디어 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 26: Complex Matrices; Fast Fourier Transform 이번 강의는 positive definite matrix로 들어가기 직전에 복소수 행렬을 정리하는 연결 강의이다. #선형대수학
- 6.4. Symmetric Matrices 대칭행렬의 실수 고유값, 직교 고유벡터, spectral theorem, positive definite matrix의 기본 판별법 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 25: Symmetric Matrices and Positive Definiteness 이번 강의는 symmetric matrix, 즉 대칭행렬을 다룬다. #선형대수학
- 10.3. Markov Matrices, Population, and Economics Markov 행렬의 정의, 고유값 1, steady state, 인구 이동 모델과 Fourier series로 이어지는 직교기저 관점 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 24: Markov Matrices; Fourier Series 이번 강의는 고유값과 고유벡터의 응용을 다루는 강의이다. #선형대수학
- 6.3. Systems of Differential Equations 고유값과 고유벡터로 선형 미분방정식 시스템을 풀고, 행렬지수 e^{At}와 안정성을 이해하기 연결 강의: MIT 18.06 Linear Algebra - Lecture 23: Differential Equations and exp(At) 이번 강의는 선형대수학을 미분방정식 시스템에 적용하는 내용이다. #선형대수학
- 6.2. Diagonalizing a Matrix 고유벡터 행렬을 이용한 대각화, 행렬의 거듭제곱, 대각화 가능 조건, Fibonacci 수열 예시 연결 강의: MIT 18.06 Linear Algebra - Lecture 22: Diagonalization and Powers of A 지난 강의에서는 eigenvalue와 eigenvector의 기본 방정식을 배웠다. #선형대수학
- 6.1. Introduction to Eigenvalues 고유값과 고유벡터의 정의, characteristic equation, projection, permutation, rotation matrix 예시 연결 강의: MIT 18.06 Linear Algebra - Lecture 21: Eigenvalues and Eigenvectors 이번 강의부터 eigenvalue와 eigenvector를 다룬다. #선형대수학
- 5.3. Cramer's Rule, Inverses, and Volumes 크래머 공식, 여인수로 표현한 역행렬, 행렬식이 나타내는 넓이와 부피의 의미 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 20: Cramer's rule, inverse matrix, and volume 이번 내용은 행렬식의 마지막 응용에 관한 내용이다. 앞에서는 행렬식의 성질과 계산 공식을 배웠다. 이제는 그 행렬식이 실제로 어디에 쓰이는지를 본다. #선형대수학
- 5.2. Permutations and Cofactors 순열 공식과 cofactor 전개로 determinant를 계산하는 방법 연결 강의: MIT 18.06 Linear Algebra - Lecture 19: Determinant formulas and cofactors 이번 강의는 determinant에 대한 두 번째 강의이다. #선형대수학
- 5.1. The Properties of Determinants 행렬식의 기본 성질과 소거법, 가역성, 곱셈 법칙, 전치와의 관계 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 18: Properties of determinants 이번 강의부터는 선형대수학의 초점이 다시 정사각행렬로 이동한다. #선형대수학
- 4.4. Orthonormal Bases and Gram-Schmidt 직교기저, 직교행렬, 그람-슈미트 과정, QR 분해 연결 강의: MIT 18.06 Linear Algebra - Lecture 17: Orthogonal matrices and Gram-Schmidt 이번 강의는 다음을 다룬다. 직교기저와 정규직교기저 직교행렬 정규직교기저를 사용하면 투영과 최소제곱 계산이 왜 쉬워지는지 일반 독립 벡터들을 정규직교 벡터들로 바꾸는 그람-슈미트 과정 그람-슈미트 과정을 행렬 언어로 표현한 QR 분해 #선형대수학
- 4.3. Least Squres Approximations 최소제곱법 연결 강의: MIT 18.06 Linear Algebra - Lecture 16: Projection matrices and least squares 이번 강의의 핵심은 다음 세 가지이다. 프로젝션 행렬 #선형대수학
- 4.2. Projection 투영 연결 강의: MIT 18.06 Linear Algebra - Lecture 15: Projections onto subspaces 프로젝션이란 어떤 벡터 를 어떤 부분공간 위로 가장 가깝게 내리는 것이라고 볼 수 있다. 가장 먼저 1차원 부분공간, 즉 가 만드는 직선 위로 를 내리는 경우를 생각할 수 있다. #선형대수학
- 4.1. Orthogonality of the Four Subspaces 직교와 부분공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 14: Orthogonal vectors and subspaces 이번 강의의 핵심 주제는 직교성(orthogonality) 이다. 직교성은 벡터끼리, 부분공간끼리, 기저끼리 정의할 수 있으며, 기본적으로 서로 90도를 이룬다는 뜻이다. #선형대수학
- 3.5. The Four Fundamental Subspaces 부분공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 11: Matrix spaces; rank 1; small world graphs 연결 강의: MIT 18.06 Linear Algebra - Lecture 12: Graphs, networks, incidence matrices 행렬 는 입력 공간 과 출력 공간 내에 4개의 핵심적인 부분공간(Subspace)을 정의한다. 이를 이해하는 것이 선형대수학의 기본 정리(Fundamental Theorem of Linear Algebra)의 핵심이다. 열공간과 좌영공간이 서로 직교 열공간의 벡터(A의 한 열)과 좌영공간의 벡터 의 직교: 열공간이므로, 로 표기. ( 의 한 행 = 의 한 열) #선형대수학
- 3.4. Independence, Basis, and Dimension 종속, 기저, 차원 연결 강의: MIT 18.06 Linear Algebra - Lecture 10: The four fundamental subspaces 벡터들의 집합 이 독립(Independent) 이라는 것은, 이들의 선형 결합이 영벡터가 되는 유일한 방법이 모든 계수가 0인 경우뿐이라는 뜻이다. 식: 은 오직 일 때만 성립한다. 만약 0이 아닌 가 하나라도 존재해서 을 만들 수 있다면, 그 벡터들은 종속(Dependent) 이다. 교재의 다른 표현: "하나의 벡터가 다른 벡터들의 조합으로 표현된다면 종속이다." () 평면에서의 예시 독립: 두 벡터가 일직선상에 있지 않을 때. 예: 과 . 종속: 두 벡터가 원점을 지나는 같은 직선 위에 있을 때. 예: , . 이때 이므로, 계수가 0이 아닌 해가 존재한다. 종속: 세 개의 벡터가 에 있을 때. ==평면 위의 세 벡터는 반드시 종속==이다. 공간에서의 예시 독립: 세 벡터가 같은 평면(Plane) 위에 있지 않 #선형대수학
- 3.3. The Complete Solution to Ax=b 완전해 연결 강의: MIT 18.06 Linear Algebra - Lecture 8: Solving Ax = b: row reduced form R 연결 강의: MIT 18.06 Linear Algebra - Lecture 9: Independence, basis, and dimension 의 완전해는 의 형태이다. 특수해(Particular Solution ) 는 를 해결하여 구한다. 여기서 는 특수해(particular solution)이고, 은 영공간(nullspace)에 존재하는 해이다. 기하학적으로 의 해집합은 의 해(영공간)를 만큼 평행 이동한 선(또는 평면)과 같다. 를 풀기 위해 행렬 에 벡터 를 붙인 첨가 행렬 를 구성한다. 소거법을 통해 를 형태로 변환하면, 원래 방정식 는 와 동치(equivalent)가 된다. 방정식이 해를 가지려면(solvable), 의 영행(zero rows)에 대응하는 의 성분이 반드시 이어야 한다. 즉, 의 #선형대수학
- 3.2. The Nullspace of A, Solving Ax=0 and Rx=0 영공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 7: Solving Ax = 0: pivot variables, special solutions 영공간 는 을 만족하는 모든 해 벡터들의 집합이다. 이 해 는 (n-차원 공간)에 속한다. (영벡터)는 항상 영공간 에 포함된다. 는 의 부분공간(subspace)이다. (즉, 영공간 내의 벡터끼리 더하거나 스칼라 배를 해도 여전히 영공간에 속한다.) 행렬 에 기본 행 연산(소거)을 적용하여 상삼각행렬 나 기약 행 사다리꼴 을 만들어도 영공간은 변하지 않는다. 따라서 의 해를 구하는 것은 의 해를 구하는 것과 같다. 피벗(Pivot): 소거 후 각 행에서 0이 아닌 첫 번째 성분. 피벗 변수 (Pivot Variables): 피벗을 포함하는 열(column)에 해당하는 변수들이다. 자유 변수 (Free Variables): 피벗이 없는 열에 해당하는 변수들이다. 랭크 (Rank) #선형대수학
- 3.1. Space of Vector 벡터공간 연결 강의: MIT 18.06 Linear Algebra - Lecture 6: Column space and nullspace 벡터 공간은 덧셈과 스칼라곱에 대해 닫혀 있는 벡터들의 집합이다. #선형대수학
- 2.7 Transpose and Permutations 전치, 순열 행렬 연결 강의: MIT 18.06 Linear Algebra - Lecture 5: Transposes, permutations, spaces R^n 전치 행렬 와 순열 행렬 는 선형대수에서 매우 자주 등장하는 기본 행렬이다. #선형대수학
- 2.6 Elimination = Factorization, A=LU 제거, 인수분해 연결 강의: MIT 18.06 Linear Algebra - Lecture 4: LU and LDU factorization 가우스 소거법에서 소거 과정을 나타내는 행렬을 라고 할 때, 그 역행렬은 로 나타낼 수 있다. #선형대수학
- 2.5. Inverse Matrices 역행렬의 정의, 가역성 판별, 소거행렬의 역, Gauss-Jordan 소거법 연결 강의: MIT 18.06 Linear Algebra - Lecture 3: Multiplication and inverse matrices 정사각행렬 에 대해 어떤 행렬 이 존재해서 다음을 만족하면, 를 invertible matrix라고 한다. #선형대수학
- 2.4 Rules for Matrix Operation 행렬 연산 규칙 연결 강의: MIT 18.06 Linear Algebra - Lecture 3: Multiplication and inverse matrices 행렬 와 행렬 를 곱하면, 결과 행렬 의 형상은 이다. #선형대수학
- 2.3 Elimination Using Matrices 행렬 이용 소거 연결 강의: MIT 18.06 Linear Algebra - Lecture 2: Elimination with matrices 다음 선형 방정식계를 생각한다. #선형대수학
- 2.2 The Idea of Elimination 소거법의 개념 연결 강의: MIT 18.06 Linear Algebra - Lecture 2: Elimination with matrices 가우스 소거법은 선형 방정식계 를 위삼각행렬 형태의 로 바꾼 뒤, 역대입(back substitution)으로 해를 구하는 방법이다. #선형대수학
- 2.1. Vectors and Linear Equations 벡터와 선형방정식 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 선형 방정식은 여러 미지수의 선형결합으로 어떤 벡터 를 만드는 문제이다. #선형대수학
- 1.3. Matrix 행렬곱, 차분행렬, cyclic difference, 선형독립과 선형종속 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 행렬과 벡터의 곱 는 여러 관점에서 볼 수 있다. #선형대수학
- 1.2. Lengths and Dot Products 길이와 내적 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 내적은 두 벡터의 대응되는 성분끼리 곱한 뒤 모두 더한 값이다. #선형대수학
- 1.1. Row Picture and Column Picture 선형방정식 Ax=b를 행 관점, 열 관점, 행렬 관점으로 바라보는 첫 정리 연결 강의: MIT 18.06 Linear Algebra - Lecture 1: The geometry of linear equations 선형대수학에서 가장 기본이 되는 문제는 선형방정식의 해를 구하는 것이다. #선형대수학