-
AWS Summit 2026 마지막 세션 후기: AWS Trainium 기반 LLM 추론 A to Z
Neuron 환경, Trainium 기반 LLM 추론, 성능 측정 지표와 최적화 전략을 가볍게 정리한 AWS Summit 2026 마지막 세션 후기
-
CS231n Lecture 3 - Regularization and Optimization
Regularization의 목적, L1/L2 정규화, gradient descent, SGD, momentum, RMSProp, Adam과 learning rate schedule
-
Assignment 1: kNN classifier
kNN 구현, training, testing, cross-validation
-
CS231n Lecture 2 - Image Classification with Linear Classifiers
이미지 분류 문제, 데이터 기반 접근, Nearest Neighbor와 K-NN, 선형 분류기의 입력 shape와 score 계산 정리
-
CS231n Lecture 1 - Introduction
컴퓨터 비전의 문제 정의, 데이터 기반 접근, 이미지 분류와 딥러닝으로 이어지는 흐름 정리
-
BE(블룸에너지): NYSE, 2025.09.10
Bloom Energy의 수익구조, 경쟁사, 차별화 요소, 비용구조와 시장 위치.
-
7.2.1. Left and Right Inverses and the Pseudoinverse
네 기본 부분공간 관점에서 left inverse, right inverse, projection, pseudoinverse를 정리하기
-
8.3. The Search for a Good Basis
change of basis의 선형대수 구조와 JPEG, wavelet, image compression 예시를 함께 정리하기
-
8.2. The Matrix of a Linear Transformation
basis와 coordinates를 선택하면 linear transformation이 matrix로 표현되는 과정과 projection, derivative 예시 정리
-
8.1. The Idea of a Linear Transformation
좌표와 행렬을 잠시 내려놓고 선형변환의 의미, 예시, 비예시, 선형성 조건을 정리하기
-
7.2. Bases and Matrices in the SVD
rank-one 행렬의 SVD 예시와 네 기본 부분공간의 orthonormal basis 관점에서 SVD 이해하기
-
7.1. Image Processing by Linear Algebra
SVD의 기본 형태, 행공간과 열공간의 직교기저, A^TA와 AA^T로 singular vector를 구하는 방법 정리
-
6.2.1. Similar Matrices and Jordan Form
similar matrix의 의미, 대각화와의 관계, 반복 고유값에서 Jordan form이 필요한 이유 정리
-
6.5. Positive Definite Matrices
positive definite matrix의 판별 조건, quadratic form, 최소점, ellipse와 ellipsoid의 기하적 의미 정리
-
6.4.1. Complex Matrices and Fast Fourier Transform
대칭행렬의 복소수 버전인 Hermitian matrix, unitary matrix, Fourier matrix와 FFT의 기본 아이디어 정리
-
6.4. Symmetric Matrices
대칭행렬의 실수 고유값, 직교 고유벡터, spectral theorem, positive definite matrix의 기본 판별법 정리
-
10.3. Markov Matrices, Population, and Economics
Markov 행렬의 정의, 고유값 1, steady state, 인구 이동 모델과 Fourier series로 이어지는 직교기저 관점 정리
-
6.3. Systems of Differential Equations
고유값과 고유벡터로 선형 미분방정식 시스템을 풀고, 행렬지수 e^{At}와 안정성을 이해하기
-
Transformer
Self-Attention을 기반으로 한 Transformer 구조, Encoder, Decoder, Masked Self-Attention과 Cross-Attention 정리
-
6.2. Diagonalizing a Matrix
고유벡터 행렬을 이용한 대각화, 행렬의 거듭제곱, 대각화 가능 조건, Fibonacci 수열 예시
-
Self-Attention
일반 Attention에서 Self-Attention으로 넘어가는 관점 전환과 Q, K, V의 역할을 정리한다.
-
6.1. Introduction to Eigenvalues
고유값과 고유벡터의 정의, characteristic equation, projection, permutation, rotation matrix 예시
-
Attention 직관
Decoder의 잠정 상태, attention score, attention weight, context vector 흐름 직관
-
5.3. Cramer's Rule, Inverses, and Volumes
크래머 공식, 여인수로 표현한 역행렬, 행렬식이 나타내는 넓이와 부피의 의미 정리
-
Attention
seq2seq의 고정 길이 벡터 한계를 보완하는 Attention 구조와 WeightSum, AttentionWeight, TimeAttention 구현 정리
-
5.2. Permutations and Cofactors
순열 공식과 cofactor 전개로 determinant를 계산하는 방법
-
RNN 문장 생성 텐서 형상
RNN 문장 생성 과정에서 입력 임베딩, LSTM, 출력층, softmax까지의 텐서 형상을 정리한다.
-
5.1. The Properties of Determinants
행렬식의 기본 성질과 소거법, 가역성, 곱셈 법칙, 전치와의 관계 정리
-
RNN을 사용한 문장 생성
RNN 언어 모델을 이용한 문장 생성, seq2seq, Encoder-Decoder 구조와 Peeky 개선
-
4.4. Orthonormal Bases and Gram-Schmidt
직교기저, 직교행렬, 그람-슈미트 과정, QR 분해
-
Gated RNN
기본 RNN의 장기 의존성 문제와 LSTM의 게이트 구조, TimeLSTM 구현, RNNLM 개선 방법
-
4.3. Least Squres Approximations
최소제곱법
-
RNN
순환 신경망의 구조, BPTT와 Truncated BPTT, TimeRNN과 RNN 언어 모델
-
4.2. Projection
투영
-
Embedding과 Negative Sampling
CBOW에서 Embedding 계층과 Negative Sampling을 사용해 계산량을 줄이는 과정
-
4.1. Orthogonality of the Four Subspaces
직교와 부분공간
-
CBOW
CBOW의 구조, 임베딩 벡터와 NLL 손실, skip-gram과의 차이, 통계 기반 기법과 추론 기반 기법의 차이
-
3.5. The Four Fundamental Subspaces
부분공간
-
PMI, SVD
단어 동시발생 빈도의 고빈도 편향 문제, PMI와 PPMI, PPMI 행렬에 SVD를 적용해 단어 벡터를 만드는 흐름
-
3.4. Independence, Basis, and Dimension
종속, 기저, 차원
-
합성곱 신경망(CNN)
CNN의 기본 구조, 합성곱 연산, 패딩, 스트라이드, 3차원 합성곱, 배치 처리와 풀링 계층
-
3.3. The Complete Solution to Ax=b
완전해
-
3.2. The Nullspace of A, Solving Ax=0 and Rx=0
영공간
-
배치 정규화
배치 정규화의 정의, 필요성, 순전파와 역전파 계산, 학습 안정화 효과
-
3.1. Space of Vector
벡터공간
-
과대적합(Overfit) 해결
과대적합의 정의와 발생 상황, 가중치 감소와 드롭아웃을 통한 해결 방법
-
2.7 Transpose and Permutations
전치, 순열 행렬
-
매개변수 갱신
SGD의 한계와 Momentum, AdaGrad를 통한 매개변수 갱신 방법
-
2.6 Elimination = Factorization, A=LU
제거, 인수분해
-
가중치 초깃값 설정
신경망 학습에서 가중치 초깃값이 중요한 이유와 Xavier 초기화, He 초기화의 직관
-
2.5. Inverse Matrices
역행렬의 정의, 가역성 판별, 소거행렬의 역, Gauss-Jordan 소거법
-
2.4 Rules for Matrix Operation
행렬 연산 규칙
-
2.3 Elimination Using Matrices
행렬 이용 소거
-
2.2 The Idea of Elimination
소거법의 개념
-
2.1. Vectors and Linear Equations
벡터와 선형방정식
-
1.3. Matrix
행렬곱, 차분행렬, cyclic difference, 선형독립과 선형종속
-
1.2. Lengths and Dot Products
길이와 내적 정리
-
1.1. Row Picture and Column Picture
선형방정식 Ax=b를 행 관점, 열 관점, 행렬 관점으로 바라보는 첫 정리
-
행렬 곱 역전파에서 전치행렬이 등장하는 이유
z = Wx 형태의 행렬 곱 노드에서 역전파 시 W의 전치행렬이 등장하는 과정
-
곱셈 노드의 역전파
계산 그래프에서 곱셈 노드가 역전파 시 입력과 기울기를 어떻게 전달하는지 정리한다.
-
ART 리빙랩 글로컬 해커톤(8/20~8/21) 후기
AWS와 NxtCloud가 함께한 ART 리빙랩 글로컬 해커톤 참가 후기
-
[Spring] 스프링 트랜잭션 관리의 기본 개념과 원리
스프링 트랜잭션 관리의 도입 배경, 트랜잭션 추상화, 리소스 동기화, 선언적 트랜잭션 관리와 전파 속성
-
[데이터베이스][MySQL] 트랜잭션 격리 수준과 MySQL 동작 방식
MySQL을 기준으로 트랜잭션 격리 수준, 트랜잭션 이상 현상, MVCC, Next-Key Lock의 동작 방식을 정리
-
[데이터베이스][MySQL] 외래키와 잠금 대기
MySQL InnoDB에서 외래키 제약이 부모 테이블과 자식 테이블의 잠금 대기를 유발하는 방식을 정리한다.
-
동기/비동기, 블로킹/논블로킹
동기와 비동기, 블로킹과 논블로킹의 정의와 차이점, 조합
-
웹 서버, WAS, 서블릿, 톰캣, 스프링 MVC
웹 요청이 컨트롤러에 도달하기까지 WAS, 서블릿, 톰캣, Spring MVC의 관계
