Particle Filter : Sequential Monte Carlo
이 포스팅은 Sequential Monte Carlo(SMC) 방법의 대표 알고리즘인 Particle Filter 의 핵심 개념과 구조를 정리한 글입니다. “Filtering & State Space Model” 에 이어지는 내용입니다. Introduc...
Statistics
Filtering & State Space Model
이 포스팅은 동적 시스템(Dynamic System)에서의 필터링(Filtering) 과 상태공간모형(State-Space Model) 에 대한 기본 개념을 정리한 글입니다. Introduction 현실 세계의 많은 문제는 시간에 따라 변화하는 시스템을 다루고 있으며, ...
AIC & BIC
회귀분석에 대한 기본적인 내용은 Linear Regression 포스팅을 참고해주세요
Graph PCA
개요 데이터의 저차원 표현을 학습하면서, 그래프 인접성(유사도)을 보존하도록 정규화 항을 추가한 PCA 변형입니다. 핵심은 그래프 라플라시안 $L$을 이용한 매끄러움(smoothness) 패널티 $λ tr(Z^T L Z)$ 입니다. 이 항은 그래프에서 이웃한 노드들의 임베...
Linear Regression
Linear Regressio은 연속형 반응 변수와 설명 변수의 선형 관계를 모델링하는 가장 기본적인 통계 모델입니다. 이 글에서는 OLS(Ordinary Least Squares)의 수식적 구조, 가정, 해석을 중심으로 정리하고, 간단한 파이썬 실습을 해보려고 합니다.
Bayesian ICA
이 포스팅은 Bayesian Independent Component Analysis (Bayesian ICA) 에 대해 공부하며 정리한 글입니다.
Probabilistic PCA
이 포스팅은 Probabilistic Principal Component Analysis (PPCA)에 대해 공부하며 정리한 글입니다. Tipping & Bishop (1999)의 고전 논문을 기반으로 수학적 정의, 추론 과정, 장단점을 설명하겠습니다.
Bayesian PCA
이 포스팅은 Bayesian Principal Component Analysis (BPCA)에 대해 공부하고 정리한 글입니다.
[Paper Review] Compact Memory for K-prior Based Continual Learning
이 포스팅은 지속학습(Continual Learning)에서의 K-prior 기반 Compact Memory 논문 “Compact Memory for K-prior Based Continual Learning”을 정리한 글입니다.
Variety of Methods for Dimensionality Reduction
이 포스팅은 여러가지 차원축소(Dimensionality Reduction)기법들에 대해 소개하고 간단한 시각화를 해보는 글입니다.
Natural Gradient for Variational Inference
이 포스팅은 Amari (1998)의 Natural Gradient 개념과 Variational Inference에서의 응용을 정리한 글입니다.
[Paper Review] Hilbert Space Methods for Reduced-Rank Gaussian Process Regression
이 포스팅은 A. Solin et al. (2014)의 논문 Hilbert Space Methods for Reduced-Rank Gaussian Process Regression을 읽고 정리한 글입니다.
[Paper Review] GRAPH-BASED CHANGE-POINT DETECTION
이 포스팅은 H.Chen et el. (2014)의 논문 Graph-Based Change-Point Detection을 읽고 정리한 글입니다.
Bayesian Online Change Point Detection
이 포스팅은 Bayesian Online Changepoint Detection에 대한 글입니다.
PyMC를 이용한 베이지안 모델링
Introduction
Moran’s I Statistics
이 포스팅은 공간통계에서 자주 사용하는 공간 자기상관에 대한 통계량 Moran’s I에 대해 설명하는 글입니다.
[Paper Review] Make Me a BNN: A Simple Strategy for Estimating Bayesian Uncertainty from Pre-trained Model
이 포스팅은 “Make Me a BNN: A Simple, Scalable Strategy for Estimating Bayesian Uncertainty” 논문을 읽고 ABNN의 핵심 아이디어에 대해 정리한 글입니다.
[Paper Review] Normalizing Flows: Probabilistic Modeling and Inference
이 포스팅은 Papamakarios et al. (2021)의 “Normalizing Flows for Probabilistic Modeling and Inference”, Kobyzev et al. (2021)의 “Normalizing Flows: An Introductio...
Bayesian Linear Regression
이 포스팅은 Bayesian Linear Regression에 대한 개념을 소개하는 글입니다.
Gaussian Process(GP)
이 포스팅은 Gaussian Process에 대한 개념을 소개하는 글입니다.
[Paper Review] GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes
이 포스팅은 Maia et al. (2022)의 논문 “GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes”를 읽고 정리한 글입니다.
Bayesian Kernel Machine Regression (BKMR)
본 포스팅에서는 Bayesian Kernel Machine Regression (BKMR)의 이론적 배경을 정리하고 간단한 실습을 진행합니다.
[Paper Review] BART : Bayesian Additive Regression Tree
이 포스팅은 Chipman et al. (2010)의 논문 “BART: Bayesian Additive Regression Trees”를 읽고 정리한 글입니다.
MCMC Sampling in Bayesian Models
본 포스팅에서는 베이지안 추론에서 핵심이 되는 MCMC(Markov Chain Monte Carlo) 알고리즘의 원리와 구현 방식을 살펴보겠습니다.