Statistics

Particle Filter : Sequential Monte Carlo

4 분 소요

이 포스팅은 Sequential Monte Carlo(SMC) 방법의 대표 알고리즘인 Particle Filter 의 핵심 개념과 구조를 정리한 글입니다. “Filtering & State Space Model” 에 이어지는 내용입니다. Introduc...

Filtering & State Space Model

3 분 소요

이 포스팅은 동적 시스템(Dynamic System)에서의 필터링(Filtering) 과 상태공간모형(State-Space Model) 에 대한 기본 개념을 정리한 글입니다. Introduction 현실 세계의 많은 문제는 시간에 따라 변화하는 시스템을 다루고 있으며, ...

AIC & BIC

3 분 소요

회귀분석에 대한 기본적인 내용은 Linear Regression 포스팅을 참고해주세요

Graph PCA

2 분 소요

개요 데이터의 저차원 표현을 학습하면서, 그래프 인접성(유사도)을 보존하도록 정규화 항을 추가한 PCA 변형입니다. 핵심은 그래프 라플라시안 $L$을 이용한 매끄러움(smoothness) 패널티 $λ tr(Z^T L Z)$ 입니다. 이 항은 그래프에서 이웃한 노드들의 임베...

Linear Regression

2 분 소요

Linear Regressio은 연속형 반응 변수와 설명 변수의 선형 관계를 모델링하는 가장 기본적인 통계 모델입니다. 이 글에서는 OLS(Ordinary Least Squares)의 수식적 구조, 가정, 해석을 중심으로 정리하고, 간단한 파이썬 실습을 해보려고 합니다.

Bayesian ICA

1 분 소요

이 포스팅은 Bayesian Independent Component Analysis (Bayesian ICA) 에 대해 공부하며 정리한 글입니다.

Probabilistic PCA

4 분 소요

이 포스팅은 Probabilistic Principal Component Analysis (PPCA)에 대해 공부하며 정리한 글입니다. Tipping & Bishop (1999)의 고전 논문을 기반으로 수학적 정의, 추론 과정, 장단점을 설명하겠습니다.

Bayesian PCA

2 분 소요

이 포스팅은 Bayesian Principal Component Analysis (BPCA)에 대해 공부하고 정리한 글입니다.

[Paper Review] Compact Memory for K-prior Based Continual Learning

3 분 소요

이 포스팅은 지속학습(Continual Learning)에서의 K-prior 기반 Compact Memory 논문 “Compact Memory for K-prior Based Continual Learning”을 정리한 글입니다.

Variety of Methods for Dimensionality Reduction

3 분 소요

이 포스팅은 여러가지 차원축소(Dimensionality Reduction)기법들에 대해 소개하고 간단한 시각화를 해보는 글입니다.

Natural Gradient for Variational Inference

4 분 소요

이 포스팅은 Amari (1998)의 Natural Gradient 개념과 Variational Inference에서의 응용을 정리한 글입니다.

[Paper Review] Hilbert Space Methods for Reduced-Rank Gaussian Process Regression

4 분 소요

이 포스팅은 A. Solin et al. (2014)의 논문 Hilbert Space Methods for Reduced-Rank Gaussian Process Regression을 읽고 정리한 글입니다.

[Paper Review] GRAPH-BASED CHANGE-POINT DETECTION

4 분 소요

이 포스팅은 H.Chen et el. (2014)의 논문 Graph-Based Change-Point Detection을 읽고 정리한 글입니다.

Bayesian Online Change Point Detection

4 분 소요

이 포스팅은 Bayesian Online Changepoint Detection에 대한 글입니다.

PyMC를 이용한 베이지안 모델링

7 분 소요

Introduction

Moran’s I Statistics

3 분 소요

이 포스팅은 공간통계에서 자주 사용하는 공간 자기상관에 대한 통계량 Moran’s I에 대해 설명하는 글입니다.

[Paper Review] Make Me a BNN: A Simple Strategy for Estimating Bayesian Uncertainty from Pre-trained Model

3 분 소요

이 포스팅은 “Make Me a BNN: A Simple, Scalable Strategy for Estimating Bayesian Uncertainty” 논문을 읽고 ABNN의 핵심 아이디어에 대해 정리한 글입니다.

[Paper Review] Normalizing Flows: Probabilistic Modeling and Inference

8 분 소요

이 포스팅은 Papamakarios et al. (2021)의 “Normalizing Flows for Probabilistic Modeling and Inference”, Kobyzev et al. (2021)의 “Normalizing Flows: An Introductio...

Bayesian Linear Regression

2 분 소요

이 포스팅은 Bayesian Linear Regression에 대한 개념을 소개하는 글입니다.

Gaussian Process(GP)

4 분 소요

이 포스팅은 Gaussian Process에 대한 개념을 소개하는 글입니다.

[Paper Review] GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes

2 분 소요

이 포스팅은 Maia et al. (2022)의 논문 “GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes”를 읽고 정리한 글입니다.

Bayesian Kernel Machine Regression (BKMR)

3 분 소요

본 포스팅에서는 Bayesian Kernel Machine Regression (BKMR)의 이론적 배경을 정리하고 간단한 실습을 진행합니다.

[Paper Review] BART : Bayesian Additive Regression Tree

8 분 소요

이 포스팅은 Chipman et al. (2010)의 논문 “BART: Bayesian Additive Regression Trees”를 읽고 정리한 글입니다.

MCMC Sampling in Bayesian Models

2 분 소요

본 포스팅에서는 베이지안 추론에서 핵심이 되는 MCMC(Markov Chain Monte Carlo) 알고리즘의 원리와 구현 방식을 살펴보겠습니다.

맨 위로 이동 ↑

Bayesian

Particle Filter : Sequential Monte Carlo

4 분 소요

Filtering & State Space Model

3 분 소요

Graph PCA

2 분 소요

TabPFN: Foundation Models for Tabular Data

2 분 소요

Introduction: The Last Frontier of Tabular Data

[Paper Review] Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy

3 분 소요

이 포스팅은 Linero (2023) 의 논문 Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy 을 읽고 정리한 글입니다.

[Paper Review] Bayesian Additive Regression Networks (BARN)

4 분 소요

이 포스팅은 Bayesian Additive Regression Networks (BARN) Linero, 2024; arXiv:2404.04425v1 을 읽고 정리한 글입니다.

Bayesian ICA

1 분 소요

이 포스팅은 Bayesian Independent Component Analysis (Bayesian ICA) 에 대해 공부하며 정리한 글입니다.

Probabilistic PCA

4 분 소요

Bayesian PCA

2 분 소요

이 포스팅은 Bayesian Principal Component Analysis (BPCA)에 대해 공부하고 정리한 글입니다.

Natural Gradient for Variational Inference

4 분 소요

이 포스팅은 Amari (1998)의 Natural Gradient 개념과 Variational Inference에서의 응용을 정리한 글입니다.

Bayesian Online Change Point Detection

4 분 소요

이 포스팅은 Bayesian Online Changepoint Detection에 대한 글입니다.

PyMC를 이용한 베이지안 모델링

7 분 소요

Introduction

[Paper Review] Bayesian graph convolutional neural networks for semi-supervised classification

8 분 소요

이 포스팅은 “Bayesian Graph Convolutional Neural Networks for Semi-supervised Classification” 논문을 읽고 BGCNN에 대해 정리한 글입니다.

[Paper Review] Make Me a BNN: A Simple Strategy for Estimating Bayesian Uncertainty from Pre-trained Model

3 분 소요

이 포스팅은 “Make Me a BNN: A Simple, Scalable Strategy for Estimating Bayesian Uncertainty” 논문을 읽고 ABNN의 핵심 아이디어에 대해 정리한 글입니다.

[Paper Review] The Bayesian Learning Rule

5 분 소요

이 포스팅은 Khan 등 (2023)의 논문 “The Bayesian Learning Rule”를 읽고 정리한 글입니다.

[Paper Review] Gaussian Processes Over Graphs

3 분 소요

이 포스팅은 Venkitaraman et al. (2018) 의 논문 Gaussian Processes Over Graphs를 읽고 정리한 글입니다.

Bayesian Linear Regression

2 분 소요

이 포스팅은 Bayesian Linear Regression에 대한 개념을 소개하는 글입니다.

Gaussian Process(GP)

4 분 소요

이 포스팅은 Gaussian Process에 대한 개념을 소개하는 글입니다.

[Paper Review] GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes

2 분 소요

이 포스팅은 Maia et al. (2022)의 논문 “GP-BART: a novel Bayesian additive regression trees approach using Gaussian processes”를 읽고 정리한 글입니다.

Bayesian Kernel Machine Regression (BKMR)

3 분 소요

본 포스팅에서는 Bayesian Kernel Machine Regression (BKMR)의 이론적 배경을 정리하고 간단한 실습을 진행합니다.

[Paper Review] BART : Bayesian Additive Regression Tree

8 분 소요

이 포스팅은 Chipman et al. (2010)의 논문 “BART: Bayesian Additive Regression Trees”를 읽고 정리한 글입니다.

MCMC Sampling in Bayesian Models

2 분 소요

본 포스팅에서는 베이지안 추론에서 핵심이 되는 MCMC(Markov Chain Monte Carlo) 알고리즘의 원리와 구현 방식을 살펴보겠습니다.

맨 위로 이동 ↑

Machine Learning

Particle Filter : Sequential Monte Carlo

4 분 소요

TabPFN: Foundation Models for Tabular Data

2 분 소요

Introduction: The Last Frontier of Tabular Data

Linear Regression

2 분 소요

[Paper Review] Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy

3 분 소요

이 포스팅은 Linero (2023) 의 논문 Generalized Bayesian Additive Regression Trees Models: Beyond Conditional Conjugacy 을 읽고 정리한 글입니다.

[Paper Review] Bayesian Additive Regression Networks (BARN)

4 분 소요

이 포스팅은 Bayesian Additive Regression Networks (BARN) Linero, 2024; arXiv:2404.04425v1 을 읽고 정리한 글입니다.

[Paper Review] Compact Memory for K-prior Based Continual Learning

3 분 소요

이 포스팅은 지속학습(Continual Learning)에서의 K-prior 기반 Compact Memory 논문 “Compact Memory for K-prior Based Continual Learning”을 정리한 글입니다.

Mixture of Experts (MoE)

3 분 소요

이 포스팅은 Mixture of Experts(MoE)의 개념을 정리하고, 전통적인 Ensemble과 비교하여 차이를 설명합니다.

Variety of Methods for Dimensionality Reduction

3 분 소요

이 포스팅은 여러가지 차원축소(Dimensionality Reduction)기법들에 대해 소개하고 간단한 시각화를 해보는 글입니다.

Natural Gradient for Variational Inference

4 분 소요

이 포스팅은 Amari (1998)의 Natural Gradient 개념과 Variational Inference에서의 응용을 정리한 글입니다.

[Paper Review] Hilbert Space Methods for Reduced-Rank Gaussian Process Regression

4 분 소요

이 포스팅은 A. Solin et al. (2014)의 논문 Hilbert Space Methods for Reduced-Rank Gaussian Process Regression을 읽고 정리한 글입니다.

[Paper Review] GRAPH-BASED CHANGE-POINT DETECTION

4 분 소요

이 포스팅은 H.Chen et el. (2014)의 논문 Graph-Based Change-Point Detection을 읽고 정리한 글입니다.

[Paper Review] Normalizing Flows: Probabilistic Modeling and Inference

8 분 소요

이 포스팅은 Papamakarios et al. (2021)의 “Normalizing Flows for Probabilistic Modeling and Inference”, Kobyzev et al. (2021)의 “Normalizing Flows: An Introductio...

[Paper Review] The Bayesian Learning Rule

5 분 소요

이 포스팅은 Khan 등 (2023)의 논문 “The Bayesian Learning Rule”를 읽고 정리한 글입니다.

[Paper Review] Graph Attention Networks

2 분 소요

이 포스팅은 Velickovic et al. (2018) 의 논문 Graph Attention Networks를 읽고 정리한 글입니다.

[Paper Review] Gaussian Processes Over Graphs

3 분 소요

이 포스팅은 Venkitaraman et al. (2018) 의 논문 Gaussian Processes Over Graphs를 읽고 정리한 글입니다.

[Paper Review] SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS

3 분 소요

이 포스팅은 SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 논문을 읽고 정리한 글입니다.

Bayesian Linear Regression

2 분 소요

이 포스팅은 Bayesian Linear Regression에 대한 개념을 소개하는 글입니다.

Gaussian Process(GP)

4 분 소요

이 포스팅은 Gaussian Process에 대한 개념을 소개하는 글입니다.

[Paper Review] ROCKET: Exceptionally fast and accurate time series classification using random convolutional kernels

2 분 소요

이 포스팅은 Dempster et al. (2020)의 논문 “ROCKET: Exceptionally Fast and Accurate Time Series Classification Using Random Convolutional Kernels” 을 바탕으로 내용을 정리한 글...