R로 분산 고정의 경우 혼합 가우스 모델 구현 (깁스 샘플링)

10675 단어 R

기사의 목적



분산 고정의 경우 혼합 가우스 모델을 R로 구현합니다.
for문을 최대한 사용하지 않고, 빨리 학습하도록 하고 있습니다.
참고 : 비 파라 메트릭 베이즈 포인트 프로세스 및 통계적 기계 학습 수리

목차



No.
목차

1

모델 설명

2

데이터 및 라이브러리

3

구현

4

확인



1. 모델 설명





2. 데이터 및 라이브러리



데이터 iris를 사용합니다.
X <- iris[,1:4]
D <- ncol(X)
N <- nrow(X)
library(mvtnorm)
library(cluster)

3. 구현


#(1)Kを求める
K <- 3
#(2)muを乱数で初期化
set.seed(100)
mu <- matrix(rep(apply(X,2,mean),each=K)+rnorm(K*D,0,0.2), nrow=K)
#(3)(ⅰ)(ⅱ)を繰り返す
max.iter <- 30
for(s in 1:max.iter){
  #(ⅰ)zのサンプリング
  tmp <- apply(mu, 1, function(x) dmvnorm(X, x, diag(D)))
  z <- apply(tmp, 1, function(x) which.max(rmultinom(1,3,x)))
  #(ⅱ)muのサンプリング
  n <- tapply(z, z, length)
  x.k <-  apply(X, 2, function(x) tapply(x, z, mean))
  mu <- t(apply(cbind(x.k, n), 1,
        function(x) rmvnorm(1, x[D+1]*x[1:(D)]/(x[D+1]+1), diag(D)/(x[D+1]+1))))
}

4. 확인



왼쪽이 정답이고 오른쪽이 구현의 결과입니다.
par(mfrow=c(1,2))
clusplot(X, iris[,5], color=TRUE, shade=FALSE, labels=4, lines=0)
clusplot(X, z, color=TRUE, shade=FALSE, labels=4, lines=0)

좋은 웹페이지 즐겨찾기