PRML: 8장 이미지 노이즈 감소

개요

PRML 제8장 도형 모델, 8.3.3 예: 파이톤을 통해 이미지 소음 제거
코드와 실험 결과를 요약한 Jupter notebook ．

도형 모형

확률 도형 모델은 확률 분포의 표시로 도형 모델 분석을 통해 확률 변수 간의 의존 관계를 직관적으로 읽을 수 있다.

위의 그림은 $p(x{1}, x{2})=p(x{1})p(x{2}|x{1})p(x{3}|x{1})p(x{3}|x{2})$의 확률을 나타내는 그림입니다.

위의 그림은 무방향도(마르코프 확률장)로 같은 확률의 분포를 나타내는 그림이다. 무방향 도형 모형에서 링크 노드의 집합을 연변이라고 한다. 위의 그림에서{2}\},\{x_{2}, x_{3]\} 달러가 웜으로 변합니다. 무방향 도표는 웜 C에 확률을 분포하는 세 함수 $\psi{C} 달러의 축적 형식으로 표시합니다.
$$ p(\mathbf{X}) =\frac{1}{Z}\prod_{C}{\psi_{C}(\mathbf{x}_{C})}$$
여기 $Z$는 귀일화 상수입니다. 세력 함수는 좁은 의미에서 플러스이기 때문에 지수 함수로 표시하는 것이 편리합니다.
$$\psi_{C}(\mathbf{x_{\rm{C}}}) =\exp\{-E(\mathbf{x_{\rm{C}}})\} $$
여기서 $E는 에너지 함수로 불리며, 이 지수 함수는 볼츠만 분포라고 부른다.
도형 모형의 중요성과 아름다움의 특징 중 하나는여러 확률 변수 사이에 동시에 분포하는 조건부 독립성은 분석 프로그램 없이 도표에서 직접 읽는 것이다. 이를 실현하는 일반적인 프레임워크는 유방향 분리(d-separation)라고 부른다.확률 변수 값을 신속하게 추정하는 데 사용되는 알고리즘(메시지 봉인을 통한 적화, max-sum 알고리즘), 이런 중요한 특징 참조PRML도 이미 알고 있다.

예: 이미지 노이즈 제거

2치 이미지를 사용하여 소음을 제거하는 예는 무방향도의 사용 방법을 설명합니다. 소음을 포함하는 관측 이미지는 2치 픽셀 값 $y가령 {i}이\in\{-1,+1\} 달러의 2차원 배열로 묘사되고 그 중에서 $i=1,\dots,D$는 픽셀의 서열 번호이다픽셀 기호를 작은 확률 (여기는 10%) 로 무작위로 반전시켜 얻을 수 있는,\in\{-1, +1\} 달러로 설명된 알 수 없는 (소음 없음) 2치 이미지라고 가정하십시오.
소음 수준이 충분하게 낮기 때문에, $x{i} 달러 및 $y{i} 달러 간에 강한 관련성이 있을 것으로 예상됩니다. 또한 그림의 인접 픽셀 $x{i}달러 및 $x{j}달러 간에도 강한 관련성이 있음을 알고 있다. 이러한 사전 지식은 아래 그림에서 보여준 비정상적인 도표에 대응하는 마르코프 확률장 모델에 의해 표시된다.

이 도표는 두 가지 변수로 구성된 연변이 있다{i]\} 달러 형식의 웜업은 이러한 변수 간의 관련성을 나타내는 에너지 함수와 관련이 있다{i}y_{i} 모양은 매우 간단한 함수를 사용합니다. 그러나 $\eta는 정상수입니다. 이 에너지 함수는 $x$입니다.{i} 달러 및 $y{i}와 같은 기호일 때는 낮은 에너지(높은 확률), 다른 기호일 때는 높은 에너지(낮은 확률)를 가지고 기대하는 효과가 있다.
또 다른 웜은 인접 변수 쌍\${x{i}, x{j]\} 달러로 구성되어 있습니다. 그러나 $i와 $j는 서로 인접한 픽셀의 번호입니다. 이러한 변동에 관해서는 2개의 픽셀 값이 서로 다른 기호의 경우보다 에너지를 더 낮게 하려고 합니다. 따라서{i}x_${j}에서 제공하는 에너지 함수를 사용하지만 $\beta도 정상수입니다.
최대 웜의 임의의 비음 함수라면 세 함수일 수 있기 때문에 웜의 서브집합에 어떠한 비음 함수도 곱할 수 있다{i} $hx$의 함수로{i} 달러를 추가할 수 있습니다. 이 항목은 픽셀 값이 특정 기호를 가지기 쉽도록 편향된 효과가 있습니다.
위에서 말한 바와 같이 이 모델의 총 에너지 함수는
$$ E(\mathbf{x},\mathbf{y}) = h\sum_{i} x_{i} -\beta\sum_{\{i, j\}} x_{i}x_{j} -\eta\sum_{i} x_{i}y_{i}$$
또한 $\mathbf{x}와 $\mathbf{y}의 동시 분포는
$$ p(\mathbf{x},\mathbf{y}) =\frac{1}{Z}\exp\{-E(\mathbf{x},\mathbf{y})\} $$
관측 이미지를 토대로 조건 분포 $p(\mathbf{x}|mathbf{y})를 확정했다. 이 문제는 통계물리학에서 광범위하게 연구된 팝업 모델(Ising 모델)의 예이다.반복 조건 모드 (ICM;iterated condinal modes) 라고 간단한 반복 방법을 사용할 수 있습니다. 이 방법은 각 축의 계단식 상승 방법에만 적용됩니다. 우선 변수 $\{x{i} 달러를 초기화합니다. 예를 들어 모든 $i$i$$$$i$$i$\}{i}=y_$i} 이면 좋겠습니다. 다음은 노드 $x 입니다.{j}달러를 하나씩 선택하고 다른 노드 변수의 값을 고정합니다 $x두 가지 가능한 상태($x{j}=+1달러와 $x{j}=-1달러)의 총 에너지 평가${j}의 값을 에너지가 작아지는 쪽으로 설정합니다. 이러한 업데이트는 반복적으로 위치를 바꾸어 적당한 정지 조건을 충족시킬 때 끝납니다. 노드의 업데이트는 울타리 스캐닝에서 규칙적으로 진행할 수도 있고 노드를 무작위로 선택할 수도 있습니다.
다음 그림은 $h=0,\beta=1,\eta=1달러로 매개변수를 설정한 결과입니다.

고찰하다.

ICM이 max-sum으로 교체되면 실현되기를 희망

걸프망, 마르코프 확률장, 볼츠만 분포에 이름이 졌지만 그에 비해 d-분리와 메시지 수발이 더 중요하다