Udemy 베이즈 추정 및 그래픽 모델: 컴퓨터 비전 기초 1을 수강 할 때 메모.

1. 베이즈 확률에 대해

기계 학습 모델을 확률 모델로 표현하려면 베이지안 추정에 대한 지식이 필요합니다.
우선, 그 의미를 확인한다.

1.1. 확률과 동시 확률

확률 변수 : x가 발생하는 빈도를 나타냅니다

Pr(x)

동시 확률 변수 : 이벤트 x와 이벤트 y가 동시에 발생하는 빈도를 나타냅니다

Pr(x, y)

주변화 :이 동시 확률 변수의 이벤트 중 하나를 합하면 1 변수의 확률 변수로 변경됩니다.

Pr(x) = \int Pr(x, y) dy

1.2. 조건부 확률

이벤트 x가 발생할 때 이벤트 y가 발생할 확률을 나타냅니다.

Pr(y|x)

이 조건부 확률은 다음 방정식으로 표현할 수 있습니다.

의미 : 사건 x가 일어날 때 사건 y가 일어날 확률과 사건 x가 일어날 때의 확률을 곱하면 사건 x와 사건 y가 동시에 일어날 확률

Pr(x, y) = Pr(y|x)Pr(x) \\

마찬가지로 이벤트 y가 발생했을 때 이벤트 x가 발생할 확률을 표현할 수 있습니다.

Pr(x, y) = Pr(x|y)Pr(y)

1.4 베이즈 확률에 대해

1.3의 조건부 확률을 정의했다.

Pr(x, y) = Pr(y|x)Pr(x)　\\
Pr(x, y) = Pr(x|y)Pr(y) 

위의 두 가지 조건을 결합한 것은 아래 식이며, 이것을 베이즈의 정리라고 부른다

Pr(y|x) = \frac{Pr(x|y)Pr(y)}{Pr(x)}

2. 베이즈 추정

베이즈의 정리를 이용하여 어떤 사건이 발생했을 때의 사건의 변화를 확률적으로 추정하는 것

베이즈 추정의 생각 :

- $Pr(y)$: 이벤트 x가 발생하기 전에 이벤트 y의 확률
(사전 확률, prior probability)

$Pr(y|x)$: 이벤트 x가 일어난 후의, 이벤트 y의 확률
(사후 확률, 조건부 확률, posterior probability, conditional probability)

베이즈 정리를 사용하면 사후 확률 $ P (y | x) $는 다음과 같이 계산할 수 있습니다.

Pr(y|x) = \frac{Pr(x|y)Pr(y)}{Pr(x)}

즉, 이벤트 x에 대한 데이터가 얻어지면이를 반영하여 우도 $ Pr (x | y) $를 찾습니다.
그리고, 구한 우도 $ Pr (x | y) $와 사건 y의 사전 확률로부터 사후 확률을 추정한다.
또한 $ Pr (x) $는 정규화 항목이므로 무시할 수 있습니다.

무엇이 재미 있니?

이 사전 확률, 우도, 사후 확률의 관계는 기계 학습에 많다.

기계 학습을 통해 우도를 찾는 방법 중 하나라고 생각할 수 있습니다