Bayes Classifier

Summary

Bayes Classifier는 관측된 데이터 $x$가 주어졌을 때, posterior probability가 가장 큰 class를 선택하는 분류기다.

개념

Bayes Classifier는 각 class $c$에 대해 다음 값을 비교한다.

$$P(c\mid x)$$

즉, “데이터 $x$를 봤을 때 class가 $c$일 확률”이 가장 큰 class를 고른다.

$$\hat{y}=\underset{c}{\mathrm{argmax}}P(c\mid x)$$

Bayes Rule을 쓰면 다음처럼 쓸 수 있다.

$$P(c\mid x)=\frac{P(x\mid c)P(c)}{P(x)}$$

분류할 때는 모든 class에 대해 $P(x)$가 같으므로 보통 다음을 비교한다.

$$\hat{y}=\underset{c}{\mathrm{argmax}}P(x\mid c)P(c)$$

한 줄 요약

Bayes Classifier는 주어진 데이터가 어느 class에 속할 posterior probability가 가장 큰지 계산해서 분류하는 방법이다.