Summary

베타 분포는 0과 1 사이의 값을 다루는 연속(continuous) 확률분포다. 가장 강력한 직관은 “확률(비율) 자체에 대한 확률분포” — 즉 “동전의 앞면 확률이 얼마일까?” 같은 모르는 비율에 대한 믿음을 표현한다. 두 모수 $\alpha ,\beta$로 모양이 자유자재로 바뀌며, 베르누이/이항분포의 켤레사전분포(conjugate prior) 로 베이즈 추론에서 핵심 역할을 한다.

용어 설명

• 연속 (Continuous): 값이 $[0,1]$ 구간에서 끊김 없이 이어짐
• 모수 $\alpha ,\beta$ (shape parameters): 분포의 모양을 정하는 두 양수. 직관적으로 “성공 횟수 / 실패 횟수”
• PDF: 연속 분포의 밀도 함수 (Probability Distribution Representations (PMF, PDF, CDF))
• 사전분포 (Prior): 데이터 보기 전의 믿음 / 사후분포 (Posterior): 데이터 본 후의 믿음
• 켤레사전분포 (Conjugate prior): 사전과 사후가 같은 분포족이 되게 해주는 사전분포
• 베이즈 추론 (Bayesian inference): 데이터로 믿음을 갱신하는 추론 방식
• $B(\alpha ,\beta )$ (베타 함수): 전체 넓이를 1로 맞추는 정규화 상수

Beta distribution

1. 한 줄 직관: “확률에 대한 확률분포”

보통 분포는 “키”, “시간” 같은 물리량을 다룬다. 베타 분포는 특이하게 확률(비율) 그 자체를 다룬다.

동전을 주웠는데 공정한지 모른다. 앞면이 나올 확률 $\theta$는 0.5? 0.7? 0.3?
→ “$\theta$가 얼마일지에 대한 나의 믿음” 을 하나의 분포로 그린 게 베타 분포.

그래서 베타 분포의 가로축은 항상 0~1 사이의 확률값이다.

2. PDF (정의)

$f(x;\alpha ,\beta )=\frac{x^{\alpha -1}(1-x{)}^{\beta -1}}{B(\alpha ,\beta )},0\le x\le 1,\alpha ,\beta >0$

• 분자 $x^{\alpha -1}(1-x{)}^{\beta -1}$가 모양을 만들고,
• 분모 $B(\alpha ,\beta )=\frac{\Gamma (\alpha )\Gamma (\beta )}{\Gamma (\alpha +\beta )}$는 전체 넓이를 1로 맞추는 정규화 상수(베타 함수).

베르누이 PMF와 닮은꼴

베르누이 ${\mu }^y(1-\mu {)}^{1-y}$와 분자 모양이 똑같다. 차이는 시점이 뒤집힌 것: 베르누이는 $\mu$가 고정·결과 $y$가 변수, 베타는 결과(성공/실패 횟수)가 고정·확률 $x$가 변수. 이 닮음이 바로 둘이 켤레가 되는 이유다. (Bernoulli distribution)

3. 모수 $\alpha ,\beta$의 의미 — pseudo-count

가장 쓸모 있는 직관: $\alpha$ = “성공을 본 횟수 + 1”, $\beta$ = “실패를 본 횟수 + 1” (가상의 관측, pseudo-count).

$\alpha ,\beta$	모양	해석
$\alpha =\beta =1$	평평함 (Uniform)	아무 정보 없음, 0~1 다 똑같이 그럴듯
$\alpha =\beta$ (큼)	0.5에 뾰족한 종 모양	”공정할 것 같다” 강한 믿음
$\alpha >\beta$	오른쪽으로 치우침	성공 쪽(높은 확률)에 무게
$\alpha <\beta$	왼쪽으로 치우침	실패 쪽(낮은 확률)에 무게
$\alpha ,\beta <1$	양 끝(0,1)이 솟은 U자	극단(거의 0 또는 거의 1)을 선호

α=β=1 (Uniform)     α=β=5 (0.5 종형)    α=2,β=5 (왼쪽 치우침)
f                   f                   f
 |________          |   _               |  _
 |        |         |  / \              | / \_
 |        |         | /   \             |/    \___
 └────────          └/─────\            └─────────
 0       1          0  0.5  1           0        1

4. 평균·분산·최빈값

$\mathbb{E}[X]=\frac{\alpha }{\alpha +\beta },\mathrm{Var}(X)=\frac{\alpha \beta }{(\alpha +\beta {)}^2(\alpha +\beta +1)}$

$\text{Mode}=\frac{\alpha -1}{\alpha +\beta -2}(\alpha ,\beta >1)$

• 평균 = $\frac{\alpha }{\alpha +\beta }$: “성공 / (성공+실패)” = 관측된 성공 비율. 매우 직관적.
• 분산: $\alpha +\beta$(총 관측 수)가 클수록 작아짐 → 데이터가 많을수록 믿음이 뾰족(확신↑).

5. 핵심 쓰임새: 베르누이/이항의 켤레사전분포

베타 분포가 통계·ML에서 빛나는 이유. 베이즈 갱신이 산수처럼 간단해진다.

켤레(conjugate)의 마법

사전 Beta($\alpha ,\beta$)로 시작 → 데이터에서 성공 $s$번, 실패 $f$번 관측 →
사후 = Beta($\alpha +s,\beta +f$)

복잡한 적분 없이 관측 횟수를 모수에 그냥 더하면 끝. 사전도 베타, 사후도 베타 → “켤레”.

예시: 새 광고의 클릭률을 모름.

1. 사전: Beta(1, 1) (아무 정보 없음, 평평).
2. 100명에게 노출 → 7명 클릭(성공 7, 실패 93).
3. 사후: Beta(1+7, 1+93) = Beta(8, 94).
4. 추정 클릭률 평균 = $8/102\approx 0.078$, 분산도 작아져 확신 있게 7.8% 근처라고 말할 수 있음.

어디서 보나

• 베이즈 추론: 비율·확률 모수의 사전/사후분포.
• A/B 테스트 · 전환율(conversion rate) 추정: “어느 버전이 더 좋은가”를 분포로 비교.
• Thompson sampling (밴딧): 각 선택지의 보상 확률을 베타로 두고 샘플링해 탐색/활용 균형.
• 베이지안 통계의 입문 예제: Beta-Bernoulli / Beta-Binomial 모델.

6. 30초 요약

• 베타 분포 = $[0,1]$ 위의 연속 분포 = “확률/비율 자체에 대한 분포”.
• 모수 $\alpha$(≈성공+1), $\beta$(≈실패+1)로 모양 자유자재. Beta(1,1) = Uniform.
• 평균 $\frac{\alpha }{\alpha +\beta }$, 관측이 많을수록(=α+β 큼) 분산↓ → 믿음이 뾰족.
• 베르누이/이항의 켤레사전분포: 사후 = Beta($\alpha +s,\beta +f$) → 베이즈 갱신이 덧셈으로 끝.

관련 노트

• Bernoulli distribution
• Gamma distribution
• Probability Distribution Representations (PMF, PDF, CDF)
• CDF (Cumulative Distribution Function)