Deeper Learning

[Statistics 110] Lecture 10: Expectation Continued 본문

Statistics & Math/Statistics 110: Probability

[Statistics 110] Lecture 10: Expectation Continued

Dlaiml 2022. 12. 10. 12:22

Linearity Proof.

$T=X+Y \rightarrow E(T) = E(X)+E(Y)$

 

기댓값을 구하는 2가지 방식을 다시보면

  • 가중치 없이 모두 더하기
  • 같은 그룹으로 묶어 가중치 주기

$$ E(T) = \sum_ttP(X=t) $$

위 식은 그룹으로 묶어 가중치를 주는 형태이고 위 그림(pebble world)에서 각 조약돌을 모두 더하는 방식은 가중치 없이 모두 더하는 기댓값 계산법

각 조약돌을 $s$라고 하고 등식을 세워보면 (P(s)는 조약돌의 질량)

$$ E(T) = \sum_ttP(X=t) = \sum_sX(s)P(\{s\}) $$

위 등식을 가지고 discrete case에서 Expected values의 Linearity 증명을 이어간다

$$ E(T) = \sum_S(X+Y)(s)P(\{s\}) = \sum_S(X(s)+Y(s))P(\{s\}) = E(X) + E(Y) $$

Negative Binomial(음이항분포)

$NegBin(r, p)$

  1. Story
  • Bern(p) 시행을 r번 성공할 때까지 실패 횟수
  1. pmf (마지막 시행은 성공이므로 제외하고 나머지 성공/실패를 배치하는 조합)

$$ P(X=n) = \binom{n+r-1}{r-1}p^rq^n $$

$E(X) = E(X_1+...+X_r)$

$X_j$는 j-1 번째 성공과 j 번째 성공 사이의 실패 횟수라고 정의하자

다시 생각해보면 $X_j$는 $Geom(p)$를 따른다 ( 기하분포: 독립적인 베르누이 시행에서 첫 성공까지 실패 횟수의 분포)

Linearity에 따라

$$ E(X) = E(X_1+...+X_r) = E(X_1) + ...+E(X_r) = \frac{rq}{p} $$

First Success Distribution

첫 성공까지의 시도 횟수 분포

$X \sim FS(p)$ 이고 $Y=X-1$ 이면 $Y \sim Geom(p)$ 를 따른다.

$$ E(Y) = E(X-1) = E(X) - E(1) = \frac{1}{p} $$

Putnam problem

1~n의 정수의 임의 순열에서 local maxima의 수를 count

예시로 3214756이 있다면 local maxima는 3, 7, 6

$I_j$를 position j의 숫자가 local maxima일 사건의 indicator r.v. 라고 하자 (1≤j≤n)

중간의 475라는 순열을 보면 가장 높은 수가 가운데에 있을 경우 local maxima가 되는게 그 확률은 1/3이다.

양 끝을 n-2 자리에 대해서는 1/3의 확률이 대칭성에 의해 동일하며 양 끝자리는 각 1/2의 확률을 가지므로 수식으로 쓰면

$$ E(X) = E(I_1+...+I_n) = E(I_1) + ... + E(I_n) = \frac{n-2}{3} + \frac{2}{2} = \frac{n+1}{3} $$

n이 1인 case는 홀로 극댓값이 되기 때문에 $E(X) = 1$

St.Petersburg Paradox

앞면이 나올때 까지 동전을 던진다. 앞면이 나오면 시행을 멈추고 지금까지 시행의 횟수 $x$에 따라 $2^x$ 달러를 받게된다. (First success)

이 게임을 공정한 게임으로 만드려면 참가비로 얼마를 받아야 할까? (Expected values)

$Y = 2^X$ 일 때, $E(Y)$ 를 구하는 문제

$$ E(Y)= \sum_{k=1}^{\infin} 2^k \frac{1}{2^k} = \sum_{k=1}^{\infin}1 = 1+1+1+1+1+.. = \infin $$

$2^{40}$이 획득할 수 있는 최고 금액이라고 제한하고 다시 풀면

$$ E(Y) = 40 $$

 

Reference

[0] https://www.youtube.com/playlist?list=PL2SOU6wwxB0uwwH80KTQ6ht66KWxbzTIo 

 

Statistics 110: Probability

Statistics 110 (Probability) has been taught at Harvard University by Joe Blitzstein (Professor of the Practice in Statistics, Harvard University) each year ...

www.youtube.com

 

Comments