Deeper Learning

[Statistics 110] Lecture 10: Expectation Continued 본문

Statistics & Math/Statistics 110: Probability

[Statistics 110] Lecture 10: Expectation Continued

Dlaiml 2022. 12. 10. 12:22

Linearity Proof.

T=X+YE(T)=E(X)+E(Y)

 

기댓값을 구하는 2가지 방식을 다시보면

  • 가중치 없이 모두 더하기
  • 같은 그룹으로 묶어 가중치 주기

E(T)=ttP(X=t)

위 식은 그룹으로 묶어 가중치를 주는 형태이고 위 그림(pebble world)에서 각 조약돌을 모두 더하는 방식은 가중치 없이 모두 더하는 기댓값 계산법

각 조약돌을 s라고 하고 등식을 세워보면 (P(s)는 조약돌의 질량)

E(T)=ttP(X=t)=sX(s)P({s})

위 등식을 가지고 discrete case에서 Expected values의 Linearity 증명을 이어간다

E(T)=S(X+Y)(s)P({s})=S(X(s)+Y(s))P({s})=E(X)+E(Y)

Negative Binomial(음이항분포)

NegBin(r,p)

  1. Story
  • Bern(p) 시행을 r번 성공할 때까지 실패 횟수
  1. pmf (마지막 시행은 성공이므로 제외하고 나머지 성공/실패를 배치하는 조합)

P(X=n) = \binom{n+r-1}{r-1}p^rq^n

E(X) = E(X_1+...+X_r)

X_j는 j-1 번째 성공과 j 번째 성공 사이의 실패 횟수라고 정의하자

다시 생각해보면 X_jGeom(p)를 따른다 ( 기하분포: 독립적인 베르누이 시행에서 첫 성공까지 실패 횟수의 분포)

Linearity에 따라

E(X) = E(X_1+...+X_r) = E(X_1) + ...+E(X_r) = \frac{rq}{p}

First Success Distribution

첫 성공까지의 시도 횟수 분포

X \sim FS(p) 이고 Y=X-1 이면 Y \sim Geom(p) 를 따른다.

E(Y) = E(X-1) = E(X) - E(1) = \frac{1}{p}

Putnam problem

1~n의 정수의 임의 순열에서 local maxima의 수를 count

예시로 3214756이 있다면 local maxima는 3, 7, 6

I_j를 position j의 숫자가 local maxima일 사건의 indicator r.v. 라고 하자 (1≤j≤n)

중간의 475라는 순열을 보면 가장 높은 수가 가운데에 있을 경우 local maxima가 되는게 그 확률은 1/3이다.

양 끝을 n-2 자리에 대해서는 1/3의 확률이 대칭성에 의해 동일하며 양 끝자리는 각 1/2의 확률을 가지므로 수식으로 쓰면

E(X) = E(I_1+...+I_n) = E(I_1) + ... + E(I_n) = \frac{n-2}{3} + \frac{2}{2} = \frac{n+1}{3}

n이 1인 case는 홀로 극댓값이 되기 때문에 E(X) = 1

St.Petersburg Paradox

앞면이 나올때 까지 동전을 던진다. 앞면이 나오면 시행을 멈추고 지금까지 시행의 횟수 x에 따라 2^x 달러를 받게된다. (First success)

이 게임을 공정한 게임으로 만드려면 참가비로 얼마를 받아야 할까? (Expected values)

Y = 2^X 일 때, E(Y) 를 구하는 문제

E(Y)= \sum_{k=1}^{\infin} 2^k \frac{1}{2^k} = \sum_{k=1}^{\infin}1 = 1+1+1+1+1+.. = \infin

2^{40}이 획득할 수 있는 최고 금액이라고 제한하고 다시 풀면

E(Y) = 40

 

Reference

[0] https://www.youtube.com/playlist?list=PL2SOU6wwxB0uwwH80KTQ6ht66KWxbzTIo 

 

Statistics 110: Probability

Statistics 110 (Probability) has been taught at Harvard University by Joe Blitzstein (Professor of the Practice in Statistics, Harvard University) each year ...

www.youtube.com

 

Comments