일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 |
- 오블완
- 폰트생성
- 생성모델
- Few-shot generation
- CNN
- motion matching
- Unreal Engine
- userwidget
- Diffusion
- 디퓨전모델
- dl
- NLP
- GAN
- animation retargeting
- 언리얼엔진
- BERT
- deep learning
- RNN
- cv
- multimodal
- 딥러닝
- WinAPI
- UE5
- Stat110
- Font Generation
- ddpm
- WBP
- Generative Model
- ue5.4
- 모션매칭
- Today
- Total
Deeper Learning
[Statistics 110] Lecture 10: Expectation Continued 본문
[Statistics 110] Lecture 10: Expectation Continued
Dlaiml 2022. 12. 10. 12:22Linearity Proof.
$T=X+Y \rightarrow E(T) = E(X)+E(Y)$
기댓값을 구하는 2가지 방식을 다시보면
- 가중치 없이 모두 더하기
- 같은 그룹으로 묶어 가중치 주기
$$ E(T) = \sum_ttP(X=t) $$
위 식은 그룹으로 묶어 가중치를 주는 형태이고 위 그림(pebble world)에서 각 조약돌을 모두 더하는 방식은 가중치 없이 모두 더하는 기댓값 계산법
각 조약돌을 $s$라고 하고 등식을 세워보면 (P(s)는 조약돌의 질량)
$$ E(T) = \sum_ttP(X=t) = \sum_sX(s)P(\{s\}) $$
위 등식을 가지고 discrete case에서 Expected values의 Linearity 증명을 이어간다
$$ E(T) = \sum_S(X+Y)(s)P(\{s\}) = \sum_S(X(s)+Y(s))P(\{s\}) = E(X) + E(Y) $$
Negative Binomial(음이항분포)
$NegBin(r, p)$
- Story
- Bern(p) 시행을 r번 성공할 때까지 실패 횟수
- pmf (마지막 시행은 성공이므로 제외하고 나머지 성공/실패를 배치하는 조합)
$$ P(X=n) = \binom{n+r-1}{r-1}p^rq^n $$
$E(X) = E(X_1+...+X_r)$
$X_j$는 j-1 번째 성공과 j 번째 성공 사이의 실패 횟수라고 정의하자
다시 생각해보면 $X_j$는 $Geom(p)$를 따른다 ( 기하분포: 독립적인 베르누이 시행에서 첫 성공까지 실패 횟수의 분포)
Linearity에 따라
$$ E(X) = E(X_1+...+X_r) = E(X_1) + ...+E(X_r) = \frac{rq}{p} $$
First Success Distribution
첫 성공까지의 시도 횟수 분포
$X \sim FS(p)$ 이고 $Y=X-1$ 이면 $Y \sim Geom(p)$ 를 따른다.
$$ E(Y) = E(X-1) = E(X) - E(1) = \frac{1}{p} $$
Putnam problem
1~n의 정수의 임의 순열에서 local maxima의 수를 count
예시로 3214756이 있다면 local maxima는 3, 7, 6
$I_j$를 position j의 숫자가 local maxima일 사건의 indicator r.v. 라고 하자 (1≤j≤n)
중간의 475라는 순열을 보면 가장 높은 수가 가운데에 있을 경우 local maxima가 되는게 그 확률은 1/3이다.
양 끝을 n-2 자리에 대해서는 1/3의 확률이 대칭성에 의해 동일하며 양 끝자리는 각 1/2의 확률을 가지므로 수식으로 쓰면
$$ E(X) = E(I_1+...+I_n) = E(I_1) + ... + E(I_n) = \frac{n-2}{3} + \frac{2}{2} = \frac{n+1}{3} $$
n이 1인 case는 홀로 극댓값이 되기 때문에 $E(X) = 1$
St.Petersburg Paradox
앞면이 나올때 까지 동전을 던진다. 앞면이 나오면 시행을 멈추고 지금까지 시행의 횟수 $x$에 따라 $2^x$ 달러를 받게된다. (First success)
이 게임을 공정한 게임으로 만드려면 참가비로 얼마를 받아야 할까? (Expected values)
$Y = 2^X$ 일 때, $E(Y)$ 를 구하는 문제
$$ E(Y)= \sum_{k=1}^{\infin} 2^k \frac{1}{2^k} = \sum_{k=1}^{\infin}1 = 1+1+1+1+1+.. = \infin $$
$2^{40}$이 획득할 수 있는 최고 금액이라고 제한하고 다시 풀면
$$ E(Y) = 40 $$
Reference
[0] https://www.youtube.com/playlist?list=PL2SOU6wwxB0uwwH80KTQ6ht66KWxbzTIo