[Statistics 110] Lecture 18: MGFs Continued

MGF

지수분포의 MGF

$X \sim Expo(1)$.

$$ M(t) = E(e^{tx}) \\ \int_0^{\inf}e^{tx}e^{-x}dx = \int_0^{\inf}e^{-x(1-t)}dx = \frac1{1-t}, (t<1) $$

$M'(0) = E(X), M''(0) = E(X^n)$.

$$ \frac1{1-t} = \sum_{n=1}^{\inf}t^n = \sum_{n=0}^{\inf}n!\frac{t^n}{n!} $$

적률은 $\frac {t^n}{n!}$의 계수이기 때문에 위 식에서 $n!$가 n차 적률, $E(X^n) = n!$.

$Y \sim Expo(\lambda)$면 지수분포의 특성에 따라 $X = \lambda Y, E(Y^n) = \frac{n!}{\lambda^n}$.

정규분포의 MGF

n이 홀수일 때 대칭성에 따라, $E(Z^n) =0$,

$$ M(t) = e^{t^2/2} = \sum_{N=0}^{\inf}\frac{(t^2/n)^2}{n!} = \sum_{N=0}^{\inf}\frac{t^{2n}}{2^nn!} =\sum_{N=0}^{\inf}\frac{(2n!)t^{2n}}{2^nn!(2n!)} $$

$E(X^{2n})$은 위 식에서 $t^{2n}/2n!$의 계수이기 때문에 $\frac{(2n)!}{2^nn!}$이 된다.

포아송분포의 MGF

$X \sim Pois(\lambda), E(e^{tX}) = \sum_{k=0}^{\inf} e^{tk}e^{-\lambda}\frac{\lambda^k}{k!} = e^{-\lambda}e^{\lambda e^t} = e^{\lambda(e^t-1)}$.

$X$와 독립인 $Y \sim Pois(\mu)$가 있다고 할 때, $X+Y$의 분포를 구하여라.

MGF의 성질을 이용하면

$$ M_XM_Y = e^{\lambda(e^t-1)}e^{\mu(e^t-1)} = e^{(\lambda+\mu)(e^t-1)} = M_{X+Y} \\ X+Y \sim Pois(\lambda+\mu) $$

독립이 아니라면 MGF의 위 성질은 성립하지 않음

Joint Distribution(결합분포)

확률변수 X,Y의 joint CDF는 $P(X\le x,Y \le y)$, joint PMF는 $P(X=x,Y=y)$.

marginal CDF는 $P(X \le x)$.

joint pdf는 $f(x,y) = P((x,y) \in B) = \int\int_B f(x,y)dxdy$.

독립이면 $F(x,y) = F(x)F(y)$, 역도 성립

Marginal distribution

joint distribution에서 marginal distribution 구하기

$$ P(X=x) = \sum_ yP(X=x,Y=y) \\ f_Y(y) = \sum f_{X,Y}(x,y)dx $$

독립이면

$$ P(X=x,Y=y) = P(X=x)P(Y=y)\\f(x,y)=f_X(x)f_Y(y), \space for \space all \space (x,y) \in R $$

 

Reference

[0] https://www.youtube.com/playlist?list=PL2SOU6wwxB0uwwH80KTQ6ht66KWxbzTIo