Independent Random Variables 모든 x_1, ..., x_n 에 대해서 다음을 만족하는 random variable X_1, ..., X_n은 independent하다. 즉, 어떤 joint PDF나 joint PMF에 대해서 각각의 random variable에 대한 PDF, PMF의 모든 곱이 같을 때, 해당 random variable들을 서로 independent 하다고 말한다. Independent and Identically Distributed (iid) Independent의 정의말고도 identical의 개념을 추가적으로 언급해 볼 수 있는데, 어떤 random variable의 joint PDF 또는 PMF가 동일한 PDF 또는 PMF의 곱의 형태로 나타날때 iid..

Marginal PMF Discrete RV W,X,Y,Z의 Joint PMF P_W,X,Y,Z(w,x,y,z)에 대한 marginal PMF의 몇 가지 예제는 다음과 같다. 이전에 배웠던 pairs of RV의 marginal PMF에서 random variable만 추가되었다. Experiment를 분석하는데 있어서, 여러개의 random variable에서도 원하는 RV에 대해서만 파악하고자 할때는 marginal PMF를 구하는 방법을 사용할 수 있다. Marginal PDF Continuous RV W,X,Y,Z의 Joint PDF f_W,X,Y,Z(w,x,y,z)에 대한 marginal PDF의 몇 가지 예제는 다음과 같다. PDF에서도 마찬가지다. 줄여야할 random variable의 숫자..

Random Vector Random variable인 X_i 에 대해서 random vector는 다음과 같이 정의된다. 어떤 experiment가 두 개 이상의 random variable을 만들어낼 때, vector 또는 matrix를 이용한 notation은 probability model에 대해서 조금 더 간결한 표현을 가능하게 한다. 위 정의에서 n = 1인 random vector는 곧 random variable이라고 볼 수 있을 것이다. Vector Sample Value 어떤 random vector의 어떤 sample value는 column vector로 다음과 같이 정의 된수 있다. i번째의 component x_i는 곧 random variable X_i의 sample value..

Multivariate Joint CDF Random variable X_1, ..., X_n에 대한 joint CDF는 다음과 같이 정의한다. 여기서의 X_1, ..., X_n은 continuous, discrete, mixed random variable에 모두 적용이 가능하다. 그러나 CDF 만으로는 probability model을 분석하기가 힘겨우므로, multivariate PMF, PDF에 대한 정의를 덧붙여 살펴보도록 한다. Multivariate Joint PMF Random variable X_1, ..., X_n에 대한 joint PMF는 다음과 같이 정의한다. Multivariate Joint PDF Random variable X_1, ..., X_n에 대한 joint PDF는 다..

정의 Random variable X와 Y가 independent random variable일 필요충분조건은 다음과 같다. 이전에 다룬 independent event의 idea를 두 개의 random variable의 관계를 설명하는 과정에서 다시 도입했다. 서로에게 영향을 끼치지 않는 두 개의 random variable을 independent하다고 생각하면 된다. 어떤 joint PDF 또는 joint PMF가 주어지고 그 때의 두 random variable이 independent 한가를 살펴보려면, 먼저 각각의 marginal PDF 또는 marginal PMF를 구한다음 둘을 곱했을 때, joint PDF 또는 joint PMF와 같은지를 살펴보면 된다. 추가 정리 1 만약 두 random ..

개요 이전의 conditional expected value E[X|Y]의 expected value E[E[X|Y]]은 꽤 흥미로운 결과로 마무리 된다. 우리는 E[E[X|Y]]를 두 단계에 걸쳐 얻을 수 있다. 먼저 g(y) = E[X|Y = y]를 계산하고, derived function에 대한 expected value, 즉 E[g(Y)]를 구하는 것이다. 이 두 단계의 과정을 iterated expectation이라고 한다. (Iterate는 '반복되다'라는 뜻이다.) 정리 1 E[E[X|Y]] = E[X] Iterated expectation의 결과는 곧 X의 expected value와 같다. 증명은 아래와 같이 할 수 있다. 먼저 expected value의 정리에 따라서 위와 같이 쓸 수..