정의 Random variable X와 Y가 independent random variable일 필요충분조건은 다음과 같다. 이전에 다룬 independent event의 idea를 두 개의 random variable의 관계를 설명하는 과정에서 다시 도입했다. 서로에게 영향을 끼치지 않는 두 개의 random variable을 independent하다고 생각하면 된다. 어떤 joint PDF 또는 joint PMF가 주어지고 그 때의 두 random variable이 independent 한가를 살펴보려면, 먼저 각각의 marginal PDF 또는 marginal PMF를 구한다음 둘을 곱했을 때, joint PDF 또는 joint PMF와 같은지를 살펴보면 된다. 추가 정리 1 만약 두 random ..

개요 이전의 conditional expected value E[X|Y]의 expected value E[E[X|Y]]은 꽤 흥미로운 결과로 마무리 된다. 우리는 E[E[X|Y]]를 두 단계에 걸쳐 얻을 수 있다. 먼저 g(y) = E[X|Y = y]를 계산하고, derived function에 대한 expected value, 즉 E[g(Y)]를 구하는 것이다. 이 두 단계의 과정을 iterated expectation이라고 한다. (Iterate는 '반복되다'라는 뜻이다.) 정리 1 E[E[X|Y]] = E[X] Iterated expectation의 결과는 곧 X의 expected value와 같다. 증명은 아래와 같이 할 수 있다. 먼저 expected value의 정리에 따라서 위와 같이 쓸 수..

Conditional PMF 이전 포스트에서 어떤 event를 가지고 conditioning을 했었다. 그렇다면, 만약 어떤 event B가 {X = x}이거나 {Y = y}와 같은 case라면 어떨까. P_Y(y) > 0 인 event Y = y에 대한 X의 conditional PMF는 다음과 같이 정의된다. 이것의 의미는 Y가 가질 수 있는 각각의 값에 대해, 각각의 conditional PMF가 정의될 수 있다는 것이다. 한편, X와 Y의 joint PMF와 conditional PMF의 관계는 다음과 같다. 이에 대한 증명은, 와 같이 conditional PMF의 정의로 부터 얻을 수 있다. Notation 자체가 상당히 머리에 와닿지 않는 편인데, 예제를 살펴보면 좀 더 이해가 쉬울 것 같다..

Conditional Joint PMF Discrete random variable X, Y에 대해서 어떤 event B (P[B] > 0)에 대한 X와 Y의 conditional joint PMF는 다음과 같이 정의된다. 이로 부터 다음이 성립한다. 이전의 discrete RV에서의 conditioning과 크게 다를 것이 없는것이다. 다음의 예제를 살펴보자. 왼쪽과 같은 joint PMF가 있을 때, 'X + Y ≤ 4' 라는 event에 대해서 conditional joint PMF를 구해야 한다면, 먼저 해당 event에 속하는 outcome들의 확률을 파악한 다음, 원래의 joint PMF에서 그만큼 나눠주면 된다. 즉, 여기서 해당되는 점들은 1/4, 1/8, 1/8, 1/12의 값을 갖는 지..

Expected Value Random variable X와 Y에 대해 W = g(X, Y)의 expected value는 다음과 같이 구할 수 있다. W = g(X, Y)의 expected value를 구하기 위해서 joint PDF또는 joint PMF를 구하는 수고를 굳이 할 필요는 없다. 위의 정의를 이용하여 많은 응용이 가능하다. Expected Value of Sum of Functions X, Y에 대한 여러가지 함수들이 덧셈 형태로 표현이 된다면, 한꺼번에 계산하는 것이 어려운 경우, 각각의 함수에 대해 expected value를 먼저 구해서 더해도 상관없다. 이것이 성립할 수 있는 것은 summation과 integral에 대해서 linearity가 성립하기 때문이다. 이러한 정리는 또..

개요 두 개의 random variable을 조합하여 우리가 필요한 어떤 다른 정보를 얻을 수 있는, 새로운 random variable을 W = g(X,Y) 와 같이 얻을 수 있다. X, Y에 대한 joint PMF나 joint PDF가 이미 있다면, 우리가 생각해 보아야 할 문제는 W에 대한 probability model을 이 joint PMF와 joint PDF에서 어떻게 이끌어 낼것인가 하는 것이다. Case I: Discrete RV 먼저 discrete RV인 X, Y에 대해서, 새롭게 얻고자 하는 random variable W의 sample space는 곧 g(X,Y)의 모든 가능한 value가 될 것이다. 그러면 W의 PMF는 X,Y의 joint PMF와 다음과 같은 관계를 갖는다. 여..