개요 이전의 conditional expected value E[X|Y]의 expected value E[E[X|Y]]은 꽤 흥미로운 결과로 마무리 된다. 우리는 E[E[X|Y]]를 두 단계에 걸쳐 얻을 수 있다. 먼저 g(y) = E[X|Y = y]를 계산하고, derived function에 대한 expected value, 즉 E[g(Y)]를 구하는 것이다. 이 두 단계의 과정을 iterated expectation이라고 한다. (Iterate는 '반복되다'라는 뜻이다.) 정리 1 E[E[X|Y]] = E[X] Iterated expectation의 결과는 곧 X의 expected value와 같다. 증명은 아래와 같이 할 수 있다. 먼저 expected value의 정리에 따라서 위와 같이 쓸 수..

Conditional PMF 이전 포스트에서 어떤 event를 가지고 conditioning을 했었다. 그렇다면, 만약 어떤 event B가 {X = x}이거나 {Y = y}와 같은 case라면 어떨까. P_Y(y) > 0 인 event Y = y에 대한 X의 conditional PMF는 다음과 같이 정의된다. 이것의 의미는 Y가 가질 수 있는 각각의 값에 대해, 각각의 conditional PMF가 정의될 수 있다는 것이다. 한편, X와 Y의 joint PMF와 conditional PMF의 관계는 다음과 같다. 이에 대한 증명은, 와 같이 conditional PMF의 정의로 부터 얻을 수 있다. Notation 자체가 상당히 머리에 와닿지 않는 편인데, 예제를 살펴보면 좀 더 이해가 쉬울 것 같다..

Conditional Joint PMF Discrete random variable X, Y에 대해서 어떤 event B (P[B] > 0)에 대한 X와 Y의 conditional joint PMF는 다음과 같이 정의된다. 이로 부터 다음이 성립한다. 이전의 discrete RV에서의 conditioning과 크게 다를 것이 없는것이다. 다음의 예제를 살펴보자. 왼쪽과 같은 joint PMF가 있을 때, 'X + Y ≤ 4' 라는 event에 대해서 conditional joint PMF를 구해야 한다면, 먼저 해당 event에 속하는 outcome들의 확률을 파악한 다음, 원래의 joint PMF에서 그만큼 나눠주면 된다. 즉, 여기서 해당되는 점들은 1/4, 1/8, 1/8, 1/12의 값을 갖는 지..

Conditional PDF Given an Event Random variable X와 그의 PDF f_X(x)에 대해서 P[B] > 0인 event B ⊂ S_X 에 대해서, event B에 대한 X의 conditional PDF는 다음과 같이 정의한다. 일반적으로 어떤 event B가 발생했을 때, 우리는 random variable X에 대해 conditional probability model을 정의할 수 있다. 함수 f_X|B(x)는 X와 관련되어 새롭게 만들어진 random variable에 대한 probability model이라고 할 수 있다. 따라서, 이는 다른 여타 PDF와 같은 성질을 갖게된다. 예를 들어 모든 x 범위에 대한 integral값은 역시 마찬가지로 1이다. 또한, 어떤..

Conditional Probability Mass Function 어떤 event A (P[A]>0)에 대해서, random variable X의 conditional PMF는 다음과 같이 정의된다. 이전 포스트에서 우리는 conditional probability에 대해 다뤘다. 이는 PMF에도 적용할 수 있다. 즉, 어떤 특정 event가 발생했을 조건하에 probability mass function가 정의될 수 있다. 이전의 theorem을 이용하면, 여러개의 conditional PMF를 이용해서 overall PMF를 이끌어 낼 수 있다. 어떤 random variable X에 대해 event space B_1, B_2, ... , B_m 이 존재할때 다음이 성립한다. 이전에 다뤘던 law ..