Electronics/Stochastic Processes
-
2012.02.11 [Continuous RV] Continuous Sample Space
개념 지금까지 우리는 discrete RV에 대해 알아보았다. Discrete RV의 범위는 countable set 으로 나타낼 수 있었다. 여기서부터는 'inteval'이라고 불리는 숫자 구간에 포함되는 모든 실수를 원소로 하는 set이 있을 때, 그 set을 sample space로 갖는 'continuous random variable'에 대해 다루려고 한다. 이 때의 sample space를 continuous sample space라고 한다. 일반적으로 4가지 종류의 continuous set이 존재할 수 있는데, a < b 인 어떤 두 수, a, b가 있을 때, interval의 각 끝은 open interval, 또는 close interval이 될 수 있다. 즉, a < x < b, a
-
2012.02.10 [Discrete RV] Conditional PMF and Expected Value
Conditional Probability Mass Function 어떤 event A (P[A]>0)에 대해서, random variable X의 conditional PMF는 다음과 같이 정의된다. 이전 포스트에서 우리는 conditional probability에 대해 다뤘다. 이는 PMF에도 적용할 수 있다. 즉, 어떤 특정 event가 발생했을 조건하에 probability mass function가 정의될 수 있다. 이전의 theorem을 이용하면, 여러개의 conditional PMF를 이용해서 overall PMF를 이끌어 낼 수 있다. 어떤 random variable X에 대해 event space B_1, B_2, ... , B_m 이 존재할때 다음이 성립한다. 이전에 다뤘던 law ..
-
2012.02.09 [Discrete RV] Variance and Standard Deviation
정의 Average 이외에 어떤 probability model을 설명할 수있는 요소로 variance와 standard deviation을 들 수있다. 이미 '분산'과 '표준편차'로 익숙한 것들이다. 먼저 어떻게 정의되는지 살펴보자. Variance Standard Deviation 먼저 어떤 RV X의 variance는 VAR[X]와 같이 표현한다. 식을 살펴보면, '평균과 가능한 outcome의 차이를 제곱한 것'의 평균을 구한 것으로, 제곱을 하지 않으면 평균과 outcome의 차이가 음의 값이 나오게 되는 경우에 전체 평균이 상쇄되어, 분산, 즉, 각 outcome간의 거리가 얼만큼씩 벌어져 있는지를 나타내는 수치에 의미가 없어지게 된다. 따라서, 제곱을 해줌으로써 그 값이 항상 양수가 나오도록..
-
2012.02.06 [Discrete RV] Expected Value
Averages 흔히 말하는 평균(average)은 전체 숫자의 합을 개수로 나눈것을 말한다. 하지만 평균에는 몇 가지 종류가 있는데, 그 중 여기서는 mode, median, mean의 세가지에 대해 짚고 넘어가겠다. mode는 '최빈값'이라는 의미를 가지고 있다. 즉, 가장 빈번하게 나타나는 숫자를 나타낸다. Mode Random variable X의 mode x_mod는 다음과 같이 정의된다. 여기서는 outcome들 중 확률이 가장 높은 x_mod 값을 mode라고 할 수 있다. 다만 mode값이 하나 이상이 될 수 있으며, sample space의 구성이 숫자로 되어 있지 않더라도 mode를 구할 수 있다. Median Random variable X의 median x_med는 다음과 같이 정의..
-
2012.02.05 [Discrete RV] Cumulative Distribution Function (CDF)
정의 CDF를 그대로 해석하면 누적확률 분포함수가 된다. 다시 말해서 어떤 random variable X가 x이하일 확률을 나타내는 함수다. PMF와 마찬가지로 CDF역시 discrete RV가 나타내는 probability model을 완벽히 설명해 준다. 관련 정리 1 (a)는 CDF가 0에서 시작해서 1에서 끝난다는 것을 나타내고 있다. (b)를 보면 CDF는 항상 증가하는 함수 (단조 증가함수; increasing function)임을 알 수 있다. 한편 (c)에서는 특정 지점에서 값이 갑자기 변한다는 것을 알려주고 있다. (discontinuity) 다시 말해서 CDF의 그래프를 그리면 항상 계단형의 그래프가 나오게 되는 것이다. x_i는 sample space에 포함되어있기 때문에 극히 작은..
-
2012.02.05 [Discrete RV] Named Types of Discrete RV
본론에 앞서 이번 포스트에서는 몇몇 주요한 discrete RV들에 대해서 다뤄보려고 한다. 실제 응용에 있어서 많은 model들을 여기서 소개하게 될 discrete RV들을 통해 modeling할 수 있다. 그만큼 여기서 소개할 내용들이 앞으로의 discrete RV part의 대부분의 중심 내용이 될 것이다. Bernoulli Random Variable PMF가 위와 같은 꼴을 가지는 RV는 Bernoulli RV라고 한다. 일반적으로 Bernoulli(p)와 같은 형태로 간단히 표시할 수 있다. Success & failure model을 설명하는데 가장 적합한 RV의 형태라고 할 수 있다. 가장 간단한 예로는 동전던지기를 들 수 있다. 앞면과 뒷면이 나올 확률이 동일하다면 p = 1/2로 설정..