Probability Random Process 2
본 문서는 Bernoulli process와 Poisson process를 중심으로, inter-arrival time, split 및 merge 성질, competing exponential, Poisson random variable의 합, 그리고 random incidence phenomenon까지의 핵심 개념과 주요 수식을 정리한 것입니다.
확률적 도착 과정(random arrivals)을 직관적으로 이해하고자 합니다.
Bernoulli Process
정의
- 각 시간 슬롯에서 독립적으로
- arrival 발생: 확률 $p$
- arrival 없음: 확률 $1-p$
- 이를 $BP(p)$라고 정의합니다.
이산 시간에서 “도착 여부”를 모델링하는 가장 기본적인 과정입니다.
Inter-arrival Time
\[T \sim \mathrm{Geom}(p)\]다음 arrival까지 기다리는 슬롯 수는 geometric distribution을 따릅니다.
Example
\[P(\text{day } i \text{ and } j \text{ both arrival}) = p^2\]서로 다른 시간 슬롯은 독립이므로 단순 곱으로 계산됩니다.
Split
\[BP(pq), \quad BP(p(1-q))\]- 두 process는 independent가 아닙니다.
하나의 arrival이 keep 또는 discard 중 하나만 되므로 서로 영향을 줍니다.
Merge
\[BP(p + q - pq)\] \[P(\text{arrival}) = 1 - (1-p)(1-q)\]두 process 중 하나라도 arrival이 발생하면 merged process에서 arrival로 간주됩니다.
Poisson Process
정의
- 시간은 연속적이며 arrival rate는 $\lambda$입니다.
- 이를 $PP(\lambda)$라고 정의합니다.
연속 시간에서 random arrival을 모델링하는 대표적인 과정입니다.
Inter-arrival Time
\[T \sim \mathrm{Exp}(\lambda)\]arrival 간 시간 간격은 exponential distribution을 따르며, memoryless 성질을 가집니다.
Split (Poisson Process)
\[PP(\lambda p), \quad PP(\lambda (1-p))\]- 두 process는 independent입니다.
각 arrival을 독립적으로 선택(thinning)해도 Poisson 구조가 유지됩니다.
Merge (Poisson Process)
\[PP(\lambda_1 + \lambda_2)\]독립 Poisson process를 합치면 rate가 단순히 더해집니다.
Arrival Source Probability
\[P(\text{red}) = \frac{\lambda_1}{\lambda_1 + \lambda_2}\]merged process에서 각 arrival의 출처는 독립적으로 결정됩니다.
k개 중 red 개수
\[\mathrm{Binomial}\left(n, \frac{\lambda_1}{\lambda_1+\lambda_2}\right)\]각 arrival이 독립적으로 red/blue로 결정되므로 binomial 구조가 됩니다.
Competing Exponentials
\[T_a \sim \mathrm{Exp}(\lambda_a), \quad T_b \sim \mathrm{Exp}(\lambda_b)\] \[Z = \min(T_a, T_b)\] \[Z \sim \mathrm{Exp}(\lambda_a + \lambda_b)\]여러 exponential 중 가장 먼저 발생하는 사건은 rate가 합쳐진 exponential을 따릅니다.
여러 개 Exponential
\[E[T_1 + T_2 + \cdots + T_n] = \sum_{k=1}^n \frac{1}{k\lambda}\]경쟁하는 source 수가 줄어들수록 다음 arrival까지의 시간이 길어집니다.
Sum of Poisson Random Variables
\[X \sim \mathrm{Poisson}(\mu), \quad Y \sim \mathrm{Poisson}(\nu)\] \[X + Y \sim \mathrm{Poisson}(\mu + \nu)\]독립 Poisson random variable의 합은 다시 Poisson입니다.
Poisson Arrivals during Exponential Time
\[P(N_T = l) = \frac{\nu}{\lambda + \nu} \left(\frac{\lambda}{\lambda + \nu}\right)^l\]exponential 시간 동안의 arrival 개수는 geometric 형태를 따릅니다.
Poisson process를 하나 더 추가해 “first success” 문제로 해석할 수 있습니다.
Binomial Approximation
Poisson Approximation
\[\mathrm{Binomial}(n,p) \approx \mathrm{Poisson}(np)\]$p$가 매우 작고 $n$이 큰 경우(희귀 사건) 유효합니다.
Normal Approximation
\[\mathrm{Binomial}(n,p) \approx \mathcal{N}(np, np(1-p))\]$p$가 너무 작지 않고 $n$이 큰 경우 중심극한정리로 근사됩니다.
Random Incidence Phenomenon
\[L = (t^* - U) + (V - t^*)\]임의 시점이 포함된 inter-arrival interval을 분석합니다.
\[L = X_1 + X_2, \quad X_1, X_2 \sim \mathrm{Exp}(\lambda)\] \[L \sim \mathrm{Erlang}(2, \lambda)\]
단순 exponential이 아니라 두 개의 exponential 합(Erlang)이 됩니다.
평균
\[E[L] = \frac{2}{\lambda}\]비교
\[E[T] = \frac{1}{\lambda}, \quad E[L] = \frac{2}{\lambda}\]관측된 interval은 실제 평균보다 더 깁니다.
의미
- 임의 시점은 긴 interval에 더 잘 포함됩니다.
이를 length bias 또는 sampling bias로 해석할 수 있습니다.
Bus Example
\[M1 < M2\]승객 기준으로 샘플링하면 사람이 많은 버스가 더 자주 선택됩니다.
관측 방식에 따라 평균이 달라지는 대표적인 예시입니다.
맺음말
본 정리에서는 Bernoulli process와 Poisson process의 핵심 구조와 성질을 중심으로, inter-arrival time, split 및 merge, 그리고 다양한 확률 문제를 단순화하는 방법을 정리하였습니다.
Poisson process의 memoryless 성질과 merge 및 thinning 구조는 복잡한 문제를 직관적으로 해석하는 데 중요한 도구로 활용됩니다.
random incidence phenomenon을 통해 관찰 방식에 따라 기대값이 달라질 수 있음을 이해하는 것이 중요합니다.