随机过程 = 随时间演化的一串随机变量

1. 随机过程是什么 随机过程可以看成一族随机变量：

每个是某个时刻的随机结果。比如每秒是否有人到达银行、每局游戏是否胜利、每个时间点雷达是否探测到目标。

关键不是只看某一个，而是看整条随机路径，比如：

这类事件涉及整个序列。

2. Bernoulli 过程：离散时间的到达 Bernoulli 过程是独立同分布的 Bernoulli 随机变量序列：

可以理解成每个时间槽独立试一次，成功表示“有到达”。

它的核心性质是：

所以有“无记忆性”。比如已经等到第次试验还没成功，之后还要等多久，分布仍然是几何分布：

第次成功的时间是个几何随机变量之和：

因此：

并且服从 Pascal / negative binomial 型分布：

直觉：第次是第次成功，等价于前次里面正好有次成功，第次成功。

3. Bernoulli 过程的拆分与合并 如果原过程每格成功概率是，每次成功后以概率保留，那么保留下来的过程仍是 Bernoulli 过程，成功概率为：

丢弃的过程成功概率为：

如果两个独立 Bernoulli 过程成功概率分别是，合并后只要至少一个成功就记为成功，则合并过程成功概率是：

注意这里不是，因为两个过程可能同时成功，重复算了一次。

4. Poisson 过程：连续时间的到达 Poisson 过程是 Bernoulli 过程的连续时间极限。它描述“单位时间平均到达次”的过程。

在长度为的时间区间内，到达次数服从 Poisson 分布：

并且：

它有两个关键性质：

时间平移不变：只看区间长度，不看区间位置。

不相交区间独立：不同时间段的到达次数相互独立。

5. Poisson 过程的等待时间 第一次到达时间满足：

所以：

密度为：

这就是连续时间版的无记忆性。

第次到达时间：

其中独立同分布为。所以服从 Erlang 分布：

并且：

6. Poisson 过程合并 两个独立 Poisson 过程，速率分别为，合并后仍是 Poisson 过程，速率为：

下一次到达来自第一个过程的概率是：

总结

Bernoulli 是离散版 Poisson；Geometric 是离散版 Exponential；Pascal 是离散版 Erlang。

Poisson Process.

泊松分布的概率质量函数（PMF）

一个随机变量服从参数为的泊松分布（记作），那么：

• 它的概率质量函数是
• 它的期望值（均值）。

在泊松过程（Poisson Process）中，题目通常会给出一个速率（Rate），比如per hour（每小时人）。是单位时间内的期望次数（即速率）。

• 一旦限定了时间长度，在这个特定时间段内，事件发生的总期望次数就变成了。

在泊松过程中，是速率（单位时间的期望）。

• 概率质量函数中的，永远是你所考察的那个特定时间段内的总期望次数。
• 所以，当你考察前小时，总期望；当你考察后小时，总期望。

Erlang Distribution

方法一：微元法（基于概率密度的物理意义）

1. 设定事件 设为泊松过程中第个事件发生的时间。我们要找的概率密度函数。根据 PDF 的定义，在极短的时间区间内发生事件的概率为：

2. 拆解条件 “第个事件恰好落在区间内”这个事件，等价于同时满足以下两个独立条件：

• 条件 A：在时间内，恰好发生了个事件。
• 条件 B：在紧接着的极短时间内，恰好发生了个事件。

3. 计算概率

• 根据泊松分布，条件 A 的概率为：
• 在极短时间内，发生 1 次事件的概率近似为速率乘以时间（忽略高阶无穷小）：

4. 组合得出结果 由于泊松过程具有独立增量性，这两个条件相互独立，概率相乘：

两边消去，整理得到：证毕。

方法二：累积分布函数 (CDF) 求导法

建立离散事件数与连续时间的关系来证明。

1. 建立 CDF 设为第个事件在时间之前（或之时）发生的累积概率。 “第个事件在时间之前发生” 等价于 “在时间内，发生的事件总数至少为”。因此：为了方便求导，我们通常用减去它的补集：

2. 对时间求导 PDF 是 CDF 的导数：。常数的导数为，我们只需要对求和项求导。利用乘积法则：

将其代入求和式中：

注意第二项中，所以：

3. 级数消项 (Telescoping Series) 我们将求和符号展开，观察相邻项的抵消情况：

• 当时：（注意时第二项为0）
• 当时：
• 当时：
• …
• 当时：

你会发现，除了时的第一项（带负号），以及时的第一项外，中间的所有项都正负抵消了。

提取负号后，最终只剩下时的那一项：

整理后得到最终公式：证毕。