将随机过程解释为一个物理系统。X(t)表示在时刻t所处的状态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。

这是 http://cs.cqupt.edu.cn/users/858/docs/6360-1.doc 的 HTML 档。
G o o g l e 在网路漫游时会自动将档案转换成 HTML 网页来储存。
5

随机过程讲稿 第2章

第2章 随机过程的概念与基本类型

§2.1 随机过程的基本概念

初等概率论研究的主要对象是一个有限个随机变量（或随机向量），虽然我们有时也讨论了随机变量序列，但假定序列之间是相互独立的。随着科学技术的发展，我们必须对一些随机现象的变化过程进行研究，这就必须考虑无穷个随机变量的一次具体观测。这时，我们必须用一族随机变量才能刻划这种随机现象的全部统计规律性。

例1 生物群体的增长问题。在描述群体的发展或演变过程中，以表示在时刻t群体的个数，则对每一个t，是一个随机变量。假设我们从t=0开始每隔24小时对群体的次数观测一次，则是随机过程。

例2 某电话交换台在时间段[0，t]内接到的呼唤次数是与t有关的随机变量X(t)，对于固定的t，X(t)是一个取非负整数的随机变量。故{X(t)，t∈[0,∞]}是随机过程。

抛掷一枚硬币的试验，样本空间是，定义随机变量



例3 在天气预报中，若以表示某地区第t次统计所得到的该天最高气温，则是随机变量。为了预报该地区未来的气温，我们必须研究随机过程的统计规律性。

例4 在海浪分析中，需要观测某固定点处海平面的垂直震动。设X(t)表示在时刻t处的海平面对于平均海平面的高度，则X(t)是随机变量，而{X(t),t∈[0,∞]}是随机过程。

以上例子说明，必须扩大概率论的研究范围，讨论随机过程的有关性质。为此，我们给出随机过程的一般定义。

定义2.1 设（）是概率空间,T是给定的参数集,若对每个t∈T，有一个随机变量X(t,e)与之对应，则称随机变量族是（）的随机过程,简记为随机过程。T称为参数集，通常表示时间。

通常将随机过程解释为一个物理系统。X(t)表示在时刻t所处的状态。X(t)的所有可能状态所构成的集合称为状态空间或相空间，记为I。

值得注意的是参数t可以指通常的时间，也可以指别的；当t是向量时，则称此随机过程为随机场。为了简单起见，我们以后总是假设R=(-∞,∞)。

从数学的观点来说，随机过程是定义在T×Ω上的二元函数。对固定的t，X(t,e)是定义在T上的普通函数，称为随机过程的一个样本函数或轨道，样本函数的全体称为样本函数的空间。

根据参数T及状态空间I是可列集或非可列集，可以把随机过程分为以下四种类型：

(1)T和I都是可列的；

(2)T非可列，I可列；

(3)T可列，I非可列；

(4)T和I都非可列。

参数集T可列（即(1)，(3)情形）的随机过程也为随机序列或时间序列，一般用{，t=0,±1,±2,…}表示。状态空间I可列（即(2)，(4)情形）的随机过程也称为可列过程。显然例1至例4分别对应于上述(1)～(4)的情况。

随机过程的分类，除上述按参数集T与状态空间I是否可列外，还可以进一步根据之间的概率关系进行分类，如独立增量过程，马尔可夫过程，平稳过程和鞅过程等。

§ 2.2 随即过程的函数特征

定义2.2 设={X(t),t∈T }是随机过程，对任意n≥1和∈T ,随机向量的联合分布函数为:



这些分布函数的全体



称为={X(t),t∈T }的有限维分布函数族。

={X(t),t∈T }的有限维分布函数族具有性质：

(1)对称性 对于{}的任意排列{}



(2)相容性 当m


定理1（Kolmogorov存在定理）设已给参数集T及满足对称性和相容性条件的分布函数族F,则必存在概率空间（）及定义在其上的随机过程{X(t),t∈T },它的有限维分布函数族是F 。

由于随机变量的分布函数和特征函数的一一对应关系，随机过程的概率特征也可以通过随机过程的有限维特征函数族：



来完整描述，其中：



定义2.3 设={X(t),t∈T }是随机过程，如果对任意t∈T ,E[X(t)]存在，则称函数

，

为的均值函数。

若对任意t∈T ,E[(X(t))]存在，则称为二阶矩过程，而称

∈

为的协方差函数。



为的方差函数



为相关函数。

均值函数是随机过程{X(t),t∈T }在时刻t的平均值，方差函数是随机过程在时刻t对的偏离程度，而协方差函数和相关函数则反映随机过程{X(t),t∈T }在时刻s和t时的线性相关程度。

例1 设随机过程



其中，是相互独立的随机变量，且，。求此随机过程的均值函数和协方差函数。

例2 设随机过程



其中，是相互独立的N(0,1)随机变量，求此随机过程的一、二维概率密度族。

定义2.4 设是两个二阶矩过程，则称

∈

为与的互协方差函数，称



为与的互相关函数。

若对任意s,t∈T ,有=0,则称与互不相关。

显然有:



例3 设有两个随机过程和，其中和都是周期为L的周期方波，是(0,L)上服从均匀分布的随机变量。求互相关函数的表达式。

例4 设{X(t),t∈T }，{Y(t),t∈T }是两个二阶矩过程，则



两个随机过程之和的相关函数可以表示为各个随机过程的相关函数与它们的互相关函数之和。

§ 2.3 复随机过程

工程中，常把随机过程表示成复数形式来进行研究．下面我们讨论复随机过程的概念和数字特征．

定义 2.5 设，是取实数值的两个随机过程，若对任意

，

其中 ，则称为复随机过程．

当和是二阶矩过程时，其均值函数、方差函数、相关函数和协方差函数的定义如下：

，

，

，

由定义，易见

＝－．

复随机过程的协方差函数具有如下重要性质．

定理 2.2 复随机过程的协方差函数 具有性质

（1）对称性：；

（2）非负定性：对任意及复数，

．

证 （1）



．

（2）

＝}

＝

＝．

例 2.9 设复随机过程 ，其中是相互独立的，且服从的随机变量，是常数，求的均值函数和相关函数．

解： (t)＝＝；



＝

＝

＝

两个复随机过程｛｝，｛｝的互相关函数定义为

．

互协方差函数定义为



§2.4 几种重要的随机过程

随机过程是研究随机现象变化过程的概率规律的理论。它可以根据参数空间，状态空间是离散的，还是非离散的进行分类，也可以根据随机过程的概率结构进行分类。在本节，我们简单的介绍集中常用的随机过程。

一、正交增量过程

定义2.6 设是零均值的二阶矩过程，若对任意的有公式

，

则称正交增量过程。

由定义可知，正交增量过程的协方差函数可以有它的方差确定。事实上，不妨设为有限区间，且规定=0，取则当时，有



故









同理，当时，有



于是



二、独立增量过程

定义2.7 设是随机过程，若对任意的正整数和随机变量是互相独立的，则称是独立增量过程，又称可加过程。

这种过程的特点是：它在任意一个时间间隔上过程状态的改变，不影响热和一个与它不相重叠的时间间隔上状态的改变。实际中，如服务系统在某段时间间隔内的“顾客”数，电话传呼站电话的“呼叫”数等均可用这种过程来描述。因为在不相重叠的时间间隔内，来到的“顾客”数，“呼叫”数都是相互独立的。

正交增量过程与独立增量过程都是根据不相重叠的时间区间上增量的统计相依性来定义的，前者增量是互不相关的，后者增量是相互独立的。显然，正交增量过程不是独立增量过程，而独立增量过程只有在二阶矩存在，且均值函数恒为零的条件下是正交增量过程。

定义 2.8 设是平稳独立增量过程，若对任意随机变量的分布仅依赖于，则称是平稳独立增量过程。

例2.10 考虑一种设备（它可以是灯泡，汽车轮胎或某种电子元件）一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，记作，则相继换上的设备寿命是与同分布的独立随机变量其中为第个设备的使用寿命。设为在时间段内更换设备的件数，则是随机过程，对于任意分别表示在时间段更换设备的件数，可以认为它们是相互独立的随机变量，所以是独立增量过程。另外，对于任意的分布仅依赖于故是平稳独立增量过程。

三、马尔可夫过程

定义2.9设为随机过程，若对任意正整数n及,，且其条件分布

=，(2.6)

则称为马尔可夫过程。

(2.6)式称为过程的马尔可夫性（或无后效性），它表示若已知系统的现在状态，则系统未来所处的状态的概率规律性就已确定，而不管系统是如何达到现在的状态。换句话说，若把看作“现在”，则就是“未来”，而就是“过去”，“”表示系统在时刻处于状态。（2.6）式说明，系统在已知现在所处状态的条件下，它将来所处的状态与过去所处的状态无关。很多实际问题都具有这种无后效性。例如，生物基因遗传从这一代到下一代的转移中仅依赖于这一代而与以往各代无关。再如，每当评估一个复杂的计算机系统的性能时，就要充分利用系统在各个时刻的状态演变所具有的通常概率特性：即系统下一个将到达的状态，仅依赖于目前所处的状态，而与以往所处的状态无关。

马尔可夫过程，其状态空间I和参数T可以是连续的，也可以是离散的。有关马尔可夫过程的进一步讨论，我们将在第四章和第五章进行。

四、正态过程和维纳过程

定义 2.10 设是随机过程，若对任意正整数n和,(,)是n维正态随机变量，则称是正态过程或高斯过程。

由于正态过程的一阶矩和二阶矩存在，所以正态过程是二阶矩过程。

显然，正态过程只要知道其均值函数和协方差函数（或相关函数），即可确定其有限维分布。

正态过程在随机过程中的重要性，类似于正态随机变量在概率论中的地位，这是由于在实际问题中，尤其是在电讯技术中状态过程有着广泛的应用。正态过程的一种特殊情形――维纳过程，在现代随机过程理论和应用中也有着重要意义。

定义 2.11 设为随机过程，如果

（1）；

（2）它是独立、平稳增量过程；

（3）对，增量，则称为维纳过程，也称布朗运动过程。

这类过程常用来描述布朗运动，通信中的电流热噪声等。

定理 2.3 设是参数为的维纳过程，则

（1） 任意t,；

（2） 对任意,

,

特别： 。

证 ：（1）显然。下证（2），不妨设。

则：



所以



证毕。

五、平稳过程

平稳过程是一类应用十分广泛的随机过程，它在雷达、通信等随机信号分析中起着非常重要的作用。将随机过程划分为平稳和非平稳过程有着重要意义，因为若随机过程是平稳的，那么可使问题的分析大大简化。

定义 2.12 设是随机过程，如果对任意常数和正整数当时，

与有相同的联合分布，则称为严平稳过程，也称狭义平稳过程。

严平稳过程所描述的物理系统，其概率特征不随时间的推移而改变，特别地，对任意tÎT，X(t)的概率分布相同。一般说来，严格用定义来判断某个随机过程的严平稳性是很困难的，但是若产生随机过程的主要物理条件在时间进程中不改变，则此过程就可以认为是严平稳的随机过程。

由于随机过程的有限维分布有时无法确定，下面给出一种在应用上和理论上更为重要的另一种平稳过程的概念。

定义 2.13 设是随机过程，如果

（1）是二阶矩过程；

（2）对于任意常数；

（3）对任意的，则称为广义平稳过程，简称为平稳过程。

若T为离散集，则称平稳过程为平稳序列。

显然，广义平稳过程不一定是严平稳过程反之，严平稳过程只有当二阶矩存在时为广义平稳过程。值得注意的是，对正态平稳过程而言，二者是一样的，这是因为正态过程的有限维分布完全是由其均值函数和协方差函数所确定。

判断某一随机过程为广义平稳，必须依据定义 2.13。

例2.12 设随机过程

，

其中，Y，Z是相互独立的随机过程，且，则可知，故为广义平稳过程。