西安电子科技大学讲义-随过程

时间:2022-06-17 16:35:04 浏览量:

  第一章 随机过程

 本章主要内容:

 随机过程的基本概念 ● 随机过程的数字特征 ● 随机过程的微分和积分计算 ● 随机过程的平稳性和遍历性 ● 随机过程的相关函数及其性质 ● 复随机过程 ● 正态分布的随机过程

 第一章我们介绍了随机变量,随机变量是一个与时间无关的量,随机变量的某个结果,是一个确定的数值。例如,骰子的 6 面,点数

 总是 1~6,假设 A 面点数为 1,那么无论你何时投掷成 A 面,它的点数都是 1,不会出现其它的结果,即结果具有同一性。但生活中,许多参量是随时间变化的,如测量接收机的电压,它是一个随时间变化的曲线;又如频率源的输出频率,它随温度变化,所以有个频率稳定度的范围的概念(即偏离标称频率的最大范围)。这些随时间变化的随机变量就称为随机过程。

 显然,随机过程是由随机变量构成,又与时间相关。

 1.1 随机过程的基本概念及统计特性

  1.1.1

 随机过程的 定义 现在我们进一步论述随机过程的概念。当对接收机的噪声电压作“单次”观察时,可以得到波形 ) (1t x ,也可能得到波形 ) (2t x ,) (3t x 等等,每次观测的波形的具体形状,虽然事先不知道,但肯定为所有可能的波形中的一个。而这些所有可能的波形集合 ) (1t x ,) (2t x , ) (3t x ,…, ) (t x n ,…..,就构成了随机过程 ) (t X 。

  图 1.1

 噪声电压的起伏波形 1. 样本函数:

 ) (1t x , ) (2t x , ) (3t x ,…, ) (t x n ,都是时间的函数,称为样本函数。

 2. 随机性:一次试验,随机过程必取一个样本函数,但所取的样本函数带有随机性。因此,随机过程不仅是时间 t 的函数,还是可能结果   的函数,记为 ) , (   t X ,简写成 ) (t X 。

 3. 随机过程的定义:

  定义 1 把随机过程看成一族样本函数。

  4. 定义的理解 上面两种随机过程的定义,从两个角度描述了随机过程。具体的

 说,作观测时,常用定义 1,这样通过观测的试验样本来得到随机过程的统计特性;对随机过程作理论分析时,常用定义 2,这样可以把随机过程看成为 n 维随机变量,n 越大,采样时间越小,所得到的统计特性越准确。

 因此,可从以下 4 个方面对定义进行理解。

  1.1.2

  随机过程的分类 随机过程的分类方法有多种,可以按是否连续来分类,也可以按样本函数的形式来分类,还可以按概率分布的特性来分类。

 1、 按随机过程的时间和状态来分类 ● 连续型随机过程:对随机过程任一时刻 t 1 的取值 ) (1t X 都是连续型随机变量。

 ● 离散型随机过程:对随机过程任一时刻 t 1 的取值 ) (1t X 都是离散型随机变量。

 ● 连续随机序列:随机过程的时间 t 只能取某些时刻,如 t   ,2 t   ,…..,n t   ,且这时得到的随机变量 ) ( t n X   是连续型随机变量,即时间是离散的。相当于对连续型随机过程的采样。

 ● 离散随机序列:随机过程的时间 t 只能取某些时刻,如 t   ,

 2 t   ,…..,n t   ,且这时得到的随机变量 ) ( t n X   是离散型随机变量,即时间和状态都离散。相当于采样后再量化。

 2、 按样本函数的形式来分类 ● 不确定的随机过程:随机过程的任意样本函数的值不能被预测。例如接收机噪声电压波形。

 ● 确定的随机过程。随机过程的任意样本函数的值能被预测。例如,样本函数为正弦信号。

 3、 按概率分布的特性来分类 这是一种更为本质的分类方法,可分为:平稳随机过程,正态随机过程,马尔可夫过程,独立增量过程,独立随机过程和瑞利随机过程等等。

  1.1.3

 随机过程的概率分布 前面说过,用定义 2 分析随机过程方便,也就是说,把随机过程) (t X 看成 n 维随机变量 ),... ( ),...., ( ), (2 1 nt X t X t X 的集合(n 趋向无穷,且1       i it t t 相当小)。这样,就把多维随机变量的研究代替随机过程的研究,这样的代替足够精细。

 1、一维概率分布 定义:

  由于 t 1 是任一时刻,因此,常把 ) , (1 1t x F X 简写成 ) , ( t x F X 。

 如果 ) , ( t x F X 的偏倒数存在,则:

 xt x Ft x fXX   ) , () , ( 为随机过程 ) (t X 的一维概率密度函数。

 注意:在此定义中,首先固定了时间 t,这样就得到了 t 时刻的随机变量 ) (t X (t 可以是任意时刻),这种分析方法后面经常用到。显然,随机过程的一维概率密度是时间 t 的函数,其性质与一维随机变量的性质一样。

 2 2 、二维概率分布

  随机过程的二维概率分布反映了随机过程 X(t)任意两个时刻状态

 之间的联系。通过求边沿分布可以分别求出两个一维边沿分布) , (1 1t x f X 和 ) , (2 2t x f X 。

  3 3、 、 n n 维概率分布

  同 理 , 它 具 有 多 维 随 机 变 量 的 性 质 。

 1.1.4 随机过程的数字特征

 随机变量的数字特征通常是确定值;随机过程的数字特征通常是确定性函数,因此,对随机过程的数字特征可以采用“信号与系统”中学习的各种对确定性信号的处理方法。

 对随机过程的数字特征的计算方法,是先把时间 t 固定,然后用随机变量的分析方法来计算(这时随机过程可以理解为:

 ) (t X 为随机变量(t 为任意时刻)

 1 1 、数学期望

 图 1.2 随机过程 ) (t X 的数学期望 物理意义:如果随机过程 ) (t X 表示接收机的输出电压,那么它的数学期望就是输出电压的瞬时统计平均值。

 2 2、 、 均方值和方差

 定义:随机过程 ) (t X 在任一时刻 t 的取值是一个随机变量) (t X 。我们把 ) (t X 二阶原点矩称为随机过程的均方值,把二阶中心矩记作随机过程的方差。即:

  注意:

 )] ( [2t X E 和 )] ( [ t X D 都是确定性函数, )] ( [ t X D 描述了随机过程偏离其数学期望的程度。比较方差与均方值的关系,显然有:

  物理意义:如果 ) (t X 表示噪声电压,则均方值 )] ( [2t X E 和方差 )] ( [ t X D 分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。

 标准差或均方差:

 ) ( )] ( [ t t X DX  =

 3 3、 、 自相关函数

 先比较具有相同数学期望和方差的两个随机过程。

 图 1.3

 具有相同数学期望和方差的两个不同的随机过程

  定义:自相关函数用来描述随机过程任意两个时刻的状态之间的内在联系, 通常用 ) , (2 1t t R X 描述。

  当 t 1 =t 2 时,自相关函数就是均方值。

 a) 自协方差函数 若用随机过程的两个不同时刻之间的二阶混合中心矩来定义相关函数,我们称之为自协方差。用 ) , (2 1t t K X 表示,它反映了任意两个时刻的起伏值之间相关程度。

 =2 1 2 1 1)] 2 ( )][ ( [ dx dx t m x t m xX X           - - b) 比较自协方差和自相关函数的关系

 c) 比较自协方差和方差的关系

  4、 随机过程的特征函数 a) 一维特征函数 随机过程 ) (t X 在任一特定时刻 t 的取值 ) (t X 是一维随机变量,其特征函数为:          dx t x f e e E t u CXjux t juXX) ; ( ) ( ) ; () (

 其反变换为:

         du e t u C t x fjuxX X) ; (21) ; ( 

  这里, ) ; ( t x f X 为随机过程 ) (t X 的一维概率密度。

 b) 二维特征函数

  c) n 维特征函数

  1.2 时间连续随机过程微分和积分

 随机过程的微分和积分运算类似于一般的函数的微积分运算,但

 由于涉及极限和收敛问题,因而略有不同。

 1 1.2.1 随机 过程的连续型 1、 预备知识:对于确定性函数 ) (x f ,若 0 )] ( ) ( [ lim00        x f x x fx,则 ) (x f 在0x 处连续。

 2、 随机过程 ) (t X 连续性定义

 3、 随机过程 ) (t X 的相关函数连续,则 ) (t X 连续

 4、 随机过程 ) (t X 均方连续,则其数学期望连续

 由均方连续的定义, 0   t ,则不等式左端趋于 0,那么不等式的右端也必趋于 0(均值的平方不可能小于 0)。

 即 :0 )] ( [ )] ( [ )] ( ) ( [                t X E t t X E t X t t X E

 注意 )] ( [ t X E 为确定性函数,由预备知识,可知 )] ( [ t X E 连续。

  1.2.2

  随机过程的导数 预备知识:对于一般确定性函数,高等数学给出的可导定义如下:

 一阶可导:如果tt f t t ft         ) ( ) (lim0存在,则 ) (t f 在 t 处可导,记为 ) (tf  。

 二 阶 可 导 :hkt s f k t s f t h s f k t h s fkh) , ( ) , ( ) , ( ) , (lim00             存在,则 ) , ( t s f 二阶可导,记为t st s f     ) , (2 1、 随机过程可导的定义

  2、 判别方法 由于上面的 ) (tX 是未知的,判断一个随机过程是否均方可微的方法是采用柯西准则。即下面式子成立,则随机过程均方可微(书上证明中 t 的下标有错)。

 0 ] )) ( ) ( ) ( ) ([( lim222 2 211 1 10 ,2 1                  tt X t t Xtt X t t XEt t

 证明:

 ] )) ( ) ( ) ( ) ([(222 2 211 1 1tt X t t Xtt X t t XE              )] , ( ) , ( ) , ( ) , ( [1)] , ( ) , ( ) , ( ) , ( [1)] , ( ) , ( ) , ( ) , ( [12 2 1 2 1 1 2 1 2 2 1 12 12 2 2 2 2 2 2 2 2 2 2 2221 1 1 1 1 1 1 1 1 1 1 121t t t R t t t R t t R t t t t Rt tt t t R t t t R t t R t t t t Rtt t t R t t t R t t R t t t t RtX X X XX X X XX X X X                                                                 +++ 注意上式右端已经不含有随机变量,由预备知识中的确定性函数可导定义,

  ] )) ( ) ( ) ( ) ([( lim222 2 211 1 10 ,2 1 tt X t t Xtt X t t XEt t      

 3、 数字特征 (1)

 随机过程导数的数学期望等于其数学期望的导数

 证明:

 ]) ( ) (lim [ ]) ([0 tt X t t XEdtt dXEt          

 交换极限和数学期望顺序,得

  =tt m t t mtt X t t XEX Xt t                   ) ( ) (lim ]) ( ) ([ lim0 0 由确定性函数可导定义得

  =dtt dmt mXX) () (    

 (2)

 随机过程导数的相关函数等于可微随机过程的相关函数的混合偏导数

 即:2 12 122 1) , ()] ( ) ( [t tt t Rt X t X EX         

 证明:

 ]) ( ) (.) ( ) (lim [ )] ( ) ( [22 2 211 1 1002 121 tt X t t Xtt X t t XE t X t X Ett                     

  = ]) ( ) (.) ( ) ([ lim22 2 211 1 10021 tt X t t Xtt X t t XEtt                 = 2 12 1 2 1 1 2 2 1 2 2 1 100) , ( ) , ( ) , ( ) , (lim21 t tt t R t t t R t t t R t t t t RX X X Xtt                            =2 12 12) , (t tt t R X    (由确定性函数二阶可导定义)

 1.2.3 随机过程的积分 1 1 、预备知识

 对于确定性函数 ) (x f ,       banii ix f dx x f10) ( lim ) (   ,其中,1       i i ix x x ,     n i x i ,...., 2 , 1 , max        

 2 2、 、 随机过程积分的定义

 若

  过程。

 3 3、 、 随机过程积分的数学期望等于随机过程数学期望的积分。

  即:

  (注意 Y 为随机变量)

 a) 随机过程积分的均方值和方差 随机过程积分的均方值等于随机过程自相关函数的二重积分;其方差为随机过程协方差的二重积分。

 过程的积分的平方可以写成二重定积分的形式:

 b) 随机过程积分的相关函数:等于对随机过程的相关函数作两次变上限积分(现对 t 1 ,后对 t 2 积分)

  注意,此处定义的积分是变上限的,与前面的不同,因此) ( ), (2 1t Y t Y 是随机过程。

 1.3 平稳随

 机过程和遍历性过程

 在通信中,常常把稳定状态下的随机过程,当作平稳随机过程来处理,这样,对这个随机过程任何时候来测量,都会得到同样的结果,从而大大简化了数学模型。对一些非平稳的随机过程,在较短的时间内,常常把它作为平稳随机过程来处理。

 然而,对于一个平稳过程,计算其一阶和二阶统计特性是很困难的,而计算其一定时间内的算术平均值相对容易。如果其统计特性与算术平均特性在概率意义下相等,我们称之为遍历性,也叫各态历经性。

 1 1.3.1 平稳随机过程 平稳随机过程可以分为严平稳随机过程和宽平稳随机过程两种。

 1、 严平稳随机过程(侠义平稳过程)

 (1 1 )定义

 设有随机过程 ) (t X ,若它的 n

 (2 2 )特点

  (3 3 )严平稳随机过程的数字特征

  因 为 :) ( ) 0 , ( ) , ( ) , (1 1 1 1 1 11x f x f t x f t x fX XtX X             令

 与时间无关。

  解 :

 由 严 平 稳 定 义 , 对 二 维 概 率 密 度 ,

 (4 4 )严平稳的判断

 按照严平稳的定义,判断一个随机过程是否为严平稳,需要知道其 n 维概率密度,可是求 n 维概率密度是比较困难的。不过,如果有一个反例,就可以判断某随机过程不是严平稳的,具体方法有两个:

 i. 若 ) (t X 为严平稳,k 为任意正整数,则 )] ( [ t X Ek与时间 t 无关。

 ii. 若 ) (t X 为严平稳,则对于任一时刻 t 0 , ) (0t X 具有相同的统计特性。

 用随机过程 ) (t X 的 3 阶矩与 t 有关来判断 ) (t X 不是严平稳,此时也可采用方法是:

 分别令 t=0,t=02   ,带入 t B t A t X0 0sin cos ) (         ,得两个随机变量 A 和 B,因为它们的概率密度不同,一般来说) 2 ( ) ( ) (     k B E A Ek k(例题假设两者均值和方差相等),因此 ) (t X 不是严平稳的。

 2、 宽平稳随机过程(广义平稳过程,平稳过程)

 由求 n 维概率密度比较困难,有时只用到一、二阶矩,例如功率(均方值和方差)和功率谱密度(自相关函数),因此,平稳性的定义不需要那么严格。

  严平稳与宽平稳的关系:严平稳过程的均方值有界,则此过程为宽平稳的,反之不成立。对于正态过程,严平稳与宽平稳等价。

 由宽平稳的三个条件可知,此为(宽)平稳过程。

  3 3 、平稳随机过程的性质

 性质 1:

 ―――――指平稳随机过程的平均功率。

 性质 2:

 , ――平稳过程的自相关函数(协方差)为偶函数。

 性质 3:

 , ――平稳过程的自相关函数(协方差)在 0 =  时有最大值。

  性 质 4 :

 对 周 期 性 平 稳 过 程 , X(t)=X(t+T) , T 为 周 期 , 有) ( ) ( T R R         。

 性质 5:若平稳过程 ) (t X 含有一个周期分量,则 ) (  XR 含有同一个周期分量。(证略)

 性质 6:若平稳随机过程 ) (t X 不含有任何周期分量,则 ,

 性质 7:若平稳过程含有平均分量(均值)Xm ,则相关函数也含有平均分量,且等于2Xm 。即2) ( ) (X X Xm K R         ;若 ) (t X 是非周期的,则 ) ( ) 0 (2     X X XR R   。

 性质 8:平稳随机过程必须满足      -0 ) (     de RjX对所有  均成立。

 ―――自相关函数的付氏变换非负,这要求相关函数连续(平顶,垂直边均是非连续)。相关函数(协方差)的典型曲线如下:

 图 1.4 相关函数的典型曲线 性质 9:平稳过程的相关系数和相关时间 a)相关系数:

 定义:

 称为随机过程

 X(t)的相关系数。显然,此值在[-1,1]之间。

 0 ) (    Xr 表示不相关,1 ) (    Xr 表示完全相关。

 0 ) (    Xr 表示正相关,表明两个不同时刻起伏值(随机变量-均值)之间符号相同可能性大。

 b)相关时间 定义:当相关系数中的时间间隔   大于某个值,可以认为两个不同时刻起伏值不相关了,这个时间就称为相关时间。

 通常把相关系数的绝对值小于0.05的时间间隔   ,记做相关时间,即:

 05 . 0 ) (0   Xr 时的时间间隔0  为相关时间。

  图 1.5 相关时间0 (或0  )的定义 相关时间的物理意义:

  ( 01 Xm )

 2 1.3.2 遍历性或各态历经性 随机过程时一族样本函数的集合,因此,要得到随机过程的统计特性,就需要对大量的样本函数进行统计平均或综合平均,很不方便。由于平稳随机过程与时间起点无关,对一个样本函数进行时间平均是否能得到概率意义下的统计平均呢?答案是肯定的―――这样的随机过程称为遍历过程或各态历经过程。这样,由任一样本函数就可以得到随机过程的统计特性。

 1、遍历性过程的定义 a )

  其中:

 2 2、 、 遍历过程的实际应用

 一般随机过程的时间平均是随机变量,但遍历过程的时间平均为确定量,因此可用任一样本函数的时间平均代替整个过程的统计平均,在实际工作中,时间 T 不可能无限长,只要足够长即可。

 遍历过程的物理意义:

 若遍历过程代表是噪声电压,则均值就是它的直流分量,令0 =  ,则有:

 显然, ) 0 (XR 代表电压消耗在单位阻抗上的总平均功率。而

 代表电压消耗在单位阻抗上的交流平均功率,标准差X  代表电压的有效值。

 a) 遍历过程和平稳过程的关系 遍历过程必须是平稳的,而平稳过程不一定是遍历的。(遍历必定平稳由遍历定义即可知)

 解:先证明平稳性

 ,再证明不是遍历过程。

 b) 遍历过程的两个判别定理 (ⅰ)均值遍历判别定理

 证明:对一般平稳随机过程(不一定遍历)来说,     ) (t X (即 ) (t X )是一个随机变量,它有均值和方差。

 XTTTTT Tm dt t X ETdt t XTE t X E                 )] ( [21lim ) (21lim [ ] ) ( [(注意 ) (t X 为平稳过程)

 2 2 2] ) ( [( ] ) ) ( ( [ ] ) ( [X Xm t X E m t X E t X D        

 =22 2 1 1] ) (21) (21[ limXTTTTTm dt t XTdt t XTE          

 交换积分和数学期望顺序

 =         TTTTXTdt dt m t X t X ET2 122 12)] ( ) ( [41lim

 =         TTTTXTdt dt t t KT2 1 1 22) (41lim

 设1 2t t       ,1 2t t u     ,则22ut   ,21    ut

 所以:2121212121) , () , (2 1      ut tJ  t1t2-TT2T2Tu-2T   T u 2    T u 2   T u 2    T u 2 则 } ) (2141{ lim ] ) ( [22222du K dTt X DXTTTTT                

       d K TTXTTT) ( ) 2 (41lim222         

 =     d m RT TX XTTT) ) ( )(21 (21lim222        

  (注意 ) ( ) (         R R )

  =     d m RT TX XTT) ) ( )(21 (1lim220      

 (1)

 因为 D[X]=0 的充要条件是 1 } {    C X P ,(方差性质)

 所 以

 0 ] ) ( [       t X D 的 充 要 条 件 是

 1 } ) ( {     Xm t X P ,即均值遍历。

 带入(1)式,     d m RT TX XTT) ) ( )(21 (1lim220      =0 的充要条件为 X(t)的均值遍历。

 (ⅱ)自相关函数遍历判别定理

  平稳随机过程 X(t)的自相关函数 ) (  XR 具有遍历性的充要条件是:

 (由均值遍历的充要条件引申证明:令 ) (  X XR m   )

 ,

  注意:判断一个平稳过程是否遍历的,我们总是先假设其是遍历的,然后看是否满足定义要求(即时间平均以概率 1 等于统计平均),一般不用两个判别定理。

 【例 5】

 判断此随机过程的遍历性。

 解:已经计算出均值为 0,相关函数      02cos2) (aR X   ,现在计算时间平均:

  显然:

 所以,X(t)具有遍历性。

 4 1.4 联合平稳随机过程

 前面讨论了单个随机过程的统计特性,在实际工作中,常常需要讨论两个或两个以上随机过程的情况,例如接收机的输入为“信号+噪声”。

  1 1.4.1 两个随机过程的联合概率分布 1、 分布函数

  2、 二维严平稳

 3、 定义(注意两个随机过程的顺序不能互换)

  4、 正交

 5、 不相关

 推论:(1)如果两个随机过程相互独立,且他们的二阶矩都存在,则必互不相关。

  (2)正态过程的不相关与相互独立等价。

 6、 联合宽平稳 两个随机过程 ) ( ) ( t Y t X 和 ,如果:

 (1)

 ) ( ) ( t Y t X 和 分别宽平稳

 (2)互相关函数仅为时间差   的函数,与时间 t 无关,即

  7、联合宽平稳的性质

 证明:按定义即可证明,说明互相关函数既不是偶函数,也不是奇函数。

 图 1.6 互相关函数的影像关系

  证明:由于

 0 ] )) ( ) ( [(2      t X t Y E     ,   为任意实数

  展开得:

 0 ) 0 ( ) ( 2 ) 0 (2     Y XY XR R R       ,这是关于  的二阶方程,注意 0 ) 0 (  XR ,要使上式恒成立,即方程无解或只有同根,则方程的系数应该满足 0 42    AC B ,所以有:

 0 ) 0 ( ) 0 ( 4 )) ( 2 (2   Y X XYR R R  

 所 以

  ) 0 ( ) 0 ( ) (2Y X XYR R R     , 同 理 ,) 0 ( ) 0 ( ) (2Y X XYK K K    

  证明:由性质(2),得 ) 0 ( ) 0 ( ) (2Y X XYR R R    

 注意到 0 ) 0 (  XR , 0 ) 0 (  YR ,因此 )] 0 ( ) 0 ( [21) 0 ( ) 0 ( ) (Y X Y X XYR R R R R        

 (任何正数的几何平均小于算术平均)

  (5)

 遍历性

  (6)线性性

 虽然已知 X(t)和 Y(t)分别平稳,但互相关函数与 t 有关,所以不是联合平稳的。

  同样,互相关函数与 t 有关,所以不是联合平稳的。

 1.5 复随机过程

 前面我们分析了实随机过程,在现实世界上我们遇到的都是实随机过程,但在某些情况下,用复随机过程来分析问题较为方便。复随机过程的统计特性的分析与实随机过程类似。

 1 1.5.1 复随机变量 1、 定义

 2、 分布函数 ) , ( ] , [ ) ( y x F y Y x X P z FXY Z        ,即由 X,Y 的联合概率分布描述。

 3、 数学期望

 4、 方差

 ] ) )( [( ] [ ] [2          Z Z Zm Z m Z E m Z E Z D

 ] [ ] [ ] ) ( ) [(2 2Y D X D m Y m X EY X           

 这里| |表示取模(与实过程不同),为复随机过程与它的复共轭相乘, “*”表示复共轭,显然,复随机过程的方差是非负实数,且等于实部和虚部的方差和。

 5、 独立与相关

  这里:

 2 1.5.2 复随机过程

  1、 概率密度函数 复随机过程Z(t)的统计特性由X (t)和Y(t)的2n维联合概率分布描述,其概率密度为:

 2、 均值

 3、 方差 ] )) ( ) ( ))( ( ) ( [( ] ) ( ) ( [ ) (2           t m t Z t m t Z E t m t Z E t DZ Z Z Z

 ) ( ) ( t D t DY X   

 4、 相关函数

 自协方差为:

  5、 平稳性

  6、 互相关函数和互协方差函数

 7、 联合平稳

 8、 相关和正交

 小结:求复随机过程的数字特征时要注意,其均值为复数,方差等二阶矩为非负实数,因此,求其二阶矩时(包括方差,相关函数和协方差)采用一个复随机过程与其共轭相乘,再求数学期望

 的方法,其它性质和特性与实随机过程类似。

  1.6 离散时间随机过程

 离散时间随机过程的公式概念很多,但均可以从连续随机过程类推出来,一般不要死记公式。

 离散时间随机过程的定义 前面谈到过随机过程的分类,随机过程可以分为连续型随机过程、离散型随机过程、连续随机序列和离散随机序列四种,其中,后两种统称为离散时间随机过程,它们是对连续随机过程以等间隔时间采样得到的,即采样时间是离散的。

 1 1.6.1 离散时间随机过程的概率分布 离散时间的随机过程的概率分布用随机变量序列的概率分布来描述。

 1、 一维情况

 2、 二维情况

  3、 n 维情况

  4、 相互独立

 5、 严平稳

  推论:

 (1)

 平稳离散随机过程的一维概率密度与时间无关,即) ( ) ; (n X n Xx F n x F  

 (2)

 平稳离散随机过程的二维分布函数与时间差有关,即

 6、 联合分布

 ● 定义

  ● 统计独立

  ● 严平稳

  1.6.2

 数字特征 1. 均值

  ● 若 (.) g 为 单 值 函 数 , 则       dx n x f x g X g EX n) ; ( ) ( )] ( [

 ● 均值的性质:

  2. 线性独立和统计独立 若 ,

 若 , 线性独立的含义是随机序列X n 和Y m 中的任意两个随机变量都互不相关。

 推论:统计独立一定线性独立,反之不一定。

 3. 均方值和方差

  显然有:

 4. 自相关函数和自协方差函数

 ,也可写成

 5. 互相关函数和互协方差 互相关函数描述两个不同的随机过程之间依赖性的一个量度,即

 6. 平稳性 ● 若离散时间随机过程平稳,则其均值、均方值和方差与 n 无关,为常数,即:

 ● 若离散时间随机过程平稳,则自相关函数和协方差只与时间差有关,即

 2) ( ) (X X Xm m R m K    

 ● 判别平稳性(宽平稳)的方法

 7. 联合平稳(前提是两个随机过程各自平稳)

  1.6.3

 遍历性 1 1 、遍历性的定义

 ● 严遍历:

 ● 宽遍历:

  设 ) (n X 是一个平稳随机序列,若

 含义:对于遍历序列,其时间均值和时间自相关(m 固定)均为确定量(非随机量),几乎所有可能的取样序列的时间平均量都是相同的,因此,遍历序列的时间平均可以用任一序列的时间平均来表示,也即可以用遍历序列的任一取样序列的时间平均代替对整个序列求统计平均。

 对随机序列的遍历性的判断,先假设其遍历,看其时间平均是否几乎处处等于统计平均即可。

 所以有:(下面的 ) (n x 表示任意一个样本序列)

  实际上一般不求极限,工程上使用它们的估计量,只要 N 足够大即可:

 1 1 计算机仿真

  采用的仿真工具一般为 MATLAB 语言。在通信中常常需要计算接收机接收端输入的信噪比(信号功率/噪声功率)。如果随机序列是遍历的,只要对计算机模拟产生的任意一条信号和噪声的样本序列中每个样点值的平方求时间平均,就可以分别得到信号和噪声的平均功率(估计的统计值),从而求出信噪比。

 2 2 平稳离散随机过程相关函数的 性质

 平稳离散随机过程相关函数的性质与连续平稳随机过程的性质类似,此处只给出相应的结论。

 性质 7 7 .相关系数

  显然, 1 ) 0 (  Xr , 1 ) (   m r X ;同理,互相关系数为:

 1.7 正态随机过程

 正态分布的随机过程(也叫高斯过程)是实际工作中最常遇到的随机过程,中心极限定理告诉我们,大量独立的、微小的随机变量的和近似服从正态分布。通信信道中的热噪声和干扰,多服从正态分布。后面我们将谈到,一个宽带信号通过一个窄带滤波器后,服从正态分布,而通信中广泛应用滤波器来滤出有用信号带外的噪声。因此,研究正态随机过程十分必要。

  1 1.7.1 正态随机过程的一般概念 随机过程可以看成一族样本函数的集合,也可看成一族随机变量

 的集合,这些随机变量可记为:

 ,也

 1、 正态随机过程的定义 如果随机过程 X(t)的任意 n 维概率分布都是正态分布,则称它为正态随机过程或高斯随机过程,简称正态过程或高斯过程。

 2、 概率密度函数 正态随机过程的概率密度函数即 n 维随机变量的联合概率密度函数,即

  其 中 , k ik i Xikt t Kr   ) , ( 

  ,(注意下面的上画线表示均值,即im )

  性质 1:正态随机过程的概率密度函数由它的一、二阶矩(均值、方差和相关系数完全决定)。

 推论:若复正态随机过程 Z(t)的 n 个采样时刻得到 n 个复随机变量,即

  2 1.7.2 平稳正态随机过程 1、 平稳正态随机过程的定义 若正态随机过程满足下列条件,则它是宽平稳(平稳)正态随机过程。

 理解:由平稳随机过程的三大条件(均值为常数,相关函数只与时间差有关,均方值有界)可知, 那么 ) 0 ( )] ( [2XR t X E   为确定值,而 方 差 =2) 0 (X Xm R   必 为 常 数 , 显 然 , 方 差 为 常 数 则2 2 2)] ( [X Xm t X E       也为常数,物理意义是总平均功率等于交

 流平均功率与直流平均功率之和。

 2、 平稳正态过程的 n 维概率密度 根据前面论述,正态随机过程的 n 维概率密度由它的一、二阶矩完全确定,其表达式见 2.7.1 式。对于平稳正态随机过程,其概率密度表达式可以简化。

  平稳正态过程一、二维概率密度表达式如下:

 平稳正态过程 n 维概率密度表达式如下:

  回顾:逆矩阵的求法:,设有一矩阵 A,则

 3、 平稳正态过程的 n 维特征函数

 一维和二维特征函数:

  3 1.7.3 正态随机过程的性质 性质 2:正态过程的严平稳与宽平稳等价 证明:因为严平稳正态过程的均方值有界,严平稳正态过程一定是宽平稳的。现在证明宽平稳正态过程也是严平稳的。

 那么其一维概率密度:

 也与时间 t 无关。对二维概率密度

 现在看 n 维概率密度, 即

 它由均值,方差和相关系数唯一确定,而均值和方差是常数,相关系数22) ( ) (      X ikk iikikm R Kr     只与时间差有关,因

 此 n 维概率密度函数与时间起点无关,由严平稳定义,可知宽平稳正态随机过程是严平稳的。

  因此,正态过程的严平稳与宽平稳等价。

 性质 3:正态过程的不相关与相互独立等价,即

  证明:(1)如果 X n (n=1,2,….)两两之间相互独立,则 k i m X E m X E m X m X E t t Kk k i i k k i i k i X                0 )] [( )] [( )] )( [( ) , (

 所以,两两互不相关。

  (2)如果 X n (n=1,2,….)两两之间互不相关,由式,

 =     k ik ii20  所以,           2210...0 ...nK   

 则           2210...0 ...1---nK    ,2 2221 nK          ,带入式 得:

  即两两相互独立。

 性质 4:平稳正态过程与确定信号之和仍为正态分布,但不一定平稳。

 证明:设 X(t)为平稳正态过程,S(t)为确定性信号,Y(t)=X(t)+s(t), 那么,对于任意时刻 t,Y(t)=X(t)+s(t)为随机变量,这时,s(t)具有确定值, 由随机变量函数的概率密度求法,的 Y(t)的一维概率密度函数为:

 ) ); ( ( ) ); ( ( ) ; ( t t s y fdxdyt t s y f t y fX X Y        , 即 在) ( t x f X ; 的表达式变量变换即可(s(t)可以理解为确定值(当 t 固定)),因为为正态分布,所以 ) ( t y f Y ; 显然是正态分布。

 对于随机变量 Y(t 1 ),Y(t 2 )二维概率密度,用二维随机变量函数的概率密度求法,由于雅可比行列式的值为 1,所以:

 为正态过程。

 同理,可证明合成信号的 n 维概率密度也是正态过程。

 而:

 ) ( )] ( ) ( [ )] ( [ t s m t s t X E t Y EX        与 t 有关,不是常数,所以不是平稳的。

 推论:正态过程的线性变换仍为正态分布。

 性质 5 和性质 6:

 证明略。

 性质 7: 正态随机过程通过线性系统后的输出仍为正态过程。

 推论:正态过程的线性变换仍为正态过程。

 解:可得 (2)

 1.8 马尔可夫过程

  马尔可夫过程是由前苏联数学家 A.A.Markov 首先提出和研究的一类随机过程,现在已经成为内容丰富、理论完善、应用广泛的一门数学分支,应用领域包括计算机、通信、自动控制、随机服务、可靠性、生物学、经济、管理、教育、气象、物理、化学等等。

  马尔可夫过程按时间和状态是否连续可分为四类(同一般随机过程分类)。生活中,我们所观察到的许多物理过程可以近似看成马尔可夫过程。这里我们只研究状态和时间参数都离散的马尔可夫过程――马尔可夫链,且状态数是可列或可数的。

 马尔可夫过程具有如下特性:当随机过程在时刻it 所处的状态为已知的条件下,过程在it t  时刻所处的状态,与过程在it 时刻以前所处状态无关,而仅与过程在it 时刻的状态有关。这个特性称为随机过程的无后效性或马尔可夫性。

  例如生物基因遗传从这一代到下一代的转移中仅依赖与这一代而与以往各代无关。

 1 1.8.1 马尔可夫链的定义 定义:假定随机过程 X(t)在每一个时刻nt (n=1,2,,…..)的采样为

 ) (n nt X X  ,nX 可能取的状态为Na a a ,..., 2 , 1 中任意一个,而且过程 X(t)在k mt时刻变成任一状态 ) ,..., 2 , 1 ( N i ak mi的概率,只与过程在mt 时刻的状态有关,而与过程在mt 时刻以前的状态无关。

  1 11 1,..., ,i i m i m i k ma X a X a X a X Pm m k m     =  m k mi m i k ma X a X P   则称此随机序列nX 为马尔可夫链,简称马氏链。

 1.8.2

  马氏链的转移概率及其矩阵 1.马氏链的转移概率 马氏链的转移概率 ) , ( k m m Pij :在mt 时刻出现i ma X  的条件下,k mt时 刻 出 现j k ma X 的 条 件 概 率 。

 即

  ) , ( k m m Pij = i m j k ma X a X P  。式中 N j i ,... 3 , 2 , 1 ,  ;m,k 皆为正整数。

 齐次马氏链:

 ) , ( k m m Pij 与 m 无关。这里只讨论齐次马氏链。

 2.一步转移概率及其矩阵 一步转移概率:若 ) , ( k m m Pij 中 k=1,简记为ijP ,即:

 ijP = ) 1 , (  m m P ij =  i m j ma X a X P  1表示马氏链由状态ia 经过一次转移到状态ja 的转移概率,即一步转移概率。

 转移概率矩阵:

 练习题

 1-1 两班半随机二进过程定义为

 ( ) X t A  或-A,(n-1)T<t<nT 0, 1, 2,....... n   

 其中值 A 与-A 等概率出现,T 为一正常数, 0, 1, 2,....... n   

 (1)画出典型的样本函数图形; (2)将此过程规类; (3)该过程是确定性过程么?

 1 - 2 离 散 随 机 过 程 的 样 本 函 数 皆 为 常 数 , 即( ){ } (0, )!kλtkλtP K k P t ek   ( ) X t C   可变常数,式中 C 为一随即变量,其可能值为 1 1, 2 2 3 3 c c c    及 ,且他们分别以概率 0.6,0.3 及 0.1 出现。(1)X(t)是确定过程么?(2)求:在任意时刻 t,X(t)的一维概率密度。

 1-3 设随机过程 X (t)=Vt ,其中 V 是在(0,1)是均匀分布的随机变量,求过程 X(t)的均值和自相关函数。

 1-4 设随机过程2X (t)=At+Bt ,式中 A,B 为两个互不相关的随机变量,且有 E[A]=4,E[B]=7,D [A]=0.1,D [B]=2 .求过程 X(t)的均值,相关函数,协方差函数和方差。

 1-5 程 X(t)的数学期望2E[X (t)]=t+4 。求另一随机过程2Y(t)=tX (t)+t 的数学期望。

 1-6 信号 X (t)=Vcos3t ,其中 V 是均值为 1,方差为 1 的随机变量。设新的随机信号

  λ λt01Y (t)=

  X ( ) dt

  求 Y(t)的均值,相关函数,协方差函数和方差。

 1-7 个随机过程 X(t),Y(t)都是非平稳过程 ( ) ( )cos X t A t t 

 ,Y(t)=B(t)sint 其中 ( ) A t , B(t) 为相互独立,各自平稳的随机过程,且他们的均值均为 0,自相关函数相等。试证明这两个过程之和 ( ) ( ) Z t X t  Y(t) 是宽平稳的。

 1-8 设随机信号0( ) sin( ) X t a ω t    ,式中 a,0ω 均为正的常数;  为正态随机变量,其概率密度为

  2 /2 1( )2υf υ eπ

 试讨论 X(t)的平稳行。

 1-9 已知随机过程0 0( ) cos X t A ω ω  t+ Bsin t

  ,式中0ω 为常数;而 A 与B 是具有不同概率密度,但有相同方差2σ ,均值为零 的不相关的随机变量。证明 X(t)是宽平稳而不是严平稳的随机过程。

 1-10

 已知两个随机过程

 ( ) cos sin , ( ) cos sin X t A t B t Y t B t A t    

 其中 A,B 是均值为 0,方差为 5 的不相关的两个随机变量,试证过程 X(t)、Y(t)各自平稳,而且是联合平稳的;并求出他们的互相关系数。

 1-11

 设随机信号 ( ) cos( ) X t a t    ,其中 a 可以是、也可以不是随机变量,  是在(0,2 π )上均匀分布的随机变量;并且

  a 为随机变量时,它与  统计独立。求:(1)时间自相关函数

 和集自相关函数;(2)a 具备什么条件时两种自相关函数相

  等。

 1-12

 设随即过程 ( ) cos X t A  sint+ B t ,其中 A、B 均为零均值的随机变量。试证:X(t)是均值遍历的,而方差无遍历性。

 1-13

 设随机过程 ( ) cos( ) X t A Qt   

 ,式中 A、 Q 和  为统计独立的随机变量;而且,A 的均值为 2、方差为 4,  在

 (- π , π )上均匀分布, Q 在(-5,5)上均匀分布。试问过程 X(t)是否平稳?是否遍历?并求出 X(t)的自相关

 函数。

 1-14

 设 X(t)是雷达的发射信号,遇目标后返回接收机的微弱信号是1( ), 1 aX t τ a   ,1τ 是信号返回时间,由于接收到的

  信号总是伴有噪声的,记噪声为 N(t),故接收机接收到的全信号为

 1( ) ( ) ( ) Y t aX t τ N t   

 (1) 若信号 X(t)、N (t) 单独平稳且联合平稳,求互相关函数1 2( , )xyR t t 。

 (2) 在(1)条件下,假如 N(t)的均值为零,且与 X(t)是互相独立的,求1 2( , )xyR t t (这是利用互相关函数从全信号中检测小信号的相关接收法。

 1-15

 设复随机过程为 0( )jω tZ t Ve  ,

 其中0ω 为正常数,V 为实随机变量。求复过程 Z(t)的自相关

 函数。

 1-16

 设复随机过程

  0( )( )j ω tZ t e 

  其中0ω 为正常数,  是在(0,2 π )上均匀分布的随机变量。试求*[ ( ) ( )] E z t z t τ  和 [ ( ) ( )] E z t z t τ  。

 1-17

 设复随机过程

  1( )tnjω tiiZ t Ae 

  式中 ( 1,2...., )iA i n  为n个实随机变量, ( 1,2...., )iω i n  为n个实数,求证:

 1-18

 令 X(n)和 Y(n)为不相关的随机信号,试证:如果

  ( ) ( ) ( ) Z n X m Y n  

 则z x ym m m  

  及

 2 2 2z x yσ σ σ  

 1-19 有两个独立且联合平稳的随即序列 X(n)和 Y(n),它的均值分别是xm 和ym ,方差分别是2xσ 和2yσ ,试证明

         1/2 1/2( ) 0 0 , ( ) 0 0XY X Y XY X YR m R R K m K K         

    ( ) 0X XR m R  ,   ( ) 0X XK m K 

 [提示:可利用不等式2 1/2 2 1/2[( )] 0( [ ]) ( [ ])n m nn m nX YEE X E Y  ] 1-20 若正态随机过程 X(t)有自相关函数

 (1)/2( ) 6τXR τ e  

  (2)sin( ) 6XπτR τπτ

  试确定随机变量 ( ), ( 1), ( 2), ( 3) X t X t X t X t    的协方差矩阵。

 1-21 天气预报问题。如果明日是否有雨仅与今日的天气(是否有雨)有关,而与过去的天气无关。并设今日有雨且明日有雨的

  概率为 0.7,今日无雨而明日有雨的概率为 0.4。另外,假定把“有雨”称作“1”状态天气,而把“无雨”称作“2”状态天

  气。则本问题属于一个两状态的马尔可夫链。试求:今日有雨而后日(第二日)无雨,今日有雨而第三日也有雨,今日无雨 而第四日也无雨的概率各是多少?

 1-22 设有三个状态{0.1.2}的马尔可夫链,其一步转移概率矩阵为

  1/2 1/2 01/4 1/2 1/40 1/2 1/2P     

  研究此链各状态之间的关系,并画出状态转移图。

 1-23 设有两个状态{0.1}的马尔可夫链, 其一步转移概率矩阵为

 1/2 1/21/3 2/3P   

  试求:00 00 00 01 01 01(1), (2), (3), (1), (2), (3) f f f f f f 。

 1-24 设(齐次)马尔可夫链的一步转移概率矩阵为

  1/2 1/3 1/61/3 1/3 1/31/3 1/2 1/6P     

 试问此链共有几个状态?是否遍历?求它的二步转移概率矩阵。

 lim ( )ij jnp n p 是否存在?并求之。

 1-25 随机电报信号 X(t)(其样本函数如图所示)满足下述条件:

 (1)

 在任何时刻 t, X(t)只能取 0 或 1 两个状态。而且,取值为 0 的概率为 1/2,取值为 1 的概率也是 1/2,即:

 { ( ) 0} 1/2, { ( ) 0} 1/2 P X t P X t    

 (2)

 每个状态的持续时间是随机的,若在间隔(0,t)内波形变化的次数 K 服从泊松分布,即

 ( ){ } (0, )!kλtkλtP K k P t ek  

 式中, λ 为单位时间那波形的平均变化次数。

  (3)

 X(t)取任何值与随机变量 K 互为统计独立,试求随即电报信号 X(t)的均值,自相关函数,自协方差函数,功率谱密度。

 ( ) X t

  ( ) X t

相关热词搜索: 西安 讲义 电子科技大学