赵星汉同学的技术博客 Software testing & software engineering

关于随机过程课程的一些记录

2021-10-16
Frank Xinghan Zhao


工程博士学习过程中的一些记录

矩的含义

矩的含义我们可以从力矩中来理解,在力学中,力矩的含义就是天枰两边,力矩相等,即

\[F_1*D_1=F_2*D_2\]

对于概率来说,由于不同的值出现的概率不同,大概率出现的值,其比重也应该大一些,就好像力学中的力矩一样。

于是,矩就出现了。

\[E[X^n] = \sum^{\infty}_{i=1} x_i^nP(X=x_i)\]

也就是该值乘以其出现的概率的n次方的和,一阶矩就是常规的数学期望。

特征函数

定义

设X,Y是实随机变量,复随机变量

\[Z=X+jY\]

的数学期望定义为

\[E(Z) = E(X)+jE(Y)\]

注意

\[\begin{align}E(e^{jt\xi}) &= E(cost\xi)+jE(sint\xi) \\ & = \int^{+\infty}_{-\infty}costxdF(x)+j\int^{+\infty}_{-\infty}sintxdF(x) \\ &=\int^{+\infty}_{-\infty}e^{jtx}dF(x) \end{align}\]

其中$\xi$是实随机变量,特征函数是实变量t的函数。

设$/xi$是定义在$(\Omega,F,P)$上的随机变量,称 \(\varphi(t) = E(e^{jt\xi}) = \int^{+\infty}_{-\infty}e^{jtx}dF(x)\) 为$\xi$的特征函数

当$\xi$是连续型随机变量 \(\varphi(t) = \int e^{jtx}f(x)dx\)

当$\xi$是离散型随机变量 \(\varphi(t) = \sum_k e^{jtx_k}p_k\)

随机变量的特征函数的含义

随机变量X的特征函数的定义为

\[\varphi_X(t) = E[e^{itX}]\]

为什么这么定义,首先,$e^{itX}$的泰勒级数定义为

\[e^{itX} = 1 + \frac{itX}{1} - \frac{t^2X^2}{2!}+ ,\cdots,+\frac{(it)^nX^n}{n!}\]

带入可以推出

\[\begin{align} \varphi_X(t) & = E[e^{itX}] \\ & = E(1)+E(\frac{itX}{1})+,\cdots,+E(\frac{(it)^nX^n}{n!}) \end{align}\]

可以看出其特征函数是随机变量各阶矩的和,包含了分布函数的所有特征。

所以,分布函数相等,可以推出多个特征相等,推出分布相同。

与傅立叶变换的关系

如果$X$的概率密度是$f(x)$,那么

\[E(X) = \int x f(x)dx\]

特征函数是

\[\varphi_X(t) = E[e^{itX}] = \int e^{itx}f(x)dx\]

可以看出,与傅立叶变化就相差一个负号,是共轭的关系,基本可以当成傅立叶变换来理解。

常用分布的特征函数:

单点分布

$P{\xi = c} = 1$: \(\varphi(t) = E(e^{jtc} = e^{jtc})\)

两点分布:

\[\begin{align} \varphi(t) & = e^{jt\cdot 0}(1-p)+e^{jt\cdot 1}p \\ & =1-p+pe^{jt} \\ & = q+pe^{jt} \end{align}\]

二项分布

\[\varphi(t)=(q+pe^{jt})^n\]

柏松分布

\[\varphi(t)=e^{\lambda(e^{jt}-1)}\]

指数分布

\[f(x)= \begin{cases} \lambda e^{-\lambda x},& x \geqslant 0 \\ 0 ,& x<0 \end{cases} (\lambda >0)\]

其特征函数

\[\begin{align} \varphi(t) & = \int^{+\infty}_0 \lambda e^{jtx}e^{-\lambda x} dx \\ & = \int^{+\infty}_0 \lambda e^{-\lambda x}cos tx dx + j\lambda \int_0^{+\infty}e^{-\lambda x}sintxdx \\ & = \lambda \frac{\lambda}{\lambda^2+t^2} + j\lambda\frac{t}{\lambda^2+t^2} \\ & = (1- \frac{jt}{\lambda})^{-1} \end{align} ,\ \ \ \ t\in R\]

均匀分布$U[-a,a]$

特征函数 \(\varphi(t) = \frac{sin at}{at} , \ \ \ t\in R\)

正态分布$N(a,\sigma^2)$

\[\varphi(t) = e^{jat -\frac{1}{2}\sigma^2t^2} , \ \ \ \ t\in R\]

若$N(0,1)$

\[\varphi(t) = e ^{-\frac{1}{2}t^2}, \ \ \ t \in R\]

特征函数的性质

  1. \[|\varphi(t)| \leq \varphi(0) =1\]
  2. \[\overline{\varphi(t)} = \varphi(-t)\]

Comments

Content