工程博士学习过程中的一些记录
矩的含义
矩的含义我们可以从力矩中来理解,在力学中,力矩的含义就是天枰两边,力矩相等,即
\[F_1*D_1=F_2*D_2\]对于概率来说,由于不同的值出现的概率不同,大概率出现的值,其比重也应该大一些,就好像力学中的力矩一样。
于是,矩就出现了。
\[E[X^n] = \sum^{\infty}_{i=1} x_i^nP(X=x_i)\]也就是该值乘以其出现的概率的n次方的和,一阶矩就是常规的数学期望。
特征函数
定义
设X,Y是实随机变量,复随机变量
\[Z=X+jY\]的数学期望定义为
\[E(Z) = E(X)+jE(Y)\]注意
\[\begin{align}E(e^{jt\xi}) &= E(cost\xi)+jE(sint\xi) \\ & = \int^{+\infty}_{-\infty}costxdF(x)+j\int^{+\infty}_{-\infty}sintxdF(x) \\ &=\int^{+\infty}_{-\infty}e^{jtx}dF(x) \end{align}\]其中$\xi$是实随机变量,特征函数是实变量t的函数。
设$/xi$是定义在$(\Omega,F,P)$上的随机变量,称 \(\varphi(t) = E(e^{jt\xi}) = \int^{+\infty}_{-\infty}e^{jtx}dF(x)\) 为$\xi$的特征函数。
当$\xi$是连续型随机变量 \(\varphi(t) = \int e^{jtx}f(x)dx\)
当$\xi$是离散型随机变量 \(\varphi(t) = \sum_k e^{jtx_k}p_k\)
随机变量的特征函数的含义
随机变量X的特征函数的定义为
\[\varphi_X(t) = E[e^{itX}]\]为什么这么定义,首先,$e^{itX}$的泰勒级数定义为
\[e^{itX} = 1 + \frac{itX}{1} - \frac{t^2X^2}{2!}+ ,\cdots,+\frac{(it)^nX^n}{n!}\]带入可以推出
\[\begin{align} \varphi_X(t) & = E[e^{itX}] \\ & = E(1)+E(\frac{itX}{1})+,\cdots,+E(\frac{(it)^nX^n}{n!}) \end{align}\]可以看出其特征函数是随机变量各阶矩的和,包含了分布函数的所有特征。
所以,分布函数相等,可以推出多个特征相等,推出分布相同。
与傅立叶变换的关系
如果$X$的概率密度是$f(x)$,那么
\[E(X) = \int x f(x)dx\]特征函数是
\[\varphi_X(t) = E[e^{itX}] = \int e^{itx}f(x)dx\]可以看出,与傅立叶变化就相差一个负号,是共轭的关系,基本可以当成傅立叶变换来理解。
常用分布的特征函数:
单点分布
$P{\xi = c} = 1$: \(\varphi(t) = E(e^{jtc} = e^{jtc})\)
两点分布:
\[\begin{align} \varphi(t) & = e^{jt\cdot 0}(1-p)+e^{jt\cdot 1}p \\ & =1-p+pe^{jt} \\ & = q+pe^{jt} \end{align}\]二项分布
\[\varphi(t)=(q+pe^{jt})^n\]柏松分布
\[\varphi(t)=e^{\lambda(e^{jt}-1)}\]指数分布
\[f(x)= \begin{cases} \lambda e^{-\lambda x},& x \geqslant 0 \\ 0 ,& x<0 \end{cases} (\lambda >0)\]其特征函数
\[\begin{align} \varphi(t) & = \int^{+\infty}_0 \lambda e^{jtx}e^{-\lambda x} dx \\ & = \int^{+\infty}_0 \lambda e^{-\lambda x}cos tx dx + j\lambda \int_0^{+\infty}e^{-\lambda x}sintxdx \\ & = \lambda \frac{\lambda}{\lambda^2+t^2} + j\lambda\frac{t}{\lambda^2+t^2} \\ & = (1- \frac{jt}{\lambda})^{-1} \end{align} ,\ \ \ \ t\in R\]均匀分布$U[-a,a]$
特征函数 \(\varphi(t) = \frac{sin at}{at} , \ \ \ t\in R\)
正态分布$N(a,\sigma^2)$
\[\varphi(t) = e^{jat -\frac{1}{2}\sigma^2t^2} , \ \ \ \ t\in R\]若$N(0,1)$
\[\varphi(t) = e ^{-\frac{1}{2}t^2}, \ \ \ t \in R\]特征函数的性质
- \[|\varphi(t)| \leq \varphi(0) =1\]
- \[\overline{\varphi(t)} = \varphi(-t)\]