01–03 / 基础篇
随机过程、平稳性与趋势
假设一家小店每天的订单数围绕 20 波动。每天抛一次公平硬币,正面多 2 单,反面少 2 单,各天独立。还没开店时,第 t 天的订单数 X_t 有两种可能;打烊后,账本上只会留下一个数 x_t。
把各天的随机变量放在一起,就是随机过程;把连续 12 天实际得到的数连起来,就是这个过程的一条样本路径。换一组硬币结果,账本会变,生成账本的规则没变。
同一家店,三种看法
先换一条记录,看哪条线不动。再保留这次的硬币结果,给每天的订单基准加上趋势,最后改看相邻两天的增量。
怎样判断平稳?先把时间平移一下
回到第一幅图。今天和下周一都可能有 18 或 22 单,各占一半。两天的期望都是 20,方差都是 (2^2+(-2)^2)/2=4。相隔一天的两次抛币互不影响,所以第 2、3 天的协方差和第 8、9 天的协方差一样,都是零。
课件说的弱平稳正是这三个检查:均值不随日期变,方差有限且不变,两期的协方差只取决于相隔多久。记间隔为 k,就可以写成 \gamma(k)=\operatorname{Cov}(X_{t+k},X_t),不必再标明从哪一天开始。平稳允许相邻两天相关,也不要求一条记录平平直直。
加了趋势,究竟是哪一条不满足?
现在让店铺的基准每天增加 1 单。把可预测的基准记作 m_t=\alpha+\beta t,当天抛币带来的偏差记作 \epsilon_t。本例没有季节项,所以 X_t=m_t+\epsilon_t。取 \alpha=20、\beta=1,第 1 天的期望是 21,第 12 天则是 32。虽然围绕基准的波动仍然是上下 2 单,均值改变这一项就足以否定弱平稳。
差分去掉的是斜坡,不是全部波动
课件用 B 表示往前取一期,即 BX_t=X_{t-1}。用今天减昨天,就是一阶差分 \nabla=1-B。把昨天和今天的订单分别代入:
\nabla X_t=X_t-X_{t-1}\nabla X_t=\beta+\epsilon_t-\epsilon_{t-1}两天基准之差恒为 1,两项误差的期望都是零,所以增量的期望是 1,而不是 0。本例中增量的方差是 4+4=8。相邻增量共享一个误差,符号恰好相反,因此协方差是 −4;再隔远些就没有共享项,协方差为零。这三个结果都不依赖日期,本例的差分序列弱平稳,但不是白噪声。一次差分并不保证任意序列都平稳。
例题一:从模型算到 ACF
沿用小店模型,但不告诉你硬币的面值。设 X_t=\alpha+\beta t+\epsilon_t,误差是方差为 \sigma^2>0 的零均值白噪声。题目问:当 \beta\ne0 时,原序列是否弱平稳?一阶差分后的 ACF 是多少?
解题过程
先看原序列。 直接取期望得到 E[X_t]=\alpha+\beta t。均值依赖日期,写到这里就足以否定弱平稳,不必再计算原序列的 ACF。
再把需要比较的两期写出来。 令 Y_t=\nabla X_t。去掉均值后,今天和昨天的增量分别是:
Y_t-\beta=\epsilon_t-\epsilon_{t-1}Y_{t-1}-\beta=\epsilon_{t-1}-\epsilon_{t-2}求同一期的方差时,两个不同期误差的协方差为零,两个系数要平方后相加。求相邻两期的协方差时,只剩共同的误差 \epsilon_{t-1},这时要把它在两行的系数相乘:
\gamma_Y(0)=(1^2+(-1)^2)\sigma^2=2\sigma^2\gamma_Y(1)=(-1)(1)\sigma^2=-\sigma^2间隔至少两期时,两行没有同一期误差,所以协方差为零。均值恒为 \beta,协方差只取决于间隔,故差分序列弱平稳。最后才除以方差:
\rho_Y(0)=1\rho_Y(1)=\rho_Y(-1)=-1/2\rho_Y(k)=0\quad (|k|\ge2)核对:取实验里的 \sigma^2=4,方差是 8,相邻协方差是 −4。负号有直观含义:如果昨天订单意外偏高,它会抬高昨天的增量,却压低今天的增量。
例题二:两条上升的线,都能减去一条直线吗?
比较 X_t=\beta t+\epsilon_t 和 R_t=R_{t-1}+\beta+\epsilon_t,其中 R_0=0,误差条件同上。两者期望都是 \beta t。分别减去这条趋势后,剩下的序列都弱平稳吗?先试着写出第二个模型在第 3 期的值。
展开推导与判断
第一个模型减去趋势,只剩当期误差。第二个是带漂移的随机游走:每次误差都进入下一期的起点。把递推式代回去:
R_3=3\beta+\epsilon_1+\epsilon_2+\epsilon_3R_t-\beta t=\sum_{j=1}^t\epsilon_j减去直线后,两者均值都变成零,但第二个模型累积了 t 项不相关误差,其方差是 t\sigma^2,仍随时间增长,所以不是弱平稳。这个反例即使取 \beta=0 也成立。
若对第二个模型做差分,就能消掉已经累积的误差:\nabla R_t=\beta+\epsilon_t。它在非零间隔的协方差都是零,而例一差分后相邻两期仍然负相关。看图只能提出趋势的猜测;考试里要用题设的生成规则判断该减趋势还是做差分。
自测:把每天增加 1 单改成每天减少 2 单,会怎样?
原序列仍不平稳,因为均值随日期下降。差分序列的均值变成 −2;硬币规则没变,所以增量方差仍是 8,相邻增量的协方差仍是 −4。