RichardF · Hong Kong

你好,我是 Richard。

我现在是大四学生。平时写代码、读论文,也把课程里真正弄懂的东西记下来。 这里主要放学习笔记、项目复盘,以及一些还在慢慢想清楚的问题。

最近在关注 LLM 推理、检索系统和数据科学,也会继续整理数学与算法基础。

拉斐尔《雅典学院》局部
Raphael, The School of Athens
最近写下的查看全部

AMA4650 时间序列与预测:从平稳性、指数平滑到 ARIMA 与 GARCH

普通监督学习常把样本当作可以交换的独立观测;时间序列不能这样处理。昨天的信息会进入今天,趋势与季节性会让均值变化,金融数据还常出现波动聚集。预测的关键不是把曲线拟合得更复杂,而是把时间依赖写进模型,并用只来自过去的信息评价未来。

这篇文章按照 AMA4650 Forecasting and Applied Time Series Analysis 的主线,串联平稳性、趋势与季节性、指数平滑、ARMA/ARIMA、模型识别、预测区间和 GARCH。

阅读更多

AMA4602 高维数据分析:从多元正态、PCA 到正则化与 FDR

当变量数从一个变成几百、几千甚至超过样本量时,困难不只是“矩阵更大”。样本协方差会不稳定,欧氏距离会失去区分度,普通最小二乘可能没有唯一解,同时做大量检验会产生一批看似显著的假阳性。

AMA4602 High Dimensional Data Analysis 的价值,是把多元统计和现代高维方法接在一起:先用多元正态分布、判别分析、PCA、因子分析和 CCA 建立几何直觉,再进入 ridge、LASSO、高维回归与 FDR 控制。

阅读更多

AMA2634 统计导论:从描述统计、概率分布到统计推断与线性回归

统计学不是一份需要背诵的公式清单。它真正研究的是:面对带有随机性、噪声和有限样本的数据,我们怎样描述现象、量化不确定性,并对总体作出有边界的判断。

本文根据 AMA2634 Introduction to Statistics 的 10 讲课程资料整理,主线是:

1
2
3
4
5
6
7
8
9
数据与抽样
-> 描述统计
-> 概率模型
-> 随机变量与分布
-> 抽样分布和中心极限定理
-> 参数估计
-> 假设检验
-> 两总体比较
-> 相关与回归

读完以后,不仅应该会代公式,还应该能判断:为什么采用这个统计量、公式依赖什么假设、结论可以说到什么程度,以及什么时候不能使用它。

阅读更多

AMA3602 应用线性模型教程:从简单回归、多元回归到模型诊断、变量选择与混合效应模型

这篇文章根据 AMA3602 Applied Linear Models 的讲义、tutorial、summary note 和 Boston Housing 项目资料整理。它不是考试提纲,而是一篇面向“真的会用回归建模”的教程:先把简单线性回归和多元线性回归讲清楚,再进入残差诊断、变量选择、多重共线性、ridge regression,最后接到随机效应模型和一个 Boston Housing 房价建模案例。

如果把机器学习理解成“用数据拟合一个可泛化的函数”,那么线性模型就是最值得先学扎实的一类模型。它简单,但不幼稚;它的假设透明,诊断方法成熟,而且很多复杂模型的思想都可以在这里找到原型。

阅读更多
Click to play