RichardF · Hong Kong
我现在是大四学生。平时写代码、读论文，也把课程里真正弄懂的东西记下来。 这里主要放学习笔记、项目复盘，以及一些还在慢慢想清楚的问题。
最近在关注 LLM 推理、检索系统和数据科学，也会继续整理数学与算法基础。
SpecDec-Context-Scaling 项目解读：8GB GPU 上投机解码为什么没有加速
本文是对开源项目 SpecDec-Context-Scaling 的中文技术复盘。项目没有停留在“实现一个投机解码 Demo”，而是追问了一个更接近真实部署的问题：在只有 8 GB 显存的消费级 GPU 上，随着上下文从 2K 增长到 8K，投机解码到底什么时候能够比普通自回归解码更快？
实验给出的答案并不讨巧：在冻结的 Qwen2.5-1.5B / 0.5B 配置下，标准投机解码在所有可比任务族上都更慢。但这个负结果并不是项目的终点。通过接受率诊断、全接受 oracle、bonus token、CUDA Graph 和移除草稿模型等一系列受控实验，项目把失败定位到了一个很具体的系统瓶颈：独立 0.5B 草稿模型的前向成本，超过了减少目标模型调用所节省的时间。
从规则检索到 GraphRAG：贵州统计指标系统的架构、混合召回与工程优化
本文是 Guizhou-GraphRAG 的技术复盘。项目面向贵州统计指标检索：输入一句口语问题，系统需要从 2000 多条结构相似的指标中找出正确实体，并返回定义、类别、匹配证据和图谱关系。
这里最难的并不是接入 LLM，而是同时处理三类冲突：召回率与精确率的冲突、语义相似与统计口径的冲突、模型能力与结果可控性的冲突。 项目最终采用“指标知识图谱 + 多路召回 + 规则排序 + 可选模型精排”的架构，并通过单字保护、候选门控、动态权重、向量缓存和服务降级等工程优化建立可用闭环。
股票市场情感分析项目复盘：从传统机器学习到 DistilBERT、LoRA 与 XGBoost Hybrid
这篇文章整理 DSAI4205 项目中的股票市场情感分析实验。项目目标是对 stock market crash 相关社交媒体文本做三分类情感识别，并比较传统机器学习、轻量 PLM 微调、LoRA 参数高效微调，以及 DistilBERT + XGBoost hybrid 模型的效果。