随机森林与袋外预测
推导等方差、两两相关的多棵树平均预测的方差,说明自助采样中袋外观测的比例,并讨论袋外误差的适用边界。
提示 1点击展开
展开平均值的方差,分别计算方差项和协方差项的数量。
提示 2点击展开
单棵树未抽中某个观测的概率可由 n 次有放回抽样得到;对于面板或时间序列数据,需检查袋外预测是否泄漏同一实体或未来信息。
机器学习可以提高预测灵活性,但金融数据的时间顺序、制度变化和信息泄露会使“漂亮的回测”失去意义。本章把预测任务与结构或因果问题分开,依次介绍决策树、随机森林、XGBoost、神经网络与注意力方法,并结合金融任务讨论特征重要性、概率校准和模型解释。
方法选择与评估部分重点讲滚动或扩展窗口验证、早停、超参数搜索、标签重叠处理以及回测过拟合。学完后,你应能根据研究目标选择模型,用符合时间顺序的方式评估样本外表现,并说明模型结果在实际应用中的适用范围。
本章选取 4 道习题。先独立思考,遇到困难时再逐步展开提示;完整题面及数据要求请参阅教材。
推导等方差、两两相关的多棵树平均预测的方差,说明自助采样中袋外观测的比例,并讨论袋外误差的适用边界。
展开平均值的方差,分别计算方差项和协方差项的数量。
单棵树未抽中某个观测的概率可由 n 次有放回抽样得到;对于面板或时间序列数据,需检查袋外预测是否泄漏同一实体或未来信息。
标签由未来 h 期收益构造。解释普通 K 折验证可能出现的标签重叠,给出清除与禁运的索引规则,并比较启用前后的样本外表现。
将每个样本的特征时点和标签使用的未来区间画在时间轴上,先找出训练集与验证集标签相交的样本。
清除重叠样本和设置验证窗后的禁运区间分别处理不同问题;若目标是预测未来,还应明确训练是否仅使用过去数据。
所有特征转换、参数和阈值选择都应置于训练或内层验证中;外层测试仅用于评价,不能边看结果边调整方案。
解释有限组预测下 Brier 分数的不确定性、分辨率和可靠性分解,说明恰当评分规则的含义;比较 Platt 与保序校准,并在独立测试集报告校准和区分能力。
先区分排序是否正确与概率数值是否可信:AUC 和概率评分回答的不是同一个问题。
分组后比较预测概率与实际发生比例;若连续概率被分箱,需区分组均值近似与原始逐点分数。
按时间划分训练、校准和测试集。校准器与决策阈值不能在最终测试集上拟合或挑选。
在已校准概率、正确分类成本为零且无其他约束时,根据误报和漏报成本求最优分类阈值;再讨论含换手成本的择时策略中,阈值变化对收益和换手的影响。
先比较两种分类决策在给定概率下的条件期望成本,再找出二者相等的位置。
上涨概率并不直接给出上涨和下跌的幅度。交易阈值还需考虑条件收益和当前仓位。
交易成本与仓位变化有关;分别讨论进入和退出,检查单一阈值是否足够,并在内层窗口选择阈值、外层窗口进行评价。
研究机器学习在金融预测中的使用方法,重点关注时间顺序、样本外验证和回测中的信息泄露。
正文演示:用缩小的模拟股票样本演示滚动训练的树模型选股流程。
数据说明:默认演示是教学模拟,不代表真实市场回测或投资收益。
打开本章 GitHub 目录 ↗ 查看本章代码索引点击下方条目可在线查看源码,或从 GitHub 下载。
模型能否预测未来,应在未参与训练的数据上进行检验。本章使用同一组模拟股票特征,比较决策树、随机森林与逻辑回归对上涨概率的预测能力。
动手实践:构造模拟股票面板数据;采用 24 个月滚动训练窗口;比较 Brier 分数、AUC 与准确率。
数据说明:模拟 40 只股票、42 个月的数据;每个模型产生 18 个月、共计 720 条样本外预测。
打开本章 Python 目录 ↗ 查看 Python 导读与运行说明书中 R 示例与公开数据按章整理,附有运行说明。可从各章演示程序开始,也可对照正文逐段学习。点击或扫描二维码即可打开仓库。
github.com/Jiajing-Sun/financial-econometrics-r