网站导航

实际训练的全局梯度提升树

全文共 4036 字,阅读约需 9 分钟

实际训练的全局梯度提升树:本章所有数据都为匿名合成教学数据。本地代码不连接生产系统,不改价、不下单、不投放。执行证据分层:三商品回归与 sklearn 梯度提升树确实拟合;随机动态规划确实求解;深度网络、视觉编码器和 Prophet 没有训练或运行。模拟数据上的漂亮

← 学习路线
课程目录与学习记录 0 / 109

学习进度仅存于本机浏览器。原教程站的记录不会跨域自动迁移;可先在原站导出留存,新站按实际完成情况重新勾选。

入门数据与作业包

禾味数据为 2 店 × 8 SKU × 180 天,共 2,880 行,是可见教学数据,不是封存盲测集。起步包是模拟夹具,不表示已完成六行业预测实验。资源中心另有四专项工程、模型实验和计划实验,使用前请阅读各自能力边界。

模拟教学与独立审查范围内的实际代码。下载模型实验 r3。Prophet、TFT、DeepAR和视觉编码器未运行;不得把分解算术或张量校验称为深度训练。

共同运行方法与能力边界

模型补课:从价格混杂到真正跑过的树

本章所有数据都为匿名合成教学数据。本地代码不连接生产系统,不改价、不下单、不投放。执行证据分层:三商品回归与 sklearn 梯度提升树确实拟合;随机动态规划确实求解;深度网络、视觉编码器和 Prophet 没有训练或运行。模拟数据上的漂亮数字不能证明实际业务收益。

课程与运行入口

课 ID要回答的问题关联白皮书项输入本轮证据
model-causal-three三商品价格如何共同影响需求,为什么降价数据会估出反号?E01–E03three_products.csv、elasticity_truth.json1,008行输入、三种拟合、价格情景、补货缺口、毛利与非法输入检查
model-pricing-stochastic需求未发生时,三期怎样选价?M01、M03、M04;保留M02确定性基础pricing_scenarios.csv、pricing_config.json、price_response.csvBellman全部状态、八路径、固定价和预定序列对照
model-tree-trained规则、线性、树用同样时间协议究竟表现如何?A05、G08tree_features.csv实际训练、验证选参、独立测试、逐行预测、按SKU与特征消融
model-deep-inputs深度模型究竟吃哪些张量,图像向量怎样参加新品类比?A06、C07deep_inputs.json、image_vectors.csv、trend_history.csv输入形状、时点、模拟路径分位数、8款向量类比、聚类、整款留出
model-prophet-decompositionProphet中的趋势、季节、事件是什么?A04prophet_components.csv分量算术和统一回测接口;Prophet库本身未运行

下载运行包 forecast-model-labs.zip,解压后在目录内执行:

python run_models.py
python tests/test_labs.py
python verify_reproducibility.py

无需访问在线业务系统。输入文件已经附上;generate_data.py 仅用于重建合成夹具,会覆盖本包 data 中的同名文件。完整数值输出在 outputs/results.json,逐行测试预测在 outputs/tree_test_predictions.csv。测试与运行依赖固定版本见 requirements.txt;若环境未安装,需要先安装 numpy、scipy、scikit-learn。不可用库不是静默跳过:本次环境没有 Prophet、torch、LightGBM 或 XGBoost,运行包没有声称使用这些库训练。

model-tree-trained:实际训练的全局梯度提升树

1. 这次真正做了什么

运行包使用scikit-learn的GradientBoostingRegressor训练全局回归模型,三个SKU共同参与。它是实际梯度提升树,不是四行手工分裂,也不是运行LightGBM/XGBoost/CatBoost的替代声称。没有这些库也能学懂相同的提升思想;各库性能、类别编码与工程实现不能混为一谈。

数据生成420天×3SKU。前14天用于历史暖启动,交付特征day14–419,共1,218行。目标是已定义营业日内的需求件数。每个营业日17:00结束,销量17:30已入账,18:00预测次日;促销、天气预报与已知交期均在当日12:00发布。这里的“天气”是昨日已经发布的预报快照,不是次日实测。

2. 每一列为什么合法

列定义预测时是否已知
sku_A/B/C三个SKU的one-hot列,每行一列1其余0静态已知
lag1上一个营业日已发生需求昨日17:30可得
lag7七个营业日前同一天需求已发生
rolling7t−7到t−1的需求均值排除当天目标t
sin7sin(2πt/7)的周内位置日历已知
cos30cos(2πt/30)的模拟周期位置日历已知;不是声称自然月总是30天
promo次日已公告促销0/1昨日12:00
weather_forecast次日温度预报昨日12:00的固定版本
supplier_lead_known预测前已知的交期报价昨日12:00
target_demand次日真正发生的需求特征禁用,只作标签

所有派生列都必须按SKU分别排序再shift,不能让B商品的历史接在A后面。程序检查主键、日期连续、day从2024-01-01起的目标日期映射、预测原点恰为目标前一日18:00,再把available_at解析为时间而非只比较字符串;同时检查lag1、lag7、rolling7与已交付前序目标是否一致;数据最前面少于7日的暖启动值来自合成生成器,完整重建验证另覆盖这段历史,不声称CSV自己包含全部暖启动原始销量。

lead字段在模拟生成机制中有一个−2件的已知条件效应,用来演示“已公布较长等待时间可能影响顾客下单”。这是人为条件关系,不是供应商交期必然导致自然需求下降的业务定律,更不能从本例提炼真实因果。

3. 时间切块与回测目标

  • 训练:day14–251,共714行;所有缩放器、线性系数、树只在这里拟合。
  • 验证:day252–335,共252行;只用于树深度2或3的选择。
  • 测试:day336–419,共252行;不改参数,不反复挑最好测试成绩,不把标签回灌训练。
  • 模型训练后冻结;每天向前走一步,允许使用昨天已实际发生的销量更新lag,再预测明天。

这是滚动一日预测,不是在day335一次预测接下来84天。测试期中的历史值可能来自前几天已经发生的测试目标,因其在该次预测原点已可得而合法;若改为固定原点多日预测,必须递推预测lag或改成多步模型,不能继续使用未来真实销量。

4. 从线性到树,逐符号看更新

线性Ridge解的是:

min_{b,w} Σ_train (y_n − b − Σ_j w_j z_nj)^2 + λΣ_j w_j²

n为样本,j为特征,z为只按训练集均值与标准差缩放后的特征,b为截距,w_j为权重,λ=1。截距通常不惩罚;本包使用sklearn的标准行为。标准化器从训练数据学习,不能先在全数据上fit。

平方损失梯度提升的教学更新为:

F_0(x) = 训练标签均值
r_nm = y_n − F_{m−1}(x_n)
h_m = 用训练特征拟合残差r_m的一棵浅树
F_m(x) = F_{m−1}(x) + η·h_m(x)

m是第几棵树,η是学习率;本例η=0.05、共120棵。每轮专门修正前一轮剩下的误差,并不是把120棵树互不相关地训练再平均。max_depth限制单棵树层数,min_samples_leaf=12防止叶子只记少数点。固定random_state=20261106。

一个叶子手算:四个训练残差[−2,−1,3,4],若只用一个常数叶子,平方误差最小的输出是均值1;这四点的SSE为9+4+4+9=26。若某合法特征阈值把前两点和后两点分开,叶子输出分别−1.5和3.5,两叶总SSE=0.25+0.25+0.25+0.25=1。损失下降25。若某样本当前预测20、落入输出3.5的叶子,本轮更新为20+0.05×3.5=20.175。此手算解释原理,不冒充运行模型某棵树的真实节点。

5. 同一协议、相同测试行

模型的输入按顺序扩展:历史+日历+SKU;再加促销;再加天气预报;再加已知交期。每个版本单独训练;每版树都仅用验证WAPE从深度2/3中选一个。主表完整版本固定,不在测试集上从所有消融中倒选冠军。

实际测试结果如下,WAPE=Σ|A−F|/ΣA,Bias=Σ(F−A)/ΣA;这里WAPE和常用WMAPE是同一个定义。

模型/特征测试WAPE
同星期lag7基线24.2517%
Ridge历史+日历10.4244%
GBDT历史+日历9.0195%
Ridge+促销7.3469%
GBDT+促销6.6643%
Ridge+促销+天气6.3339%
GBDT+促销+天气5.4068%
Ridge完整6.0408%
GBDT完整5.3833%

完整GBDT深度3在验证集WAPE为4.8268%,深度2为5.7768%,因此选3。测试结果只在选择之后计算。完整GBDT测试Bias=+0.2389%,小正值表示总体略高估;正负误差可能互相抵消,Bias接近0不代表逐行误差小。

分SKU不能只看总体:

测试商品lag7 WAPE完整Ridge WAPE完整GBDT WAPE
A26.4924%8.7228%7.9671%
B23.7257%5.6190%5.7000%
C23.4375%4.9068%3.7368%

B商品树略差于线性,不能因为总体更好就声称所有商品都应该升级。只有3条合成序列,尚不能证明规模化泛化,时间相关误差也不能当成252个完全独立实验样本。

6. 同政策成本,避免精度替代业务

本教具每行是独立单日备货,没有跨日库存:备货Q=ceil(max(F,0));缺1件罚2元,多1件罚1元。成本为2max(A−Q,0)+max(Q−A,0)。所有模型使用完全相同目标、成本和政策,不为某个模型特制规则。

测试252行合计:lag7为3,541元,完整Ridge为797元,完整GBDT为718元。B商品分别是1,152、240、259元,树仍略差。它只是同协议下的静态模拟成本,不含资金、MOQ、补货交期、跨日库存或实际利润。模型低WAPE不保证每个决策目标更好,正式库存政策必须单独验证。

7. 三种常见树库,与本包边界

  • XGBoost、LightGBM、CatBoost都属于提升树家族,能学习非线性与特征交互。名称不保证优于线性基线。
  • XGBoost常用正则化目标与多种建树策略;现代版本支持类别特征,但输入类型、启用方式、序列化和版本必须匹配。
  • LightGBM常用直方图与叶优先生长,支持按规则编码的类别列;小数据要限制叶数/最小叶样本,不能把任意编号当连续大小。
  • CatBoost强调类别处理与有序统计以减少目标编码泄漏;不意味着可以把未来目标提前给它。
  • 本包实际使用sklearn经典GBDT,SKU采用明确one-hot。没有运行前三个库,不报告它们速度、精度或重要性。

8. 学员验收

运行后应看到8份训练记录:4个Ridge和4个GBDT特征版本;每个GBDT版本实际拟合2个候选深度,共8次树拟合,加4次线性拟合。逐SKU、逐日预测保存252行,能重新算出主表和成本。将未来天气发布时间改到2099、rolling7偷偷加上当天目标、把测试行标成训练、复制主键,均须失败。

当外部特征缺失,不能默认以0代替。可回退到仅历史+日历的独立已验证模型;若历史也不完整,标记不可预测并进入人工数据检查。本包不包含在线自动回退服务,只有独立历史模型供比较,不能声称已部署完整监控。

仅保存在本机当前浏览器,无账号云同步;清除浏览器数据会丢失。不自动认定你通过测试。建议先保留输出文件和计算过程。

所有数据、系数与业务场景均为教学模拟。预测不等于采购或排产指令。来源与修订说明。