网站导航

从一条直线到类别特征

全文共 4342 字,阅读约需 9 分钟

从一条直线到类别特征:设x为“预测发出时已确认的次日套餐预订份数”,y为“次日鸡腿肉净耗用量kg”。先使用:

← 学习路线
课程目录与学习记录 0 / 109

学习进度仅存于本机浏览器。原教程站的记录不会跨域自动迁移;可先在原站导出留存,新站按实际完成情况重新勾选。

入门数据与作业包

禾味数据为 2 店 × 8 SKU × 180 天,共 2,880 行,是可见教学数据,不是封存盲测集。起步包是模拟夹具,不表示已完成六行业预测实验。资源中心另有四专项工程、模型实验和计划实验,使用前请阅读各自能力边界。

第5章 从一个特征开始理解线性回归

5.1 把一条直线看作一条计算规则

设x为“预测发出时已确认的次日套餐预订份数”,y为“次日鸡腿肉净耗用量kg”。先使用:

ŷ=a+b×x。

a是截距,b是斜率。b的单位是kg/份:在这条拟合规则中,预订增加1份,预测耗用增加b kg。它不是自动等同于配方BOM,更不是增加1份预订必然造成的因果效果。

下面4个观测是单独构造的回归手算数据,不是前面14天数据的另几列:

观测已确认预订x 份实际净耗用y kg
A10020
B12023
C14027
D16030

模型训练要做的事是:找到一组a、b,使这4个点与直线之间的偏差尽量小。普通最小二乘使用“偏差平方和最小”作为目标,参见scikit-learn LinearRegression文档。

5.2 先算两个平均数

x的平均数为(100+120+140+160)÷4=130份。

y的平均数为(20+23+27+30)÷4=25kg。

把每个观测减去平均值,再做下表:

xyx−130y−25两项相乘(x−130)²
10020−30−5150900
12023−10−220100
1402710220100
16030305150900
合计3402000

一元线性回归的斜率可以这样求:

b=Σ[(x−x均值)×(y−y均值)]÷Σ(x−x均值)²=340÷2000=0.17。

Σ遍历这4个观测。分子单位是份×kg,分母是份²,相除得到kg/份;截距a的单位为kg。这个闭式解适用于带截距的一元普通最小二乘,前提是x不全相同。若4个x都等于130,则分母为0,斜率不能由这些数据唯一确定,不应强行输出0。最小二乘的几何目标本身不要求先假设正态分布;若要进行置信区间或显著性推断,还需额外统计条件。

分子表示两者偏离各自平均值时是否倾向于同向变化;分母用于按x自身变化的尺度进行换算。此刻不需要记住推导,只需知道它把一组点的共同变化压缩成一个斜率。

然后算截距:a=y均值−b×x均值=25−0.17×130=2.9。

因此模型为:ŷ=2.9+0.17x。

5.3 检查拟合结果

x实际y拟合ŷ实际−拟合
1002019.90.1
1202323.3−0.3
1402726.70.3
1603030.1−0.1

平方误差和=0.1²+0.3²+0.3²+0.1²=0.2。训练MAE为0.2kg。

这里使用参与训练的4个点来检查拟合,误差叫训练残差。它不等同于提前预测未来的误差。这个样本故意接近直线,而且只有4个点,不能拿0.2kg当作上线后精度。

5.4 真正生成一个预测

若截单时已确认次日预订150份:

ŷ=2.9+0.17×150=28.4kg。

这个150在预测时已经知道,因此可以使用。若150其实是第二天最终完成的订单总数,就不允许这样直接用。你需要先预测订单数,或者换成预测时可见的预订信息,并在回测时完整模拟同样过程。

这里150位于训练范围100至160之间,属于插值。若拿它预测800份预订,则是远距离外推。厨房产能、团餐结构、菜品配比和供应约束都可能变化,不能因为公式还能算出138.9kg,就认为这个数可靠。

截距2.9是直线的位置,不应机械解释为“没有预订也一定耗用2.9kg”。样本并没有观察到接近0份的情况,截距的业务意义需要额外证据。

5.5 用电子表格复现

假设A2:A5放x,B2:B5放y:

  • 斜率:=SLOPE(B2:B5,A2:A5),应得到0.17。
  • 截距:=INTERCEPT(B2:B5,A2:A5),应得到2.9。
  • 预测150份:=FORECAST.LINEAR(150,B2:B5,A2:A5),应得到28.4。

图表中使用散点图,而不是把A、B、C、D当作等距类别的折线图。横轴是预订份数,纵轴是kg,坐标单位应写出来。

5.6 不用R²替代预测验收

R²描述模型对这批数据波动的拟合程度。4个点几乎排成直线,训练R²自然很高,但这不说明未来预测可靠。增加特征通常能让训练拟合更好,却可能损害未来效果。

同样,“预订与耗用正相关”可以支持预测候选特征,但不能直接推出改变预订策略的收益。预测关系和因果干预需要不同证据。Forecasting Principles and Practice 第7章专门讨论了R²的局限与相关、因果的区别。

本章练习。 用刚才的模型预测130份预订的耗用量;再说明为什么不能承诺“每增加100份预订,采购一定增加17kg”。

参考答案。 预测为25kg。17kg只是模型给出的条件关联增量,不等于已识别的因果效果;采购还受库存、交期、可替代食材与包装规格影响。

第6章 从多个数值到不同类型的特征

6.1 多元回归只是把一条规则拆成多项

真实业务不只受预订影响。加入周末、促销、门店后,可以写成:

ŷ=b0+b1×预订份数+b2×周末标记+b3×促销标记+b4×门店B标记。

ŷ单位kg;b0为截距,单位kg;b1单位kg/份;三个标记均无单位,因此b2、b3、b4单位都为kg。下标0至4只是参数编号,不是时间或乘方。把各特征乘对应系数后,所有项都转成kg才能相加。

周末、促销与门店B标记都是0或1。为了只练习“模型怎样使用多个输入”,先人为设定一组系数:

ŷ=8+0.08×预订份数+2×周末标记+3×促销标记+4×门店B标记。

这些系数是教学假设,不是对14天数据或180天数据训练得到的结果。 真正训练时,应由历史训练样本共同估计所有系数,再进行时间回测。

如果门店B明天是周末、有促销、已确认150份预订,则:

ŷ=8+0.08×150+2+3+4=29kg。

若所有其他条件不变,仅换成门店A,门店B标记由1变为0,预测降到25kg。这是模型内部的条件比较,不是证明把A店改名为B店就能增加4kg需求。

6.2 为什么不能把门店随意编码成1 2 3

如果门店A=1、B=2、C=3,再直接乘一个系数,模型就会把B与A的差异视为和C与B相同,还暗含门店之间有顺序和距离。这一般不是门店类别的真实含义。

对于带截距的普通线性回归,常见做法是选一个参考类别,其余类别各建一个0/1列。例如三种渠道:

渠道外卖标记团餐标记
堂食 参考组00
外卖10
团餐01

若同时放截距、堂食、外卖、团餐三个标记,它们会满足“堂食+外卖+团餐=1”,产生完全线性依赖。软件可能给出某种数值解,但系数不能按唯一可识别的类别差异随意解释。参考组编码是一个清楚的处理办法。独热编码的工具行为见scikit-learn OneHotEncoder文档。

类别数量很多时,独热列也会变多。新品、新店或新渠道还可能在预测时第一次出现。训练前就应确定未知类别的处理规则,不能到上线才发现系统拒绝预测。树模型或原生类别模型的编码要求也各不相同,不能把一套编码方式当作所有算法的通用规定。

6.3 “不同类别对促销反应不同”需要交互项

刚才的规则让A店和B店的促销增量都等于3kg。如果希望表达“B店促销可能更强”,可以加入:

交互项=促销标记×门店B标记。

再假定它的教学系数为1.5,则:

ŷ=原公式+1.5×促销标记×门店B标记。

门店B有促销时,新预测为30.5kg;A店有促销时仍加3kg;B店无促销时交互项为0。

交互项回答的是“某个因素的预测关系是否因另一个因素而不同”。服装中可对应“折扣×品类”“气温×外套品类”“渠道×价格”。如果数据里所有促销都恰好发生在周末,你很难可靠分开周末与促销各自的关系,需要更多不同组合的数据。

6.4 周几 价格 尺码不能采用同一种处理

信息一种入门处理需要警惕的事
价格数值特征历史价格可能由清库存策略决定,系数不自动是价格弹性
促销0/1、类型类别、折扣深度只用预测时已确认的活动版本
星期类别标记周日与周一相邻,但数字7与1相差6,不宜任意当直线关系
门店或渠道类别编码编号本身没有大小和等距意义
尺码结合品类定义的类别或有序信息S到M与M到L未必代表同样的需求变化
温度数值,可进一步加非线性关系未来实际温度不可用,应使用当时预报或情景
节假日已知日历、节前节后距离调休和移动节日不等于普通星期模式
商品上市天数数值或生命周期阶段不能使用预测时尚未知的最终退市日期

“线性”也不意味着只能画直线。如果把x²作为额外特征,ŷ=a+b1x+b2x²仍对系数保持线性,但对x呈曲线。模型变灵活后,也更容易在样本边界外给出不合理结果。

6.5 多加一个特征之前先问四个问题

  1. 预测发出时能拿到它吗?
  2. 历史能重建当时版本吗?
  3. 样本是否覆盖它的不同取值和组合?
  4. 加入后是否改善相同时间回测,并值得增加数据依赖?

例如天气特征带来0.1个百分点WAPE改善,却需要一个经常延迟的外部接口,它未必值得引入第一版。反过来,促销计划若显著降低关键大促的短缺风险,即使平均指标改善不大,也可能有业务价值,需要单独分组验证。

6.6 正则化是给过于灵活的系数加约束

特征变多以后,模型可能用很大的正负系数互相抵消,把历史噪声拟合得很好。Ridge在拟合误差之外惩罚系数平方,Lasso惩罚系数绝对值,后者可能把部分系数压到0。

入门时先理解作用,不急着手推优化算法:模型需要在“解释历史”与“保持规则稳定”之间折中。惩罚强度是需要验证的设置。若特征量纲相差很大,通常要按训练集统计量进行缩放,使惩罚更可比;验证与测试只能沿用训练阶段学到的缩放规则。

正则化不能修复数据穿越,也不能从4个样本里制造充足证据。应先建立低特征数、可解释的基线,再比较它是否真的带来改进。

本章练习。 匿名服装企业有品类、颜色、门店、上市天数、折扣率和明日实际销量。哪些可以用于预测明日销量?

参考答案。 前五类信息在预测时可知且历史版本可重建时可以作为候选;“明日实际销量”本身是目标,不能作为输入。计划折扣可以使用,事后实际折扣若当时未确定则不能直接使用。

本阶段项目与验收

阶段4:从一条直线到多特征与类别(3课)

必修/扩展边界:必修只使用本节完整三行(x,y)=(20,10),(25,15),(30,20),x单位℃、y单位kg,按手算公式得到斜率1、截距−10,预测27℃为17kg。类别练习另设门店B哑变量=1时加5kg,则B在27℃预测22kg,A为17kg。温度/促销/尺码的大样本特征尚未提供,正式回归训练为选修,不作必修验收。

课程:①斜率截距与最小平方;②数值、0/1类别、交互项;③相关不等于因果,拟合不等于外推能力。

选修扩展项目P04“温度、促销、门店一起解释需求”:手算x=[20,25,30]、y=[10,15,20]得到y=x−10;再用180天禾味数据建立温度、星期、计划促销、门店类别模型;服装加入价格、品类、尺码。未来温度使用原点可获得天气预报/情景,不用事后真实温度。

扩展交付:coefficients.csv、feature_availability.md、按门店残差图、回归解释卡。

扩展验收(完成必修不要求实现此部分):手算斜率1、截距−10正确;保留截距时K类别仅K−1哑变量;未见类别有处理规则;常数x触发“无法估计斜率”而非除0;模型是否改善如实报告,不设必胜门槛。

仅保存在本机当前浏览器,无账号云同步;清除浏览器数据会丢失。不自动认定你通过测试。建议先保留输出文件和计算过程。

所有数据、系数与业务场景均为教学模拟。预测不等于采购或排产指令。来源与修订说明。