第四章 预售二项 Deviance 和标准化残差
全文共 2340 字,阅读约需 5 分钟
第四章 预售二项 Deviance 和标准化残差:白皮书范围:专项场景一模型评估。 这一章只诊断一天的条件取消预测,再推广到多天。先把“人数”“概率”“预测取消人数”分开。
课程目录与学习记录 0 / 109
学习进度仅存于本机浏览器。原教程站的记录不会跨域自动迁移;可先在原站导出留存,新站按实际完成情况重新勾选。
入门数据与作业包
禾味数据为 2 店 × 8 SKU × 180 天,共 2,880 行,是可见教学数据,不是封存盲测集。起步包是模拟夹具,不表示已完成六行业预测实验。资源中心另有四专项工程、模型实验和计划实验,使用前请阅读各自能力边界。
本课使用模拟数据与明确假设。数学推导、枚举和数据核验不等于真实业务模型有效。配套包包含60天教学曲线及约束枚举,不是完整订单训练集。
下载数学实验、完整教材与只读验证器
第四章 预售二项 Deviance 和标准化残差
白皮书范围:专项场景一模型评估。 这一章只诊断一天的条件取消预测,再推广到多天。先把“人数”“概率”“预测取消人数”分开。
方法出处:NIST 二项分布说明列出概率质量函数、均值及标准差;statsmodels 官方偏差残差定义明确偏差残差是带符号的 √D。下面按似然比自行推导二项 Deviance。
4.1 二项模型的输入和假设
C_t | R_t,p_t ~ Binomial(R_t,p_t)。
- R_t:第 t 天天初风险集人数,单;尚未取消、尚未发货,且确实可观察。
- C_t:当天观察到的取消人数,单,整数且 0≤C_t≤R_t。
- p_t:模型在看到当天结果之前给出的条件取消概率,无单位,0≤p_t≤1。
- μ_t=R_t p_t:模型预测的当天取消人数,单,可为小数。
- 来源:以 R_t 次具有相同成功概率的二元试验构成的二项分布。假设给定特征后,当天订单的取消结果足够独立且同概率;若概率不同,应使用订单级模型或更合适的分组。
二项均值是 R_t p_t,方差是 R_t p_t(1-p_t),标准差是 √[R_t p_t(1-p_t)]。同一用户的一批订单、同一活动造成的共同冲击可能引入相关性,导致实际波动大于这个方差,称为过度离散。
4.2 Pearson 标准化残差
z_t = (C_t-R_t p_t) / √[R_t p_t(1-p_t)]。
分子是“实际减预测”的单数,分母是该二项模型允许的标准差,单位也是单,故 z_t 没有单位。白皮书称其为标准化残差;更具体地说,这是 Pearson 残差,并未包含训练样本杠杆值校正。
模拟例:R=100 单,实际取消 C=20 单,预测 p=0.10。 1. 预测取消人数=100×0.10=10 单。 2. 方差=100×0.10×0.90=9,标准差=3 单。 3. z=(20-10)/3=3.333。
正号表示低估,负号表示高估。但 |z|>3 只是排查线索,不是异常原因已被证实。小样本或极小概率时正态近似可能很差;应考虑二项精确尾概率。检查很多 SKU×日期时也会自然出现极端值,需处理多重比较、相关性和过度离散。
如果残差来自训练数据,通常还要考虑模型拟合和杠杆效应;不能把这里的公式当作所有 GLM 诊断的完整版本。
4.3 二项 Deviance 的完整公式
D_t = 2{C_t ln[C_t/(R_t p_t)] + (R_t-C_t) ln[(R_t-C_t)/(R_t(1-p_t))]}。
总偏差 D=Σ_t D_t。D 和每个 D_t 都无单位,数值非负。它衡量当前模型与能在每组完美贴合观测比例的“饱和模型”之间的对数似然差,不是取消率、利润或准确率百分比。
数学来源:二项似然中与概率有关的部分为 pC(1-p)(R-C)。饱和模型取 p*=C/R;用“饱和模型的对数似然减当前模型的对数似然”再乘 2,二项组合数项抵消,就得到上式。不需要学微积分即可代入计算。
仍用 R=100、C=20、p=0.10: 1. 第一项=20 ln(20/10)=20 ln2≈13.862944。 2. 第二项=80 ln(80/90)≈-9.422643。 3. 两项相加≈4.440301。 4. 乘 2,D≈8.880602。
单项里的第二项可以为负,但总 D 不为负。若 p 改成观测比例 0.20,两项都是 ln1=0,D=0。这只是该组完全贴合,若用结果本身当预测,不能证明泛化能力。
可选的偏差残差是 r_D=sign(C-Rp)√D,本例≈+2.980;sign 表示正数取 +1、负数取 -1、零取 0。它与 Pearson 残差 3.333 不是同一个量,不应混写。
4.4 零值和极端概率必须明确处理
- C=0 时,第一项按极限约定 0·ln0=0,剩余项可计算。本例 R=100、p=0.10、C=0 时 D=200 ln(1/0.9)≈21.072103。
- C=R 时,第二项按相同约定为 0。
- p=0 且 C>0,或 p=1 且 C<R,模型认为实际事件不可能,D 为正无穷,不应悄悄改成 0。
- p=0、C=0 或 p=1、C=R 时,D=0,但 Pearson 残差是 0/0,不定义,不能除零。
- R=0 时没有当天事件信息,C 必须为 0;诊断中跳过该行,不能声称这天 p=0,也不能用 0/0 估计风险率。
- 程序可以为数值稳定把 p 裁剪到 ε 与 1-ε 之间,但必须报告 ε 以及这一步对无限惩罚的改变。裁剪不是统计修复。
4.5 Brier 分数不要算错对象
在这组 R 个订单上,单个订单取消为 y_j=1,否则为 0;模型都给概率 p:
Brier = (1/R)Σ_j(y_j-p)² = [C(1-p)²+(R-C)p²]/R。
来源:二元概率预测的平方误差定义。数值无单位,越小越好。
本例 Brier=[20×0.9²+80×0.1²]/100=(16.2+0.8)/100=0.17。若 p=0.20,Brier=0.16;若 p=0.25,Brier=0.1625。
(C/R-p)²=0.01 不是这个订单级 Brier。 它是分组平均概率误差,漏掉了组内二元结果的波动。若比较的是“第 59 天以前是否取消”,很多订单被提前发货而结局未知,就不能直接把未知标成 0 来算生存 Brier;需要明确定义结局、适当删失权重及可识别性假设。
4.6 比较两个模型的公平规则
必须使用同一批可评价订单、同一风险集口径、同一预测起点、同一评估时间窗。数据越多,总 D 往往越大;不能跨样本直接比较两个总数。可以并列报告总 D、风险暴露量和按明确分母归一化的分数。模型在训练集上越灵活通常越贴合,最终判断应看留出的未来验证集。
4.7 小项目与答案
任务:R=100、C=20,模型甲 p=0.10,模型乙 p=0.25。求乙的 z、D、订单级 Brier,判断哪一个在这组观测上更好。
答案:乙的均值=25,标准差=√18.75≈4.330;z≈-1.154701。D=2[20ln(20/25)+80ln(80/75)]≈1.400421;Brier=0.1625。乙的 D、Brier 均小于甲,说明在这组数据上更好。单组结果不能证明所有商品都适合 25%。
仅保存在本机当前浏览器,无账号云同步;清除浏览器数据会丢失。不自动认定你通过测试。建议先保留输出文件和计算过程。
所有数据、系数与业务场景均为教学模拟。预测不等于采购或排产指令。来源与修订说明。