← 返回文章库

模型说上涨概率80%,怎样用校准表查出过度自信

2026-10-24 · L5

模型输出上涨概率80%,应检查历史上相近概率预测中后来上涨的比例,并保留每箱样本数;准确率或排序高不能直接确认概率语义。Brier分数是逐条概率平方误差的平均,同时受可靠性、分辨能力和结果不确定性影响,不能把它当作纯校准误差。本页用二十条冻结概率展示这两把尺子,再另设过去校准段,避免在评估标签上拟合修正器。

二十条冻结预测与同排序对照

构造二十个连续实验日,y=1表示之后的目标区间上涨,y=0表示未上涨,阈值与标签定义事先冻结。它不是实际股票记录,也未训练某个概率模型。A的概率依次为0、0.05直到0.45,然后0.55至1,完整值见表。B提前指定为0.25+0.5*p_A,严格单调,因此两个模型的所有样本排序相同;B只是透明的收缩对照,没有使用这二十条标签选择系数。

Brier按(p-y)²逐条计算后除二十,范围从零到一,越低越好。对正确且确定的概率零或一,误差为零;对错误的确定预测,误差为一。平方损失可以直接处理零和一,不需要为了避免对数零而加epsilon。本页没有计算log loss,不把其他损失函数的数值处理规则混入Brier。

评估日A概率B概率之后标签A平方误差B平方误差历史校准器输出校准后平方误差
100.25000.06250.50.25
20.050.27500.00250.0756250.50.25
30.10.310.810.490.50.25
40.150.32500.02250.1056250.50.25
50.20.3500.040.12250.250.0625
60.250.37510.56250.3906250.250.5625
70.30.400.090.160.250.0625
80.350.42510.42250.3306250.250.5625
90.40.4500.160.20250.50.25
100.450.47510.30250.2756250.50.25
110.550.52500.30250.2756250.50.25
120.60.5510.160.20250.50.25
130.650.57500.42250.3306250.50.25
140.70.610.090.160.50.25
150.750.62500.56250.3906250.50.25
160.80.6510.040.12250.750.0625
170.850.67510.02250.1056250.750.0625
180.90.700.810.490.750.5625
190.950.72510.00250.0756250.750.0625
2010.75100.06250.750.0625

固定可靠性箱保留哪些信息

可靠性表使用十个等宽概率箱,左闭右开,最后一箱包含一。箱的横坐标是该箱预测概率平均,纵坐标是该箱标签中正例比例,样本数n必需同列。平均概率0.825的一箱只有两条,恰巧两次上涨不能证明真实条件概率为一。概率接近0.8不是承诺每五笔固定四笔上涨,它是足够可比重复样本中的频率解释。

下表同时列A与B,空箱保留n=0、均值和频率为null;图上可以跳过空点,但数据表不能填零伪造成“预测概率零、上涨率零”的可靠点。箱边界和箱数在看标签之前冻结,不能反复合箱,直到曲线接近对角线。

箱编号下界含上界末箱含A样本数A概率均值A正例率B样本数B概率均值B正例率
000.120.02500空(null)空(null)
10.10.220.1250.50空(null)空(null)
20.20.320.2250.520.26250
30.30.420.3250.540.33750.5
40.40.520.4250.540.43750.5
50.50.610.55030.550.33333333
60.60.720.6250.540.63750.75
70.70.820.7250.530.7250.66666667
80.80.920.82510空(null)空(null)
90.9130.950.666666670空(null)空(null)

A的Brier为0.24125,B为0.2215625,两者排序完全一致但概率损失不同。A最高箱平均概率0.95,实际正例率仅三分之二,在这三条构造记录上表现为过度自信;与此同时A的0.825箱观察正例率为一,又表现为相反方向偏差。小箱噪音很大,因此应描述当前样本的差距,不能把某一箱当成永久修正比例。

历史校准器必须与评估分离

另造八条更早记录,预测时点记负八至负一日;假设其目标标签全部在零日结束前成熟,基模型在负八日前已经冻结,本页不模拟基模型训练。零日只是明确隔离的等待日,从第一日至二十日才开始后续评估。因此历史校准器没有接触任何评估标签;若真实标签跨多天,要按实际成熟时间延长间隔,不能照抄一个等待日。

历史概率为0.1、0.1、0.3、0.3、0.7、0.7、0.9、0.9,对应标签0、1、0、0、1、0、1、1。固定五个等宽箱,每箱用(正例数+1)/(样本数+2)作Laplace平滑映射。空箱回退到历史总体平滑比例(4+1)/(8+2)=0.5。这个分箱映射不是Platt逻辑回归,也不是保序回归;它可能非单调,不能承诺保留排序。

历史预测日历史冻结概率成熟标签
-80.10
-70.11
-60.30
-50.30
-40.71
-30.70
-20.91
-10.91
五等宽箱编号历史样本数历史正例数冻结映射概率是否全局回退
0210.5否
1200.25否
2000.5是
3210.5否
4220.75否

历史校准后的二十条输出已列在第一张表,对应Brier为0.240625,略低于A但高于预设收缩对照B。结果说明隔离合规也不保证校准器改善;八条历史记录太少,分箱映射会有很大估计噪音。不能观察到B更好后再说B的0.25和0.5是从历史校准学出的系数,本页明确它们是提前规定的另一模型对照。

排序、准确率与概率质量怎样分工

严格单调变换通常保留排序指标,但可能把概率压向中间或推向两端,从而改变平方损失。按0.5阈值的分类准确率又只看预测落在哪一边,丢掉了0.51与0.99的区别。只有把预测数字当成实际频率承诺来检查,才能发现过度自信;也不能因为Brier更低,就跳过可靠性箱认定每个概率段都更准。

Brier分解同时涉及可靠性、分辨能力和结果本身的不确定性,两个模型若特征不同、排序也不同,总分更低可能来自分辨能力提高而非纯校准改善。本文让A与B排序一致,是为了控制一个差异来源,但有限分箱表仍依赖箱宽,不能当成完整连续概率校准曲线。二十条连续日期也不等于二十次独立伯努利试验。

复核与边界处理

核对时先检查所有概率落在闭区间零到一、标签只含零一,缺概率或未成熟标签不能填零。其次把每条误差相加除以二十,分别回到三个Brier;再核可靠性箱n相加为二十,正例数相加与输入标签一致。历史空箱的0.5来自明确回退政策,不是零除零后偷偷加平滑;评估可靠性空箱则保留null,两个场景的语义不同。

条件变为概率零却实际上涨、或概率一却实际未上涨时,Brier均应为一;程序另保留这两个边界反例,避免输出NaN或无限数。若需要为箱频率估计区间,还要处理日期依赖与小样本,当前表没有提供具有覆盖率保证的置信带。概率校准也不计交易成本、盈亏比和仓位,不能从“80%”直接推出值得买入或可以重仓。

scikit-learn概率校准官方文档的校准曲线和校准器章节支持分箱均值、正例比例以及独立校准数据的原则,也提醒Brier不是单一校准度。本文实际读取这些章节,数字与平滑映射来自自造实验;时间隔离仍需结合标签可得性,不能把文档中的通用交叉验证默认照搬到金融日期序列。

评估日期推进后如何更新映射

如果允许校准器滚动更新,每次更新时间必须等候对应标签成熟,并把新映射分配给之后预测。不能用第二十日后得到的频率回填第一日概率,再把变化称作实时校准改善。评估记录应同时存原始概率、映射版本和最终概率,便于判断变化来自基模型还是校准层。对股票横截面,多条同日记录还可能共享市场冲击,箱样本数多并不自动带来相同数量的独立证据。

继续核对研究流程时,可回到时序交叉验证母题;遇到相邻任务,再分别查看量化模型消融配对比较、不等长标签purge清除。本文的滚动验证工具链接仅作基础流程说明,新增审计和统计计算由本页独立表格与模型交付。

道积君编辑组,AI辅助编写与核算。本文为构造教学实验,来源说明方法,数字由明示输入计算,不代表真实策略、收益预测或统计审定。

复算资料

本篇编号DJ4-066。下载Python复算脚本(文本)与构造输入输出JSON,按编号核对本篇。脚本改存为.py后可用Python标准库运行,数据不是实际用户记录。

这个页面有问题?

提交时会附带当前页面地址和浏览器信息,帮助我们定位问题。不填联系方式即为匿名。