摘要
实验 0216 训练出的“该不该偏离基线”模型(ADV)在完整对局中 0 胜 16 负。一个候选解释是:训练标签只模拟“整局改一次、之后照基线下”,部署时却允许每回合都改,重复改选可能放大了错误。本实验冻结所有权重、零训练,只改一个因素——改选额度——来检验这个解释。
结果很干脆:新模型无论整局改一次还是每回合改一次,都是 1 胜 23 负;未训练的旧权重两种方式都是 11 胜 13 负。新−旧(单次)为 −.416667,频率交互项为 0。单次改选本身就已经有害,本批数据中重复改选没有带来额外损失。 诊断按计划完成,优势策略这条路线随之关闭。
要回答的问题
ADV 的失败,是因为“学出来的单次改选”本身是坏的,还是因为“每回合重复使用”把小错误放大成了大失败?
方法
五个策略,都与基线 AI F(Fair:只用玩家可见信息的搜索 AI)对战:
| 策略 | 固定权重 | 成功改选额度 |
|---|---|---|
| F | 原基线 | 0 |
| W1 | 0214 的 BC 权重(未按新目标训练) | 整局最多 1 次 |
| A1 | 0216 的 ADV 权重 | 整局最多 1 次 |
| WR | 0214 的 BC 权重 | 每回合最多 1 次 |
| AR | 0216 的 ADV 权重 | 每回合最多 1 次 |
四个神经包装策略完全沿用 0216 的候选生成、分数差阈值(严格大于 +0.5)和平分顺序。“整局一次”是在第一次成功执行非基线动作后才用完额度,之后全部照 F 走——不是“只在第一回合能改”。
另外在同一协议内做一次最多 5 分钟的只读检查:用两份冻结模型重新评估 0216 的 206 个训练标签。
主要读数(按来源先合并两侧再平均):
- D1 = A1 − W1:单次改选时,新目标训练带来的差别;
- I = (AR − A1) − (WR − W1):每回合改选相对单次改选的额外损失,是否只出现在新模型上(交互项)。
设置(冻结的条件)
- 来源(固定初始布局和随机种子):从扩大布局池中排除 116 个已用组后剩 78,冻结最先的 12 个新组。每来源五策略各执蓝/执红,共 120 局。统计以 12 个来源为单位,120 局不是 120 个独立样本。
- 预算:总计 30 分钟、CPU 8 核低优先级;零 GPU 更新。
- 20 完整回合未决,或一方灭后对面只剩召唤等临时生命,判双输,双方各得 0 分。
- 本地预先固定的判断门槛(新结果出来前写好):
- “单次改选已退化”:D1 保守上界 ≤ −.10,且至少 3 个来源 D1 上界 < 0;
- “重复改选放大损失”:WR、AR 各至少 4 个来源出现第二次成功改选,D1 下界 > −.10,AR−A1 与 I 上界都 ≤ −.10;
- “有限改选有正向信号”:A1−F 与 A1−W1 下界都 ≥ +.10、各至少 3 个来源改善。
结果
单次运行 127.405930 秒(含只读诊断 6.008267 秒)。120/120 终局:112 局普通胜负、8 局回合双输;无未知、无故障、无重试。
| 策略 | 胜 | 负(含双输) | 双输 | 来源平均分 | 成功改选次数 |
|---|---|---|---|---|---|
| F | 10 | 14 | 4 | .416667 | 0 |
| W1 | 11 | 13 | 2 | .458333 | 23 |
| A1 | 1 | 23 | 1 | .041667 | 24 |
| WR | 11 | 13 | 0 | .458333 | 78 |
| AR | 1 | 23 | 1 | .041667 | 92 |
- A1 − W1 = −.416667:0 个来源改善、9 个退化、3 个持平;A1 − F = −.375,同样 0 改善 / 9 退化。
- AR − A1 = 0,WR − W1 = 0,交互项 I = 0。每个模型在两种频率下 24 个受控方向的胜负一一相同(但轨迹和双输出现的来源不完全相同)。
- 重复改选覆盖充分:WR、AR 各在全部 12 个来源出现过第二次成功改选。
- 判定:单次改选已退化 = 是;重复改选放大损失 = 否;有限改选正向信号 = 否。
A1/AR 的首次改选全部是第 1 回合的移动(24 次);W1/WR 的首次改选是 20 次攻击、3 次等待、1 局无改选,首次改选回合分布在第 1–9 回合,说明“整局一次”没有被误实现成“只在首回合”。
训练标签只读检查:
| 读数 | WARM(BC 权重) | ADV |
|---|---|---|
| 全 206 标签 MSE | 19.504655 | .613241 |
| 全 206 标签 MAE | 3.696305 | .534258 |
| 90 个非零标签方向正确 | 41 | 37 |
| 44 个负标签方向正确 | 34 | 26 |
| 46 个正标签方向正确 | 7 | 11 |
| 116 个零标签 MSE | 20.285472 | .064293 |
| 全体预测 > .5 | 17 | 20 |
ADV 把误差压低了很多,但方向判断并没有更好(37 vs 41),完整对局也没有改善。
正确性:3720 个转移与公开输入、1350 个网络回执、120 次起始随机数扰动核验通过;模型参数、优化器、版本和随机状态在诊断前后逐值相等。120 局回放全部导入并通过交互检查。109 项软件检查通过。
失败与负结果
本实验本身按计划完成;它给出的是对 0216 路线的负结论:学出来的单次改选已经让 24 局里只赢 1 局。
局限
- 交互项为 0 只说明本批 2v2 场景里重复改选没有额外害处,不代表所有场景都如此,也没有定位训练退化的唯一机制。
- “零标签把旧偏好压平”“标量回归不适合排序”等解释都未验证,不据此改损失或继续调参。
- A1 首次改选都是第 1 回合移动,这只是轨迹观察,不能单凭移动次数判定错误。
结论与下一步
退化的根子在“学到的那一次改选”本身,而不是使用频率。关闭优势策略这条路线,不再沿用这 206 个标签。下一步换一种不依赖逐步标签的学习方式:实验 0218 在非对称 1v1 小课程上用 CEM(交叉熵方法,一种按整局胜负筛选参数的进化式搜索)从零优化一个六参数策略。
Comments