摘要

实验 0216 训练出的“该不该偏离基线”模型(ADV)在完整对局中 0 胜 16 负。一个候选解释是:训练标签只模拟“整局改一次、之后照基线下”,部署时却允许每回合都改,重复改选可能放大了错误。本实验冻结所有权重、零训练,只改一个因素——改选额度——来检验这个解释。

结果很干脆:新模型无论整局改一次还是每回合改一次,都是 1 胜 23 负;未训练的旧权重两种方式都是 11 胜 13 负。新−旧(单次)为 −.416667,频率交互项为 0。单次改选本身就已经有害,本批数据中重复改选没有带来额外损失。 诊断按计划完成,优势策略这条路线随之关闭。

要回答的问题

ADV 的失败,是因为“学出来的单次改选”本身是坏的,还是因为“每回合重复使用”把小错误放大成了大失败?

方法

五个策略,都与基线 AI F(Fair:只用玩家可见信息的搜索 AI)对战:

策略 固定权重 成功改选额度
F 原基线 0
W1 0214 的 BC 权重(未按新目标训练) 整局最多 1 次
A1 0216 的 ADV 权重 整局最多 1 次
WR 0214 的 BC 权重 每回合最多 1 次
AR 0216 的 ADV 权重 每回合最多 1 次

四个神经包装策略完全沿用 0216 的候选生成、分数差阈值(严格大于 +0.5)和平分顺序。“整局一次”是在第一次成功执行非基线动作后才用完额度,之后全部照 F 走——不是“只在第一回合能改”。

另外在同一协议内做一次最多 5 分钟的只读检查:用两份冻结模型重新评估 0216 的 206 个训练标签。

主要读数(按来源先合并两侧再平均):

  • D1 = A1 − W1:单次改选时,新目标训练带来的差别;
  • I = (AR − A1) − (WR − W1):每回合改选相对单次改选的额外损失,是否只出现在新模型上(交互项)。

设置(冻结的条件)

  • 来源(固定初始布局和随机种子):从扩大布局池中排除 116 个已用组后剩 78,冻结最先的 12 个新组。每来源五策略各执蓝/执红,共 120 局。统计以 12 个来源为单位,120 局不是 120 个独立样本。
  • 预算:总计 30 分钟、CPU 8 核低优先级;零 GPU 更新。
  • 20 完整回合未决,或一方灭后对面只剩召唤等临时生命,判双输,双方各得 0 分。
  • 本地预先固定的判断门槛(新结果出来前写好):
    • “单次改选已退化”:D1 保守上界 ≤ −.10,且至少 3 个来源 D1 上界 < 0;
    • “重复改选放大损失”:WR、AR 各至少 4 个来源出现第二次成功改选,D1 下界 > −.10,AR−A1 与 I 上界都 ≤ −.10;
    • “有限改选有正向信号”:A1−F 与 A1−W1 下界都 ≥ +.10、各至少 3 个来源改善。

结果

单次运行 127.405930 秒(含只读诊断 6.008267 秒)。120/120 终局:112 局普通胜负、8 局回合双输;无未知、无故障、无重试。

策略 胜 负(含双输) 双输 来源平均分 成功改选次数
F 10 14 4 .416667 0
W1 11 13 2 .458333 23
A1 1 23 1 .041667 24
WR 11 13 0 .458333 78
AR 1 23 1 .041667 92
  • A1 − W1 = −.416667:0 个来源改善、9 个退化、3 个持平;A1 − F = −.375,同样 0 改善 / 9 退化。
  • AR − A1 = 0,WR − W1 = 0,交互项 I = 0。每个模型在两种频率下 24 个受控方向的胜负一一相同(但轨迹和双输出现的来源不完全相同)。
  • 重复改选覆盖充分:WR、AR 各在全部 12 个来源出现过第二次成功改选。
  • 判定:单次改选已退化 = 是;重复改选放大损失 = 否;有限改选正向信号 = 否。

A1/AR 的首次改选全部是第 1 回合的移动(24 次);W1/WR 的首次改选是 20 次攻击、3 次等待、1 局无改选,首次改选回合分布在第 1–9 回合,说明“整局一次”没有被误实现成“只在首回合”。

训练标签只读检查:

读数 WARM(BC 权重) ADV
全 206 标签 MSE 19.504655 .613241
全 206 标签 MAE 3.696305 .534258
90 个非零标签方向正确 41 37
44 个负标签方向正确 34 26
46 个正标签方向正确 7 11
116 个零标签 MSE 20.285472 .064293
全体预测 > .5 17 20

ADV 把误差压低了很多,但方向判断并没有更好(37 vs 41),完整对局也没有改善。

正确性:3720 个转移与公开输入、1350 个网络回执、120 次起始随机数扰动核验通过;模型参数、优化器、版本和随机状态在诊断前后逐值相等。120 局回放全部导入并通过交互检查。109 项软件检查通过。

失败与负结果

本实验本身按计划完成;它给出的是对 0216 路线的负结论:学出来的单次改选已经让 24 局里只赢 1 局。

局限

  • 交互项为 0 只说明本批 2v2 场景里重复改选没有额外害处,不代表所有场景都如此,也没有定位训练退化的唯一机制。
  • “零标签把旧偏好压平”“标量回归不适合排序”等解释都未验证,不据此改损失或继续调参。
  • A1 首次改选都是第 1 回合移动,这只是轨迹观察,不能单凭移动次数判定错误。

结论与下一步

退化的根子在“学到的那一次改选”本身,而不是使用频率。关闭优势策略这条路线,不再沿用这 206 个标签。下一步换一种不依赖逐步标签的学习方式:实验 0218 在非对称 1v1 小课程上用 CEM(交叉熵方法,一种按整局胜负筛选参数的进化式搜索)从零优化一个六参数策略。