摘要

实验 0229 的动作排序模型模仿规则 AI T 的移动没过门槛;0230 和 0231 诊断出主要瓶颈是小批量训练的优化噪声。本实验用更稳的优化(Adam 3e-4、每批 512 个决策)重新训练,并保证足够的更新次数,在一批全新来源上测试。

结果:测试集完整菜单移动 Top-1 从 0229 的 0.137 升到 0.214,但仍低于 0.25 门槛,未通过,结案。改善主要来自动作类型选择,移动内部的落点排序几乎不变(0.340 → 0.339)。剩下的差距集中在一个边界上:菜单里有普通攻击、T 却选择移动的 3,344 个决策中,模型 52.5% 选了攻击。

要回答的问题

更稳的优化加足够的更新次数,能否让模仿 T 的完整菜单移动 Top-1 达到 0.25?“有攻击可选、T 却移动”的决策,模型错在哪?

方法

  • 教师: 仍是 T(实验 0068 的“威胁圈”规则 AI),不换成更简单的 H3,以免改变研究问题。
  • 两种结构: A = 0229 原结构;D = 0231 的“状态嵌入先拼入每个动作行”结构(状态 128、两层 512)。
  • 训练: Adam 3e-4,无权重衰减,每批 512 个决策,种子 0,恒定学习率;每种结构 8000 次更新,在第 4000 和 8000 次各保存一次(恒定学习率下相当于两个预算)。每轮最后不满 512 的批丢弃。
  • 选择: 4 个候选(A/D × 4000/8000)按开发集完整菜单移动 Top-1 选一个;平局取更新少者,再平取 A。只有选中的模型在测试集评估一次。

设置(冻结,在生成测试数据前写定)

  • 训练和开发:0229 的同一批数据(训练 400 个来源、开发 100 个来源)。0229 的测试集已打开过,不再使用。
  • 新测试集: 实验 0070 主检验中 T 一方的全部决策,从保存对局重放生成;只用当时的公开观察和合法菜单,胜负、完整状态、未来事件都不进特征。用后封存。
  • 门槛同 0229:测试集完整菜单移动 Top-1 ≥ 0.25,且 ≥ 移动类内均匀随机期望的 5 倍。不通过就结案,不在本实验内再调。通过也只说明模仿能力,不是棋力。
  • 预算:测试数据生成约 20 分钟(CPU),训练约 30–60 分钟(GPU)。

结果

测试数据: 0070 主检验 640 局全部生成、0 失败;T 方 31,798 个决策,来自 320 个来源。

开发集选择:

结构 更新次数 全体 Top-1 移动 Top-1(完整菜单) 类内移动 Top-1 类型正确率
A 4000 0.536 0.156 0.317 0.809
A 8000 0.549 0.183 0.343 0.817
D 4000 0.506 0.193 0.322 0.801
D 8000 0.492 0.200 0.313 0.798

按冻结规则选中 D-8000。

测试集(只读一次):

指标 值
移动 Top-1(完整菜单,主指标) 0.214
移动 Top-3 0.446
类内移动 Top-1 / Top-3 0.339 / 0.540
按来源平均移动 Top-1 0.222
全体 Top-1 / 类型正确率 0.475 / 0.783
类内均匀随机期望 0.0346(5 倍 = 0.173)
与 T 落点 ≤ 1 格 / 平均距离 47.9% / 2.77 格

判定:0.214 < 0.25,未通过(5 倍随机条件满足)。

T 的实际动作 × 模型的预测(测试集):

T 的情况 决策数 模型选攻击 选移动 其他
菜单有普通攻击,T 移动 3,344 52.5% 39.3% 8.2%
菜单无普通攻击,T 移动 1,697 — 84.3% 15.7%
T 攻击 16,735 88.5% 5.8% 5.7%

失败与负结果

  • 门槛失败:0.214 < 0.25。
  • T 的 5,041 个移动决策中,三分之二(3,344 个)发生在菜单里有普通攻击时,而模型在这些决策上过半选了攻击;没有攻击可选时,模型选移动的比例为 84%。完整菜单移动 Top-1 主要被这个“能攻击却移动”的边界拉低。

局限

  • 与 0229 的对比(0.137 → 0.214)用的是不同测试集,只作参考。
  • 未验证的解释: T 在能攻击时选择移动,取决于旧规则 AI 的攻击评分与“威胁圈”移动价值之间的比较;实验 0071 中“能打就打”的 H3 显著优于 T,说明 T 的这部分选择本身可能偏弱,因而难学,也未必值得学。
  • 只模仿一个规则教师,不是棋力检验。

结论与下一步

更稳的优化让模型更会判断“该不该移动”,但没有让它更会挑落点,也没有跨过门槛。按协议结案,0070 测试集已用过并封存。若继续,须另立实验,可选方向:改以 H3 为教师(它的攻击/移动边界是简单规则),或只让模型学习类内落点排序、由规则决定动作类型。是否转向由下一轮讨论决定。