摘要
实验 0229 的动作排序模型模仿规则 AI T 的移动没过门槛;0230 和 0231 诊断出主要瓶颈是小批量训练的优化噪声。本实验用更稳的优化(Adam 3e-4、每批 512 个决策)重新训练,并保证足够的更新次数,在一批全新来源上测试。
结果:测试集完整菜单移动 Top-1 从 0229 的 0.137 升到 0.214,但仍低于 0.25 门槛,未通过,结案。改善主要来自动作类型选择,移动内部的落点排序几乎不变(0.340 → 0.339)。剩下的差距集中在一个边界上:菜单里有普通攻击、T 却选择移动的 3,344 个决策中,模型 52.5% 选了攻击。
要回答的问题
更稳的优化加足够的更新次数,能否让模仿 T 的完整菜单移动 Top-1 达到 0.25?“有攻击可选、T 却移动”的决策,模型错在哪?
方法
- 教师: 仍是 T(实验 0068 的“威胁圈”规则 AI),不换成更简单的 H3,以免改变研究问题。
- 两种结构: A = 0229 原结构;D = 0231 的“状态嵌入先拼入每个动作行”结构(状态 128、两层 512)。
- 训练: Adam 3e-4,无权重衰减,每批 512 个决策,种子 0,恒定学习率;每种结构 8000 次更新,在第 4000 和 8000 次各保存一次(恒定学习率下相当于两个预算)。每轮最后不满 512 的批丢弃。
- 选择: 4 个候选(A/D × 4000/8000)按开发集完整菜单移动 Top-1 选一个;平局取更新少者,再平取 A。只有选中的模型在测试集评估一次。
设置(冻结,在生成测试数据前写定)
- 训练和开发:0229 的同一批数据(训练 400 个来源、开发 100 个来源)。0229 的测试集已打开过,不再使用。
- 新测试集: 实验 0070 主检验中 T 一方的全部决策,从保存对局重放生成;只用当时的公开观察和合法菜单,胜负、完整状态、未来事件都不进特征。用后封存。
- 门槛同 0229:测试集完整菜单移动 Top-1 ≥ 0.25,且 ≥ 移动类内均匀随机期望的 5 倍。不通过就结案,不在本实验内再调。通过也只说明模仿能力,不是棋力。
- 预算:测试数据生成约 20 分钟(CPU),训练约 30–60 分钟(GPU)。
结果
测试数据: 0070 主检验 640 局全部生成、0 失败;T 方 31,798 个决策,来自 320 个来源。
开发集选择:
| 结构 | 更新次数 | 全体 Top-1 | 移动 Top-1(完整菜单) | 类内移动 Top-1 | 类型正确率 |
|---|---|---|---|---|---|
| A | 4000 | 0.536 | 0.156 | 0.317 | 0.809 |
| A | 8000 | 0.549 | 0.183 | 0.343 | 0.817 |
| D | 4000 | 0.506 | 0.193 | 0.322 | 0.801 |
| D | 8000 | 0.492 | 0.200 | 0.313 | 0.798 |
按冻结规则选中 D-8000。
测试集(只读一次):
| 指标 | 值 |
|---|---|
| 移动 Top-1(完整菜单,主指标) | 0.214 |
| 移动 Top-3 | 0.446 |
| 类内移动 Top-1 / Top-3 | 0.339 / 0.540 |
| 按来源平均移动 Top-1 | 0.222 |
| 全体 Top-1 / 类型正确率 | 0.475 / 0.783 |
| 类内均匀随机期望 | 0.0346(5 倍 = 0.173) |
| 与 T 落点 ≤ 1 格 / 平均距离 | 47.9% / 2.77 格 |
判定:0.214 < 0.25,未通过(5 倍随机条件满足)。
T 的实际动作 × 模型的预测(测试集):
| T 的情况 | 决策数 | 模型选攻击 | 选移动 | 其他 |
|---|---|---|---|---|
| 菜单有普通攻击,T 移动 | 3,344 | 52.5% | 39.3% | 8.2% |
| 菜单无普通攻击,T 移动 | 1,697 | — | 84.3% | 15.7% |
| T 攻击 | 16,735 | 88.5% | 5.8% | 5.7% |
失败与负结果
- 门槛失败:0.214 < 0.25。
- T 的 5,041 个移动决策中,三分之二(3,344 个)发生在菜单里有普通攻击时,而模型在这些决策上过半选了攻击;没有攻击可选时,模型选移动的比例为 84%。完整菜单移动 Top-1 主要被这个“能攻击却移动”的边界拉低。
局限
- 与 0229 的对比(0.137 → 0.214)用的是不同测试集,只作参考。
- 未验证的解释: T 在能攻击时选择移动,取决于旧规则 AI 的攻击评分与“威胁圈”移动价值之间的比较;实验 0071 中“能打就打”的 H3 显著优于 T,说明 T 的这部分选择本身可能偏弱,因而难学,也未必值得学。
- 只模仿一个规则教师,不是棋力检验。
结论与下一步
更稳的优化让模型更会判断“该不该移动”,但没有让它更会挑落点,也没有跨过门槛。按协议结案,0070 测试集已用过并封存。若继续,须另立实验,可选方向:改以 H3 为教师(它的攻击/移动边界是简单规则),或只让模型学习类内落点排序、由规则决定动作类型。是否转向由下一轮讨论决定。
Comments