摘要
早先的 2v2 行为克隆在“移动”上几乎完全失败(实验 0210:训练 0/478)。实验 0069 设计了一套结构化动作特征:路线风险、攻击序列、落点几何、生物静态属性等,让每个动作本身带上更多描述。本实验检验:有了这些特征,一个只给动作打分的小模型能否学会一个规则型 AI 的移动选择?
结果有一好一坏。坏的是,测试集上“教师选了移动、模型在整个合法菜单里也把同一落点排第一”的比例只有 0.1373,低于冻结的 0.25 门槛,“可学”判定失败,结案。好的是,与只用旧公开特征的同结构模型相比高出 +0.112(消融 0.0253),只在合法移动内部排序时 Top-1 达到 0.3403——新特征确实有用。
要回答的问题
这是一次“可学性”检验,不是棋力检验,不做对战:在同一个教师的决策上,结构化动作特征能否让模型选中教师所选的同一个落点?
教师 T 是实验 0068 中的“威胁圈”规则 AI(按英雄无敌三式简单准则:近战打得到就打、打不到就等、远程直接射,推进时估计下回合之前敌人能打到哪些格子)。
方法
- 模型: 状态向量 → 128 维;每个动作行 → 256 → 128 维;两者拼接 → 128 维 → 1 个分数。同一菜单内做 softmax,用交叉熵对齐教师选择。模型输入里不包含 T 或旧规则 AI 的评分。
- 训练: Adam,学习率 1e-3,权重衰减 1e-4,每批 64 个决策,固定 20 轮,取最后一轮,不按开发集挑轮次。
- 消融: 同结构、同设置,只用 0069 之前的旧公开列(255 维),回答“新增特征有没有用”。
设置(冻结的条件)
- 数据:0068 第 3 次 T 组 1200 局里 T 一方的全部决策,标签是对局记录里 T 自己写下的动作;用 0069 数据生成器逐步重放生成,事件字节不一致即报错。
- 按来源划分(同一来源两局同组):400 个来源训练、100 开发、100 测试;测试集只在全部训练结束后读一次。
- 主指标:测试集上标签为移动的决策中,完整菜单 Top-1。
- 判定“可学”:完整模型主指标 ≥ 0.25,且 ≥ 移动内均匀随机期望的 5 倍;完整模型比消融高 ≥ 0.05 才说“新增特征有帮助”。不通过就结案,不改结构或特征重跑。
- 预算:数据生成约 1 小时,两个模型各不超过 30 分钟。
结果
数据:60,335 个决策(训练 39,650、开发 10,605、测试 10,080),7,253,161 个动作行,每行 351 维(旧公开列 255 + 新增 96)。
| 指标(测试集) | 完整(351 列) | 消融(旧 255 列) |
|---|---|---|
| 全部决策 Top-1 | 0.5185 | 0.4905 |
| 动作类型正确率 | 0.7963 | 0.7759 |
| 移动 Top-1(完整菜单,主指标) | 0.1373 | 0.0253 |
| 移动 Top-3(完整菜单) | 0.4187 | 0.1796 |
| 移动类内 Top-1 / Top-3 | 0.3403 / 0.5560 | 0.1537 / 0.2884 |
| 按来源平均移动 Top-1 | 0.1351 | 0.0239 |
| 最佳移动与 T 落点距离 ≤ 1 格 | 0.4769 | 0.2720 |
| 最佳移动与 T 落点平均距离 | 2.76 格 | 4.11 格 |
参照基线:菜单内均匀随机 Top-1 为 0.0251;移动类内均匀随机 0.0365(5 倍即 0.18);“先选最常见类型、类型内随机”0.2824。测试集有 1581 个移动决策,候选落点数中位约 41。开发集最后一轮主指标为完整 0.1390、消融 0.0310,与测试一致。
- 可学门槛:0.1373 < 0.25,且 < 0.18,未通过。
- 新特征帮助:+0.112 ≥ 0.05,通过。
失败与负结果
- 数据生成时暴露 0069 编码器的一个错误:落点几何在“无落点 / 无行动者格 / 无可见敌人”时返回 14 维而不是 15 维,导致第一轮只生成 838 局。修复为固定 15 维并加回归测试;已生成的 838 局都不含这条分支,不受影响、不重生成,补齐 362 局后 1200 局 0 失败。这是软件错误的修复,不是按结果挑数据。
- 训练与测试各一次,无重跑。
局限与原因分析
- 已确定: 新特征让移动排序明显变好(类内 Top-1 0.15 → 0.34,约随机的 9 倍;距教师落点 1 格内 27% → 48%)。
- 已确定: 完整菜单得分被动作类型选择拖累——类内排对 34%,完整菜单只有 14%,说明不少教师选移动的时刻,模型选了攻击、施法等其他类型。
- 欠拟合而非过拟合: 训练集自身移动 Top-1 也只有 0.178,训练损失 20 轮后仍在下降。
- 未验证的解释: T 的移动依赖行动顺序和敌方下一步可达伤害,0069 只给了按速度和距离的近似可达计数;小模型和 20 轮也可能是限制。
- 只模仿一个规则教师,不是棋力检验;GPU 训练非逐位确定,复跑数值可能有小差异。
结论与下一步
按冻结协议结案:可学门槛未过,不在本实验内改结构、特征或轮数。“新特征有效”的结论保留。原计划在可学通过后做的小规模真实对战本次不启动。后续先诊断“为什么拟合不上”(见实验 0230)。
Comments