摘要
实验 0229 用结构化动作特征训练一个排序模型去模仿规则 AI T 的选择,测试集完整菜单移动 Top-1 只有 0.137,没过 0.25 的门槛;而且连训练集本身也只有 0.178,损失 20 轮后仍在下降。本实验不改 0229 的结论、不读它的测试集,只诊断:不足来自优化与容量,还是 351 维特征本身信息不够?
三条结论:不是输入重复或数值尺度问题;单纯延长训练提升很小(开发移动 Top-1 从 0.139 到 0.165);小样本也拟合不稳。另外,T 选移动的决策里,模型约 44% 选了攻击——这是完整菜单得分低的主要原因。
要回答的问题
- 训练数据里是否有“同一菜单内两行特征完全相同、标签只能取其一”的输入碰撞?
- 同样的模型能不能把一小批(512 个)训练决策“背下来”?
- 把原训练从 20 轮延长到 80 轮,训练和开发指标会不会明显上升?
- T 选移动时,模型到底选了什么?
方法(冻结)
- 阶段 1(小样本过拟合): 从训练集用固定种子抽 512 个决策,与 0229 相同的模型和特征,Adam 1e-3、无权重衰减、批 64,最多 2000 步,每 100 步记录。同时统计输入碰撞比例。
- 阶段 2(延长训练): 与 0229 完全相同的设置(含权重衰减 1e-4),轮数延长到 80,在第 20/40/80 轮记录。
- 诊断: 开发集上“T 选移动时模型选了什么类型”的混淆表。
事前判读(不设通过门槛):阶段 1 达不到全体 Top-1 0.95,先查碰撞、标签和优化,不归因于特征不足;阶段 2 若 80 轮比 20 轮在训练和开发上都高 ≥ 0.05,说明原训练不足,若训练仍低则是容量或特征信息不足。
设置
数据是 0229 的同一批分片,只用训练集(400 个来源)和开发集(100 个来源),测试集不读。GPU 运行,阶段 1 约 5 分钟、阶段 2 约 40 分钟。
结果
输入碰撞: 训练集 39,650 个决策中,标签行在同一菜单里有完全相同另一行的有 250 个(0.6%);6,381 个移动决策中 0 个。抽查 40 局,所有特征绝对值都 ≤ 1,不存在数值尺度过大的问题。
阶段 1(512 个训练决策,无权重衰减,2000 步约 250 轮):
| 步 | 损失 | 全体 Top-1 | 移动 Top-1 | 类内移动 Top-1 |
|---|---|---|---|---|
| 100 | 2.25 | 0.418 | 0.013 | 0.120 |
| 500 | 1.11 | 0.703 | 0.267 | 0.293 |
| 1000 | 0.50 | 0.832 | 0.387 | 0.387 |
| 1500 | 0.55 | 0.867 | 0.573 | 0.573 |
| 1800 | 0.53 | 0.883 | 0.653 | 0.653 |
| 2000 | 0.75 | 0.852 | 0.547 | 0.547 |
没有达到 0.95,损失在 0.26–0.75 之间来回波动、不收敛。按事前判读,先归为优化或容量问题。
阶段 2(0229 原设置延长到 80 轮):
| 轮 | 训练:全体 / 移动 / 类内 | 开发:全体 / 移动 / 移动 Top-3 / 类内 |
|---|---|---|
| 20 | 0.534 / 0.178 / 0.350 | 0.525 / 0.139 / 0.369 / 0.307 |
| 40 | 0.567 / 0.175 / 0.380 | 0.548 / 0.145 / 0.372 / 0.338 |
| 80 | 0.587 / 0.226 / 0.400 | 0.549 / 0.165 / 0.414 / 0.350 |
第 20 轮与 0229 第 20 轮完全一致(可复现)。80 轮比 20 轮:训练移动 Top-1 +0.047、开发 +0.026,都不到 0.05——原 20 轮的不足主要不是轮数问题。
T 选移动时模型的选择(开发集):
| 轮 | 攻击 | 移动 | 等待 | 技能 | 其他 |
|---|---|---|---|---|---|
| 20 | 44.1% | 37.2% | 11.5% | 3.2% | 4.0% |
| 80 | 42.7% | 38.2% | 10.8% | 3.5% | 4.8% |
这些决策的菜单里有攻击可选,T 却选择了移动(它的“威胁圈”移动价值高于攻击评分)。
失败与负结果
本实验按计划完成,是诊断而非门槛实验;它给出的负面信息是:延长训练不能解决 0229 的问题,小样本也拟合不稳。
局限
- 未验证: 学习率和批大小,或“状态与动作只拼接一次”的结构,限制了记忆能力。
- 未验证: “攻击还是移动”取决于 T 内部两套评分的比较,现有特征只有攻击伤害占比和近似几何。实验 0068 中“有攻击就攻击”的规则 AI H3 明显强于 T,说明这类“能打却不打”的选择也许本身就不好学、也未必值得学——这同样是未验证的解释。
结论与下一步
问题不在输入重复或数值尺度,也不是多训练几轮能解决的。后续须另立实验,候选方向:降低学习率或增大批做小样本拟合检查(见实验 0231);先选类型再排序的两段式;补 T 实际使用的公开威胁圈数值;或直接改以规则更简单的 H3 为教师。
Comments