摘要

我们用“排位”比较两个战斗 AI:同一个开局(一个随机种子生成的双方军队,称为一个来源),候选 AI 执蓝、执红各打一局,对手是默认公平 AI v59(只看玩家可见信息的规则 AI)。每个来源算一个来源差 = 候选两局得分之和 − 1(胜 1 分、负或双输 0 分),所以来源差在 −1 到 +1 之间,0 表示打平。

此前候选 v60a 在 40 个来源上得到 −0.0375,按门槛被关闭(见实验 0064),它改动了约 12.4% 的决策。本实验问:如果只是对 v59 随机改掉同样比例的决策,40 来源排位会给出多大的数?结果是 8 次重复从 −0.0375 到 +0.175,v60a 的值落在这个范围最低端,与随机扰动分不开;要以 80% 把握检出 +0.05,大约需要 604 个来源。

要回答的问题

  1. 同改选率的随机扰动下,40 来源排位的来源差如何分布?
  2. v60a 的 −0.0375 落在哪里?
  3. 检出 +0.05 需要多少来源?

方法

  • 扰动策略:在 v59 每个候选动作的分数上加 σ × 部队压力 × u,u 是由(扰动编号 k、本局第几次决策、动作编号)哈希出的 [−1, 1] 伪随机数,与局面内容无关,不读隐藏信息。
  • 改选率:每次决策同时算出“加扰动”和“不加扰动”的选择,两者不同即计一次改选。
  • 校准:σ 取 0.002 到 0.1 共 6 档,各打 8 局,选改选率最接近 12.4% 的值冻结。
  • 主运行:冻结的 σ,k = 1..8,每个 k 完整跑一遍 0064 的 40 来源排位(种子 66000–66039,80 局),共 640 局;每局重演并核对终局哈希。

设置

规则版本 Core450;墙钟上限 45 分钟。这些种子 0064 已用过——这里测的就是同一台“仪器”的噪声,不作为新候选评测。

结果

校准时最小的 σ = 0.002 已有 17.6% 改选,被冻结。分数只扰动部队压力的 0.2% 就改掉约 18% 的决策,说明 v59 的候选动作常常几乎并列。

k 改选率 来源差 改善来源 变差来源
1 13.6% −0.0375 4 6
2 14.0% −0.025 4 5
3 12.2% +0.175 9 2
4 13.3% +0.100 7 3
5 13.6% −0.0125 5 6
6 13.3% +0.175 10 4
7 13.8% +0.075 8 5
8 14.5% −0.0375 4 5
  • 8 个值均值 +0.052、标准差 0.086;每个来源的来源差标准差约 0.49。
  • v60a 的 −0.0375 与 k=1、k=8 并列最低。按事前判读:40 来源排位不能把 v60a 与随机扰动区分开。
  • 按每来源标准差 0.494、单侧 α=0.05、80% 把握估算,检出 +0.05 约需 604 个来源(约 1200 局);40 来源只能检出约 +0.19 以上的差异。

局限

  • 扰动均值为正(+0.052)。“打破 v59 自我对称就有利”只是假设,未验证;8 次均值的粗略 95% 区间约 [−0.019, +0.123],仍包含 0,而且 8 次用的是同一批 40 个来源,并不独立。
  • 不是显著性检验;只测了这一种排位协议(镜像军队、对手 v59)。
  • 运行于 Core450 旧规则版本,只能与同版本的 0064、0067 比较。

结论与下一步

今后规则型或学习型 AI 的排位门槛不再用 40 来源,改为预先登记约 600 个新来源,或能降低方差的配对设计,并在协议里写明检测力。0064 的关闭结论不变:v60a 也没有比随机改选更好的证据。足量重测见实验 0067。