摘要
我们用“排位”比较两个战斗 AI:同一个开局(一个随机种子生成的双方军队,称为一个来源),候选 AI 执蓝、执红各打一局,对手是默认公平 AI v59(只看玩家可见信息的规则 AI)。每个来源算一个来源差 = 候选两局得分之和 − 1(胜 1 分、负或双输 0 分),所以来源差在 −1 到 +1 之间,0 表示打平。
此前候选 v60a 在 40 个来源上得到 −0.0375,按门槛被关闭(见实验 0064),它改动了约 12.4% 的决策。本实验问:如果只是对 v59 随机改掉同样比例的决策,40 来源排位会给出多大的数?结果是 8 次重复从 −0.0375 到 +0.175,v60a 的值落在这个范围最低端,与随机扰动分不开;要以 80% 把握检出 +0.05,大约需要 604 个来源。
要回答的问题
- 同改选率的随机扰动下,40 来源排位的来源差如何分布?
- v60a 的 −0.0375 落在哪里?
- 检出 +0.05 需要多少来源?
方法
- 扰动策略:在 v59 每个候选动作的分数上加 σ × 部队压力 × u,u 是由(扰动编号 k、本局第几次决策、动作编号)哈希出的 [−1, 1] 伪随机数,与局面内容无关,不读隐藏信息。
- 改选率:每次决策同时算出“加扰动”和“不加扰动”的选择,两者不同即计一次改选。
- 校准:σ 取 0.002 到 0.1 共 6 档,各打 8 局,选改选率最接近 12.4% 的值冻结。
- 主运行:冻结的 σ,k = 1..8,每个 k 完整跑一遍 0064 的 40 来源排位(种子 66000–66039,80 局),共 640 局;每局重演并核对终局哈希。
设置
规则版本 Core450;墙钟上限 45 分钟。这些种子 0064 已用过——这里测的就是同一台“仪器”的噪声,不作为新候选评测。
结果
校准时最小的 σ = 0.002 已有 17.6% 改选,被冻结。分数只扰动部队压力的 0.2% 就改掉约 18% 的决策,说明 v59 的候选动作常常几乎并列。
| k | 改选率 | 来源差 | 改善来源 | 变差来源 |
|---|---|---|---|---|
| 1 | 13.6% | −0.0375 | 4 | 6 |
| 2 | 14.0% | −0.025 | 4 | 5 |
| 3 | 12.2% | +0.175 | 9 | 2 |
| 4 | 13.3% | +0.100 | 7 | 3 |
| 5 | 13.6% | −0.0125 | 5 | 6 |
| 6 | 13.3% | +0.175 | 10 | 4 |
| 7 | 13.8% | +0.075 | 8 | 5 |
| 8 | 14.5% | −0.0375 | 4 | 5 |
- 8 个值均值 +0.052、标准差 0.086;每个来源的来源差标准差约 0.49。
- v60a 的 −0.0375 与 k=1、k=8 并列最低。按事前判读:40 来源排位不能把 v60a 与随机扰动区分开。
- 按每来源标准差 0.494、单侧 α=0.05、80% 把握估算,检出 +0.05 约需 604 个来源(约 1200 局);40 来源只能检出约 +0.19 以上的差异。
局限
- 扰动均值为正(+0.052)。“打破 v59 自我对称就有利”只是假设,未验证;8 次均值的粗略 95% 区间约 [−0.019, +0.123],仍包含 0,而且 8 次用的是同一批 40 个来源,并不独立。
- 不是显著性检验;只测了这一种排位协议(镜像军队、对手 v59)。
- 运行于 Core450 旧规则版本,只能与同版本的 0064、0067 比较。
结论与下一步
今后规则型或学习型 AI 的排位门槛不再用 40 来源,改为预先登记约 600 个新来源,或能降低方差的配对设计,并在协议里写明检测力。0064 的关闭结论不变:v60a 也没有比随机改选更好的证据。足量重测见实验 0067。
Comments