摘要

识别系统的测试成绩依赖“测试真值”(标准答案)。26 个从旧录屏切出的测试局(444 张截图)此前只有一位标注者(AI 助手)精审过,之后要用来评估确认页读取和端到端按键回放。单人标注可能有系统性错误,于是本实验请两位独立复核者不看原标注,直接从截图像素重标,再逐字段比对、对分歧看原图裁决。

结果:身份、开局属性、生物面板数值、我方构筑的绝大多数字段完全一致;唯一的取值冲突经看原图裁定为原标注正确,另有 8 处原标注留空的字段由复核补全。结论是这批标注可作为测试真值使用。需要强调:两位复核者也都是 AI 助手,不是人工真值;这次二审的目的是发现单人标注的系统性错误。

要回答的问题

旧录屏测试局的单人标注是否存在系统性错误,能否作为测试真值?

数据与来源

  • 26 个旧录屏测试局的按时间顺序截图包(只含先前接收的帧)。
  • 复核者只读截图 PNG、游戏资料库的名称表与参考图标、协议本身;不得读取原标注、草稿、裁图、任何模型/路由器输出或评分,也不运行识别模型或 OCR。帧清单只用于得到文件列表,不读其中的场景和审核字段。

方法

每局重标四部分:

部分 内容
A 对局角色与法术 我方在左/右、我方英雄、敌方英雄、敌方玩家名;可见战斗日志中敌方施放的法术和事件
B 开局英雄栏 第一张可读战场画面上双方英雄的攻击、防御、法强、魔法
C 生物面板 每张生物面板:名称、数量、生命、攻、防、伤害、士气、幸运、先攻、速度、归属哪方
D 我方构筑 最终确认页(开战前确认双方构筑的页面):英雄、主技能与等级、子技能、10 个法术与等级、装备、军队与数量、属性

复核完成后由协调者编写比较脚本,逐字段比对原标注;分歧对照原图裁决为“原标注对 / 复核对 / 都错 / 无法判定”。原标注文件不改,更正另存。

设置

两位复核者独立工作;比较脚本只比较 JSON。

结果

部分 一致
我方侧、我方英雄、敌方英雄、敌方玩家名 各 26/26
敌方已施放法术 34/36(2 处只是同一法术写法不同)
开局英雄栏(双方英雄、攻、防、法强、魔法) 各 52/52
生物面板 63 张配对(各数值;归属 61/61) 全部一致
我方构筑:英雄 24/24,技能与等级 137/137,属性 144/144,军队数量 167/167 全部一致
我方构筑:确认页法术 237/240、法术等级 237/237、军队 167/168、装备 215/217、子技能 211/221 差异见下

失败与负结果

共 11 条分歧:

  • 唯一取值冲突:某局鞋子,原标注“魔法拖鞋”、复核写“军阀靴子”。看原图是带尖刺与圆扣的银色矮鞋,与魔法拖鞋参考图一致(军阀靴子是高筒护胫),裁定原标注对、复核错。
  • 原标注留空、复核补值(8 条):1 个子技能、4 个“同图同父技能只能二选一”的子技能、3 个确认页法术、1 个军队兵种。按复核值补全,不改已有取值。
  • 写法差异:同一法术带不带等级前缀。

复核者也报告了易错点:同图子技能要按父技能判断;确认页与战斗中英雄栏的数值本来就可能不同;双方同名部队要按行动条(显示行动顺序的卡片条)底色判断归属。

另外,在后续确认页评分中发现两个标注格式问题(取值正确):一组 8 局的装备槽位用了自定义叫法;一局的法术列表先列战斗法术书、后列确认页 10 个法术。评分脚本已做别名归一和按名称比对。

局限

  • 两位复核者和原标注者都是 AI 助手,这是“模型目视交叉核对”,不是人工审核(REVIEWED)。三者若有共同盲点,二审无法发现。
  • 只检查了协议中列出的字段,不覆盖截图上的全部界面信息。

结论与下一步

独立二审没有发现原标注的错误取值,旧录屏测试局可作为测试真值使用,留空处以复核值补齐。由于审核者并非人工,若要对外宣称准确率,仍需要人工抽查。