摘要

生物面板右下角的一排状态小图标(每个图标角上有数字或 ∞ 的“角标”,悬停时弹出说明)是对局状态的重要线索。要可靠地评测识别程序,需要一套经过人工确认的“金标准”(gold standard,即可信的参考答案)。本实验(编号 B164)只做准备工作:按严格的来源隔离规则选出 600 张帧,用现有程序给每个字段做机器预标(PRELABEL),并做出一个离线审核网页和配套的合并、评分工具,等待用户逐字段确认。

结果是工具链跑通了,但 36,000 个字段全部仍是机器预标,已审核数为 0。这不是完成的金标准,也不是识别准确率。

要回答的问题

能否在不泄露封存测试数据的前提下,选出一批有代表性的生物面板帧,并给用户一个高效、可逐字段确认的审核流程?

数据与来源

来源闸门(先看元数据,再碰内容):10 月 1–2 日的六段封存录像、9 月 12 日的两段验收录像,以及 9 月 24 日一对冻结的续接录像,一律不打开;未知别名直接拒绝而不是猜测。不探测视频、不新采集、不写/复制/移动原始媒体,不训练模型。整段录像和已知续接组保持在同一划分里;8 月 31 日以前的录像只进开发集。这些来源在更早的实验中已被看过,所以测试集并非全局盲测,46 个来源组也不等于认证过的独立对局数。

选帧:只要已有 OCR、配准成功、有原生 JPEG 的生物面板行。同标题同阶级、间隔 ≤ 10 秒、中间没有其他画面的连续行视为一个“面板片段”(这只是连续性,不代表同一单位)。按图标数量、是否悬停、是否有 ∞、是否有鼠标、是否偏移等分层平衡,每段录像最多 25 张、每个片段最多 3 张、同一录像内相隔至少 1,000 毫秒。

预标:直接调用生产中已有的配准、圆环检测和角标读取函数,不修改;图标身份候选用知识库公开接口的图像,在固定的三个缩放比例下与 111 个图标类别比对排序(沿用上一轮的比例研究,不用测试集调参)。不做弱标签传播、不跑新 OCR。

方法

审核网页是一个离线静态页面(在 Edge 中直接打开,无服务器、无网络):真正有矛盾的帧排在前面,然后是“鼠标是否在行上未知”和动画偏移的帧。每个字段单独确认:编辑角标后确认、选择类别或“未知”后确认;接受一个图标类别并不等于选定了该类别中的某个具体效果。悬停说明的存在、所属槽位、文字和效果 ID 分别审核。支持快捷键、浏览器本地暂存和导出;导出文件由合并脚本写成单独的“已审核”文件,机器预标文件保持不变。

评分脚本默认只统计“已审核”字段;没有审核时分母为 0、准确率为空。把预标拿来和自己比只能衡量“自洽”,不能当识别准确率。

设置

接纳 51 个 OCR 文件中的 46 个,检查 2,385 个生物面板行,拒绝 640 个未配准行,合格 1,745 行。

结果

项目 开发 测试 合计
帧 350 250 600
整段录像 / 元数据组 31 15 46
圆环提议的图标 319 404 723
已配准的空状态行 164 73 237
悬停帧 37 52 89
其中说明模板匹配 35 52 87
∞ 槽位 / 帧 12 / 11 20 / 20 32 / 31
偏移帧 4 0 4
鼠标在行上(弱提议) 37 52 89
鼠标不在行上(已确立) 0 0 0
鼠标状态未知 313 198 511

测试集跨 10 个日期,包括 10 月 1 日的两段录像(33 帧)。600 帧中 552 帧需要审核(含 511 个鼠标未知标记),77 帧有识别或时序上的矛盾:

原因 次数
有图标但角标读不出 45
角标形状判断与 OCR 冲突 32
角标 OCR 不受支持 1
悬停效果不在前三候选中 2
悬停说明未匹配模板 2
相邻帧槽位有无变化 4
相邻帧图标外观变化 3
同回合角标变化 3

这些标记不是已确认的错误;同标题的面板片段可能是不同兵堆或行重排,角标变化也不能证明持续时间。

可选的助手目视抽查:12 个诊断样本共 100 个槽位(42 有图标、58 空),隐藏机器答案后看原尺寸拼图:图标有无 100/100 一致,有图标槽的角标 42/42 一致;另观察鼠标:9 个在、3 个不在、6 个起初未知。这不是用户审核、不是随机抽样准确率,也不验证效果身份。

软件验证:26 项测试通过;选帧→预标→检查→审核页→隔离的合成导出合并→评分整条流程跑通;用本机 Edge 无头浏览器在桌面与手机尺寸检查了页面、快捷键、编辑、暂存重载、下载合并、筛选与撤销,无脚本错误、无外部请求。首轮发现手机上诊断文字溢出,已修复。

失败与负结果

  • “鼠标不在行上”无法由静态代理确立:机器给出 0 个,511 个只能标“未知”;助手抽查中确实看到 3 个不在的例子。
  • 偏移帧只出现在开发集,测试集没有覆盖。

局限

  • 已审核字段为 0;所有数字都是机器预标或数据集统计,不是准确率。
  • 效果身份和生产读取器都还没有在人工审核数据上测试过。
  • 测试来源早先被看过,不是全局盲测。

结论与下一步

数据与审核工具已备好,接下来需要用户在审核页上逐字段确认,导出后合并成真正的“已审核”文件;之后才能用评分脚本测生产读取器在图标有无、角标字面、悬停效果和图标类别上的真实表现。