摘要
生物面板右下角的一排状态小图标(每个图标角上有数字或 ∞ 的“角标”,悬停时弹出说明)是对局状态的重要线索。要可靠地评测识别程序,需要一套经过人工确认的“金标准”(gold standard,即可信的参考答案)。本实验(编号 B164)只做准备工作:按严格的来源隔离规则选出 600 张帧,用现有程序给每个字段做机器预标(PRELABEL),并做出一个离线审核网页和配套的合并、评分工具,等待用户逐字段确认。
结果是工具链跑通了,但 36,000 个字段全部仍是机器预标,已审核数为 0。这不是完成的金标准,也不是识别准确率。
要回答的问题
能否在不泄露封存测试数据的前提下,选出一批有代表性的生物面板帧,并给用户一个高效、可逐字段确认的审核流程?
数据与来源
来源闸门(先看元数据,再碰内容):10 月 1–2 日的六段封存录像、9 月 12 日的两段验收录像,以及 9 月 24 日一对冻结的续接录像,一律不打开;未知别名直接拒绝而不是猜测。不探测视频、不新采集、不写/复制/移动原始媒体,不训练模型。整段录像和已知续接组保持在同一划分里;8 月 31 日以前的录像只进开发集。这些来源在更早的实验中已被看过,所以测试集并非全局盲测,46 个来源组也不等于认证过的独立对局数。
选帧:只要已有 OCR、配准成功、有原生 JPEG 的生物面板行。同标题同阶级、间隔 ≤ 10 秒、中间没有其他画面的连续行视为一个“面板片段”(这只是连续性,不代表同一单位)。按图标数量、是否悬停、是否有 ∞、是否有鼠标、是否偏移等分层平衡,每段录像最多 25 张、每个片段最多 3 张、同一录像内相隔至少 1,000 毫秒。
预标:直接调用生产中已有的配准、圆环检测和角标读取函数,不修改;图标身份候选用知识库公开接口的图像,在固定的三个缩放比例下与 111 个图标类别比对排序(沿用上一轮的比例研究,不用测试集调参)。不做弱标签传播、不跑新 OCR。
方法
审核网页是一个离线静态页面(在 Edge 中直接打开,无服务器、无网络):真正有矛盾的帧排在前面,然后是“鼠标是否在行上未知”和动画偏移的帧。每个字段单独确认:编辑角标后确认、选择类别或“未知”后确认;接受一个图标类别并不等于选定了该类别中的某个具体效果。悬停说明的存在、所属槽位、文字和效果 ID 分别审核。支持快捷键、浏览器本地暂存和导出;导出文件由合并脚本写成单独的“已审核”文件,机器预标文件保持不变。
评分脚本默认只统计“已审核”字段;没有审核时分母为 0、准确率为空。把预标拿来和自己比只能衡量“自洽”,不能当识别准确率。
设置
接纳 51 个 OCR 文件中的 46 个,检查 2,385 个生物面板行,拒绝 640 个未配准行,合格 1,745 行。
结果
| 项目 | 开发 | 测试 | 合计 |
|---|---|---|---|
| 帧 | 350 | 250 | 600 |
| 整段录像 / 元数据组 | 31 | 15 | 46 |
| 圆环提议的图标 | 319 | 404 | 723 |
| 已配准的空状态行 | 164 | 73 | 237 |
| 悬停帧 | 37 | 52 | 89 |
| 其中说明模板匹配 | 35 | 52 | 87 |
| ∞ 槽位 / 帧 | 12 / 11 | 20 / 20 | 32 / 31 |
| 偏移帧 | 4 | 0 | 4 |
| 鼠标在行上(弱提议) | 37 | 52 | 89 |
| 鼠标不在行上(已确立) | 0 | 0 | 0 |
| 鼠标状态未知 | 313 | 198 | 511 |
测试集跨 10 个日期,包括 10 月 1 日的两段录像(33 帧)。600 帧中 552 帧需要审核(含 511 个鼠标未知标记),77 帧有识别或时序上的矛盾:
| 原因 | 次数 |
|---|---|
| 有图标但角标读不出 | 45 |
| 角标形状判断与 OCR 冲突 | 32 |
| 角标 OCR 不受支持 | 1 |
| 悬停效果不在前三候选中 | 2 |
| 悬停说明未匹配模板 | 2 |
| 相邻帧槽位有无变化 | 4 |
| 相邻帧图标外观变化 | 3 |
| 同回合角标变化 | 3 |
这些标记不是已确认的错误;同标题的面板片段可能是不同兵堆或行重排,角标变化也不能证明持续时间。
可选的助手目视抽查:12 个诊断样本共 100 个槽位(42 有图标、58 空),隐藏机器答案后看原尺寸拼图:图标有无 100/100 一致,有图标槽的角标 42/42 一致;另观察鼠标:9 个在、3 个不在、6 个起初未知。这不是用户审核、不是随机抽样准确率,也不验证效果身份。
软件验证:26 项测试通过;选帧→预标→检查→审核页→隔离的合成导出合并→评分整条流程跑通;用本机 Edge 无头浏览器在桌面与手机尺寸检查了页面、快捷键、编辑、暂存重载、下载合并、筛选与撤销,无脚本错误、无外部请求。首轮发现手机上诊断文字溢出,已修复。
失败与负结果
- “鼠标不在行上”无法由静态代理确立:机器给出 0 个,511 个只能标“未知”;助手抽查中确实看到 3 个不在的例子。
- 偏移帧只出现在开发集,测试集没有覆盖。
局限
- 已审核字段为 0;所有数字都是机器预标或数据集统计,不是准确率。
- 效果身份和生产读取器都还没有在人工审核数据上测试过。
- 测试来源早先被看过,不是全局盲测。
结论与下一步
数据与审核工具已备好,接下来需要用户在审核页上逐字段确认,导出后合并成真正的“已审核”文件;之后才能用评分脚本测生产读取器在图标有无、角标字面、悬停效果和图标类别上的真实表现。
Comments