摘要

玩游戏时,鼠标停在底部按钮或魔法书上,屏幕下方会弹出一个暗色的小提示框,里面有标题和说明文字。从录像里自动分析时,我们需要挑出“提示框已经完全淡入、文字清楚”的那一帧再交给 OCR(光学字符识别)去读,这一步叫选帧。用户明确说过:自动采样可以等淡入、翻页稳定之后再读,不必追求读动画中间的画面。

前一个实验(B066)做了“面板稳定再读”,但没有给底部提示框留入口。本实验 B067 补这个缺口:只找底部按钮上方的暗色小文本框,要求连续两帧稳定才选。结果没有成功:冻结规则后,在另外两个来源组的 530 帧上一张都没选中,人工细审的 4 次提示展示全部漏掉。实验按失败记录并停止接入。

要回答的问题

能否用“暗色矩形 + 亮色字迹 + 两帧稳定”这样简单的像素规则,在录像中可靠地选出底部提示框的可读帧,同时不选中“没有提示”或“还在过渡”的帧?

数据与来源

  • 复用 B066 的录像窗口:训练用 7 个窗口、3 个来源组、共 630 个原生采样帧;评估用 6 个窗口、2 个来源组、530 帧。训练和评估来源组没有交集。
  • 这些来源以前都曝光过,所以只是来源隔离的开发复核,不是新的盲测,也不是项目要求的十场验收。另有一批冻结来源完全不动。
  • 全部是 2560×1440 原生分辨率,算法从原视频重新解码像素,不使用审阅用的压缩图。
  • 参考框和文字只用于评分,选帧程序读不到它们。

方法

  1. 只在底部控件上方的一个固定包络里搜索(y 980–1280,x 150–2350)。
  2. 在当前帧里找暗色的连通矩形,里面要有亮色字迹,形成候选框。
  3. 同一个候选在连续两帧里差别足够小才算“稳定”,并做去重;不能因为底栏按钮没变就丢掉新文字。
  4. 只选当前帧,绝不借用之后的画面。
  5. 先在训练窗口上调试修订,然后冻结规则,再跑评估窗口。

设置

分别报告提示展示次数、清楚帧漏检、在“不存在/过渡中”时误选、额外的深度读取次数,以及选中原图上的实际 OCR 文字。

结果

范围 实际结果
初始训练候选 9 次框提议,0 张选中
训练修订后 5 次框提议,1 张选中;3 次目标展示覆盖 1 次
冻结后评估 1 次框提议,0 张选中;细审 4 次展示覆盖 0 次
评估目标内容 两次“姿态”标题+说明、两个“魔法书”标签,共 6 个字段都没进入读取
实际 OCR 唯一选中的训练原图读出“魔法书”,1/1 正确(只有训练样本)

训练修订做了三件事:初始方案中连通块框宽差 1 像素就会缩放文字,让本来清楚的两帧差值超标,于是冻结了局部采样范围;适配了 10 帧/秒解码时间的抖动;加入暗角检查。修订后“魔法书”清楚样本 11 个中选中第 10 个(等待约 100 毫秒)。

失败与负结果

  • 评估全部漏选,零输出不能说成“成功过滤”。
  • 两个直接原因:搜索区下沿只到 y=1280,而真正的“姿态”说明框下沿超出,因此被截断拒绝;“魔法书”标签在其中一个窗口里根本没提出有效框。这是检测覆盖不足,不是淡入造成的。
  • 另一处虽然提出了框,但只有一个清楚采样,构不成稳定的两帧。
  • 训练集里另外两次提示也各只有一个清楚采样,两帧规则同样漏掉;这些标签没有被改成“不可读”来美化结果。
  • 没有用评估图去继续调门槛或扩大窗口来制造通过。
  • 细审还纠正了一处旧参考:第二次“姿态”提示真正清楚的区间是第 71–78 帧,B066 附加记录的 76–85 不准确。这两次提示原本不在 B066 的 13 个面板统计里,所以 B066 的 13/13 面板结果不变。

局限

  • 只针对一种布局的底部暗色小框,不涉及生物状态图标提示、整本魔法书或任意位置的提示。
  • 候选没有推断装备/技能身份、归属或效果;OCR 分数不是校准概率;识别出的文字没有送给状态估计。
  • 速度只有一次冷启动数据(OCR 冷载 2.428 秒、首读 0.401 秒),不能报 p95。
  • 38 项聚焦测试通过(含原 B066 的 22 项),合成测试不证明识别精度;B066 默认配置重放 4,640 条逐区域决策与原记录完全一致。
  • 手动单图、默认视频入口、战斗记录 App 和下游都没有改动。

结论与下一步

这个过窄的“暗色小框”方案停止推广。下一步先从训练来源采集完整的底部说明、书页外部提示、生物状态提示以及淡入/清楚的配对,审核完整框边界和文字量,再比较“把现有面板检测器扩展一类”和“通用文本区域提议”两条路。评估时同时记录短提示漏选和无效调用,不能只压低调用次数。“稳定画面先读、瞬态暂缓”的大方向保持不变。