摘要
项目在 10 月 6 日设定了“提高视觉读取准确率”的目标。本实验(编号 B048)的第一步不是训练新模型,而是先检查一个已经存在的、在游戏图上训练过的图标身份模型(项目里称 B11,能识别英雄、技能、宝物、生物四类图标)在一批审核过的裁图上表现如何,以免用一个监督不足的通用模型去替换它。
结果:在 1,540 张裁图中,311 张有身份标签的裁图第一候选全部正确;但模型原有的接受门槛(决定“这个答案够不够有把握可以直接用”)只接受了 82 张,推迟了 229 张。回放一种更宽松的历史策略,虽然能接受更多正确图标,却也会把 61 个空装备格中的 10 个当成有东西,因此不推广。另做的小规模局部质量试点中,20 张玩家资料界面裁图全部被正确拒绝。
要回答的问题
- 现成的 B11 模型对审核过的游戏裁图,身份认得准不准?
- 它的接受门槛是否太保守或太宽松?
- 空格子、非战斗界面的头像这类“不该接受”的裁图,会不会被误接受?
数据与来源
- 复用前一轮(B047)的审核结果和来源分组;最新的 10 月 5 日来源作为“已暴露的开发评估”,更早冻结的验收来源像素一律不读。
- 裁图共 1,540 张:311 张有身份标签(其中 261 张与 B047 重合,50 张由英雄面板上审核过的名字唯一映射到目录身份,单独统计),353 张为已目视审核的空主技能格/空装备格(作为负对照,不推断身份),876 张未标注、进入待审核队列,不用于训练。
- 之后助手打开 10 个准备页面,把 217 张原生裁图逐一与目录原画对比,做了显式决定:训练组 112 张(技能 32、宝物 45、生物 35),最新评估组 105 张(27/43/35)。这是模型辅助的目视审核,不是独立盲标;没有把相邻标签自动传播。
方法
- 使用九月训练好的 B11 模型检查点,不重新训练、不搜索阈值、不改生产检查点。
- 保持原运行方式(CUDA bfloat16)和原门槛,分别记录:强制第一名、前三名、路由类型、有效性、是否接受、拒绝原因。分数不是校准过的概率。
- 只覆盖英雄/技能/宝物/生物;B11 没有法术和子技能的身份头。
- 先保存推理结果,再评分;评估包括所有拒绝和错误。
- 看完基线后,再在保存的预测上“影子回放”两种历史接受策略(原来的“与”规则,以及只看有效性的规则),只用于观察,不改生产门槛。
设置
| 组别 | 数量 |
|---|---|
| 有标签裁图 | 311 |
| 空格负对照 | 353 |
| 待审核(不参与评分) | 876 |
| 局部质量试点提出的裁图 | 32 |
结果
身份与接受门槛
| 指标 | 数字 |
|---|---|
| 已知类型裁图第一候选正确 | 311/311 |
| 原门槛接受 | 82 |
| 原门槛推迟 | 229 |
| 新审核的 217 张第一候选 | 全部匹配 |
“只看有效性”策略在最新来源上的影子回放
| 类别 | 接受 |
|---|---|
| 英雄(正例) | 21/21 |
| 技能(正例) | 23/27 |
| 宝物(正例) | 43/43 |
| 生物(正例) | 35/35 |
| 空装备格(负例) | 10/61 被误接受 |
英雄与生物还没有负例。另有 4 张技能裁图身份头是对的,但类型路由错了。
局部质量试点:提出 32 张裁图,先看完三张联系图再推理一次。20 张玩家资料界面的头像裁图属于“不是战斗英雄界面角色”的负例(训练 10、最新评估 10),两种历史策略都没有误接受。另 12 张被遮挡的局部裁图只标了画面条件(7 张原画可见、4 张强淡出或覆盖、1 张是否有内容不明确),没有给出“身份可用与否”的标签,因此排除在接受评分和训练之外。
失败与负结果
- 原门槛过于保守:311 个都认对了,却只接受 82 个。
- 更宽松的历史策略会误接受 10/61 个空装备格,所以不推广。
- 4 个技能类型路由错误仍未修复。
局限
- 311/311 只说明在给定正确裁图时身份对,不证明整帧准确率,也不证明对负例的拒绝能力。
- 标签由模型辅助的目视审核得到,不是独立盲标。
- 资料界面头像中有些画的确实是角色,它们只是“不属于战斗英雄界面这个角色位”的负例,不是“没有角色画”的证明;且样本少、头像重复。
- 完整模块测试 7,162 通过、2 个既有的冷导入顺序失败、6 个跳过,这是软件测试,不是识别准确率。
结论与下一步
旧的 B11 模型在审核过的裁图上身份几乎都对,问题主要在“什么时候敢接受”。简单放宽门槛会把空格子误收,因此不能直接推广。需要补充英雄和生物的负例,修复技能类型路由,再研究更好的接受策略;未标注的待审核裁图继续等待审核,不进入训练。
Comments