摘要
针对第一人称射击游戏《Apex Legends》中游戏角色与可交互物体实时检测的需求,本文构建了一个基于YOLOv8的目标检测系统。该系统能够识别游戏画面中的两类关键目标:玩家角色(avatar)与游戏物体(object)。实验采用自建的2,583张训练图像、691张验证图像及415张测试图像,基于YOLOv8架构进行训练与评估。实验结果表明,模型整体平均精确度(mAP@0.5)达到0.858,其中角色类别的检测表现优异,AP值高达0.91,召回率为0.87;而物体类别的检测相对较弱,召回率仅为0.29,存在较明显的漏检与误检问题。混淆矩阵分析进一步显示,约有78%的物体被误判为背景,同时也有13%~21%的背景区域被错误识别为目标。综合来看,本系统在角色识别方面具备良好的实用价值。
引言
近年来,目标检测技术在计算机视觉领域取得了显著进展,尤其是以YOLO(You Only Look Once)为代表的单阶段检测器,凭借其高效的检测速度与良好的精度,被广泛部署于自动驾驶、安防监控与游戏AI等实时应用场景中。在电子竞技与游戏分析领域,自动识别游戏画面中的角色位置、物体交互信息,对于策略分析、操作辅助与反作弊系统具有重要意义。《Apex Legends》作为一款快节奏的大逃杀类射击游戏,画面复杂、目标尺度多样,对检测系统的实时性与鲁棒性提出了较高要求。
本文旨在研究基于YOLOv8的Apex游戏人物与物体识别检测系统。相较于传统图像处理方法和两阶段检测器,YOLOv8在保持高帧率推理的同时,能够更好地捕捉多尺度特征,适用于游戏画面中角色与小型物体的同时检测。然而,游戏场景中物体目标常存在遮挡、尺度小、与背景纹理相似等挑战,导致检测性能存在类别差异。为此,本文构建了包含角色与物体两类标注的游戏图像数据集,并系统评估了模型在该任务上的精确率、召回率、F1分数及平均精确度。通过混淆矩阵与PR曲线的深入分析,量化了模型当前的优势与不足,为后续优化提供了明确方向。
目录
摘要
引言
功能模块
1、用户管理模块
2、界面与交互模块
3、检测源管理模块
4、检测参数配置模块
5、YOLO检测核心模块
6、结果显示模块
7、结果保存模块
8、工具栏功能
9、辅助功能
10、数据校验模块
背景
数据集介绍
训练过程
训练结果
1. 混淆矩阵分析编辑编辑
2. 精确率-召回率曲线 & mAP编辑
3. F1曲线 & 精确率/召回率曲线编辑编辑编辑
4. 训练损失曲线 (results.png)编辑
常用标注工具
功能模块
✅用户登录注册:支持密码检测,密码加密。
注册
登录
✅图片检测:可对图片进行检测,返回检测框及类别信息。
✅参数实时调节(置信度和IoU阈值)
✅支持选择检测目标:可以选择一个或者多个类目的目标进行检测
✅视频检测:支持视频文件输入,检测视频中每一帧的情况。
✅摄像头实时检测:连接USB 摄像头,实现实时监测。
✅日志记录:日志标签页记录操作和错误信息,带时间戳
✅结果保存模块:支持图片/视频/摄像头检测结果保存
1、用户管理模块
| 功能 | 描述 |
|---|---|
| 用户注册 | 用户名、密码、确认密码、邮箱(选填)注册,密码SHA256加密存储 |
| 用户登录 | 用户名密码验证,自动跳转主界面 |
| 用户数据存储 | JSON文件存储用户信息(密码加密、注册时间、邮箱) |
| 登录状态 | 主界面显示当前登录用户名 |
2、界面与交互模块
| 功能 | 描述 |
|---|---|
| 玻璃效果界面 | 半透明毛玻璃背景,圆角边框,现代化视觉风格 |
| 无边框窗口 | 自定义标题栏,支持窗口拖动、最小化、最大化、关闭 |
| 响应式布局 | 主窗口三栏布局(左侧控制区、中央显示区、右侧信息区) |
| 状态栏 | 显示设备信息、模型状态、当前用户、实时时间 |
3、检测源管理模块
| 功能 | 描述 |
|---|---|
| 图片检测 | 支持JPG/JPEG/PNG/BMP格式图片载入 |
| 视频检测 | 支持MP4/AVI/MOV/MKV格式视频载入 |
| 摄像头检测 | 实时调用摄像头(默认ID 0)进行检测 |
| 检测源切换 | 下拉菜单切换三种检测模式,自动更新界面状态 |
4、检测参数配置模块
| 功能 | 描述 |
|---|---|
| 置信度阈值 | 滑动条调节(0-100%,步长1%),实时显示当前值 |
| IoU阈值 | 滑动条调节(0-100%,步长1%),实时显示当前值 |
| 类别选择 | 动态生成检测类别复选框,支持全选/取消全选 |
| 参数同步 | 参数实时同步到检测器核心 |
5、YOLO检测核心模块
| 功能 | 描述 |
|---|---|
| 模型加载 | 加载best.pt模型文件,自动检测GPU可用性,支持CPU/GPU切换 |
| 多模式检测 | 图片检测、视频检测、摄像头实时检测 |
| 检测线程 | 基于QThread的多线程处理,避免界面卡顿 |
| 检测结果 | 返回目标类别、置信度、边界框坐标 |
| FPS计算 | 实时计算处理帧率 |
| 进度反馈 | 视频处理进度条实时更新 |
6、结果显示模块
| 功能 | 描述 |
|---|---|
| 实时画面 | 中央区域显示检测结果图像(带标注框) |
| 统计信息 | 检测状态、目标数量、FPS、处理帧数实时更新 |
| 检测列表 | 右侧列表显示当前帧所有检测到的目标(类别+置信度) |
| 日志记录 | 日志标签页记录操作和错误信息,带时间戳 |
| 占位显示 | 未选择检测源时显示系统LOGO和提示文字 |
7、结果保存模块
| 功能 | 描述 |
|---|---|
| 保存开关 | 复选框控制是否保存检测结果 |
| 路径选择 | 自定义保存路径,支持图片/视频格式自动识别 |
| 自动命名 | 保存文件自动添加时间戳(detection_result_20240101_120000.jpg) |
| 视频保存 | 支持检测结果视频录制(MP4格式) |
| 手动保存 | 工具栏保存按钮可随时保存当前画面 |
| 保存反馈 | 保存成功弹窗提示,日志记录保存路径 |
8、工具栏功能
| 功能 | 描述 |
|---|---|
| 图片按钮 | 快速切换到图片检测模式并打开文件选择器 |
| 视频按钮 | 快速切换到视频检测模式并打开文件选择器 |
| 摄像头按钮 | 快速切换到摄像头检测模式 |
| 保存按钮 | 手动保存当前显示画面 |
9、辅助功能
| 功能 | 描述 |
|---|---|
| 错误处理 | 统一错误弹窗提示,日志记录错误详情 |
| 资源清理 | 检测停止时自动释放摄像头、视频文件、视频写入器资源 |
| 时间显示 | 状态栏实时显示系统时间 |
| 模型状态 | 状态栏显示模型加载状态和当前设备(CPU/GPU) |
10、数据校验模块
| 功能 | 描述 |
|---|---|
| 注册验证 | 用户名长度≥3,密码长度≥6,密码一致性检查,邮箱格式验证 |
| 协议确认 | 注册前需勾选同意用户协议 |
| 文件校验 | 模型文件存在性检查,文件大小验证(≥6MB) |
| 输入非空 | 登录/注册时必填项非空检查 |
背景
《Apex Legends》是一款由Respawn Entertainment开发、EA发行的战术竞技类射击游戏,玩家需在限定区域内与其他队伍对抗,利用角色技能与地图中的武器、护甲等物体资源争夺最终胜利。该游戏的实时性与策略性使得自动化图像分析技术逐渐成为辅助训练、战术复盘与内容创作的重要工具。其中,识别游戏画面中的玩家角色(avatar)与可交互物体(object,如武器、弹药、护甲等)是实现上述功能的基础环节。
传统的游戏画面分析方法多依赖内存读取或API接口获取游戏状态,存在被反作弊系统封禁的风险,且难以跨版本兼容。相较之下,基于计算机视觉的目标检测方法仅通过屏幕图像输入即可完成识别,具有非侵入性、平台无关的优点。YOLOv8作为Ultralytics公司于2023年推出的目标检测框架,在YOLOv5基础上优化了网络结构与损失函数,支持自适应锚框与更高效的特征融合,适用于游戏画面中不同尺寸目标的检测。
数据集介绍
本研究所使用的数据集为自建的Apex Legends游戏画面识别数据集,包含三类数据子集:训练集、验证集与测试集。数据集总量为3,689张图像,具体划分为:
训练集:2,583张
验证集:691张
测试集:415张
每张图像均采用人工标注方式,标注类别遵循nc: 2的定义,即:
yaml
names: ['avatar', 'object']
其中:
avatar:游戏中的玩家角色(包括不同英雄模型、不同姿态与朝向)
object:游戏内可交互的非角色物体,如武器、弹药、护甲、补给品等
训练过程
训练结果
1. 混淆矩阵分析![]()
![]()
avatar(角色):识别效果很好。真实标签为avatar的样本中,87%被正确分类,仅 1% 被误判为object,13% 被误判为背景。召回率较高。object(物体):表现中等偏下。背景:模型将 13% 的背景错误识别为
avatar,21% 的背景错误识别为object。
结论:模型能较好检测
avatar,但严重漏检object(大量误认为背景),且误检率偏高。
2. 精确率-召回率曲线 & mAP![]()
avatar的 AP:0.91(很高)object的 AP:0.806(良好,但低于 avatar)整体 mAP@0.5:0.858(不错,但被 object 拉低)
PR 曲线形状:
avatar曲线接近右上角,object曲线稍靠内。
3. F1曲线 & 精确率/召回率曲线![]()
![]()
![]()
最佳 F1 分数:0.82(在置信度阈值 0.42 时取得)。这是模型平衡精确率与召回率的最佳点。
精确率 (P-curve):模型在极高置信度(0.895)时精确率可达1.00,说明只要模型非常确定,结果基本正确。
召回率 (R-curve):在低置信度(0.0)时召回率最高0.91
4. 训练损失曲线 (results.png)![]()
趋势:
train/box_loss,train/cls_loss,train/dfl_loss及对应的验证损失(val/box_loss等)均随 epoch(训练轮次)增加平稳下降,最终收敛平稳。状态:训练过程正常,无过拟合或欠拟合明显迹象。损失值未出现异常震荡,说明模型稳定学习。
常用标注工具
假设您现在准备好进行标注。有几种开源工具可以帮助简化数据标注流程。以下是一些有用的开放标注工具:
Label Studio:一个灵活的工具,支持各种标注任务,并包含用于管理项目和质量控制的功能。 CVAT:一个强大的工具,支持各种标注格式和可定制的工作流程,使其适用于复杂的项目。 Labelme:一个简单易用的工具,可以快速标注带有多边形的图像,非常适合简单的任务。 LabelImg: 一款易于使用的图形图像标注工具,特别适合以 YOLO 格式创建边界框标注。
这些开源工具经济实惠,并提供一系列功能来满足不同的标注需求。
界面核心代码: