随着智能监控技术和人工智能的发展,基于深度学习的行为检测技术在公共安全和防范领域中发挥着越来越重要的作用。

项目信息

编号:PDV-22
大小:1.76G

运行条件

Python开发环境:
– PyCharm的安装包:PyCharm: Python IDE for Professional Developers
– PyCharm的历史安装包:PyCharm: Python IDE for Professional Developers
– Anaconda的安装包:Anaconda | Start Coding Immediately
– Python开发版本:Python==3.9

需要安装依赖包:
– pip install PyQt5== 5.15.11
– pip install Pillow==9.5.0
– pip install opencv-python==4.10.0.84
– pip install torch==2.4.0
– pip install torchvision==0.19.0
– pip install numpy== 1.26.4
– pip install matplotlib==3.9.2

项目关联

1.点击查看:深度学习的扰乱公共秩序打架异常行为检测系统(训练集占10229张,验证集占2558张)

项目介绍

随着智能监控技术和人工智能的发展,基于深度学习的行为检测技术在公共安全和防范领域中发挥着越来越重要的作用。传统的监控系统通常依赖于人工监控,这不仅耗费大量的人力和时间,且容易因为人的疲劳或疏忽而漏检关键的异常行为。而近年来,随着深度学习技术的快速发展,计算机视觉领域涌现出了大量基于深度学习模型的行为识别算法,为公共安全提供了自动化、智能化的解决方案。

本研究针对扰乱公共秩序及打架等异常行为,提出了一种基于YOLOV8模型的智能检测系统。YOLOV8作为最新一代的目标检测算法,具有更高的检测精度和更快的检测速度,适合实时监控场景的应用。该系统通过对打架、群体冲突等扰乱公共秩序的行为进行识别,能够有效提高监控视频中的异常行为检测效率。

系统的核心算法部分采用YOLOV8深度学习模型,该模型通过大规模的数据集进行训练,以学习多种异常行为的特征。在训练过程中,使用了丰富的行为数据集,包含不同场景下的打架、暴力行为等视频样本,确保模型在不同光照、角度和遮挡条件下依然能够保持较高的检测性能。同时,系统设计了基于PyQt5的图形用户界面(GUI),使用户能够方便地操作系统。通过界面,用户可以加载实时视频流或者预录的视频文件,进行模型的训练和测试,并实时展示检测结果。检测结果不仅可以显示异常行为的具体位置,还能够统计相关行为发生的频率和持续时间,提供更加全面的行为分析。

为了验证该系统的有效性,本研究进行了大量的实验。实验结果表明,系统在复杂场景下,如拥挤的人群、光线变化较大的室内外环境中,依然能够对扰乱秩序及打架行为进行精准检测。相比传统的监控方法,该系统的反应速度快,检测精度高,能够及时捕捉潜在的公共安全威胁,并通过自动化的方式为监控人员提供警示,大大减少了人工监控的负担。系统的实时性和高效性也使其在实际公共场所,如地铁站、体育馆、大型商场等场景中具备广泛的应用前景。

该基于YOLOV8模型的扰乱公共秩序及打架行为检测系统不仅在技术上实现了突破,还通过用户友好、功能齐全的界面设计,为用户提供了方便快捷的操作体验。本系统的开发为提升公共安全监控的智能化水平提供了一个创新的解决方案,能够有效应对日益复杂的安全环境挑战,具备广泛的应用价值。

项目文档

Tipps:可以根据您的需求进行写作,确保文档原创!
– 项目文档:写作流程

算法流程

代码讲解

Tipps:仅对train.py部分代码简要讲解。该项目可以按需有偿讲解,提供后续答疑。

项目数据

Tipps:通过搜集关于数据集为各种各样的持械斗殴异常行为相关图像,并使用Labelimg标注工具对每张图片进行标注,分3个检测类别,分别是fight表示”打架”、fall表示”摔倒”、armed”持械”。

目标检测标注工具
(1)labelimg:开源的图像标注工具,标签可用于分类和目标检测,它是用python写的,并使用Qt作为其图形界面,简单好用(虽然是英文版的)。其注释以 PASCAL VOC格式保存为XML文件,这是ImageNet使用的格式。此外,它还支持 COCO数据集格式。
(2)安装labelimg 在cmd输入以下命令 pip install labelimg -i https://pypi.tuna.tsinghua.edu.cn/simple

结束后,在cmd中输入labelimg

初识labelimg

打开后,我们自己设置一下

在View中勾选Auto Save mode

接下来我们打开需要标注的图片文件夹

并设置标注文件保存的目录(上图中的Change Save Dir)
接下来就开始标注,画框,标记目标的label,然后d切换到下一张继续标注,不断重复重复。

Labelimg的快捷键

(3)数据准备
这里建议新建一个名为data的文件夹(这个是约定俗成,不这么做也行),里面创建一个名为images的文件夹存放我们需要打标签的图片文件;再创建一个名为labels存放标注的标签文件;最后创建一个名为 classes.txt 的txt文件来存放所要标注的类别名称。

data的目录结构如下:
│─img_data
│─images 存放需要打标签的图片文件
│─labels 存放标注的标签文件
└ classes.txt 定义自己要标注的所有类别(这个文件可有可无,但是在我们定义类别比较多的时候,最好有这个创建一个这样的txt文件来存放类别)

首先在images这个文件夹放置待标注的图片。
生成文件如下:

“classes.txt”定义了你的 YOLO 标签所引用的类名列表。

(4)YOLO模式创建标签的样式

存放标签信息的文件的文件名为与图片名相同,内容由N行5列数据组成。
每一行代表标注的一个目标,通常包括五个数据,从左到右依次为:类别id、x_center、y_center、width、height。
其中:
–x类别id代表标注目标的类别;
–x_center和y_center代表标注框的相对中心坐标;
–xwidth和height代表标注框的相对宽和高。

注意:这里的中心点坐标、宽和高都是相对数据!!!

存放标签类别的文件的文件名为classes.txt (固定不变),用于存放创建的标签类别。

完成后可进行后续的yolo训练方面的操作。

模型训练

Tipps:模型的训练、评估与推理

1.YOLOv8的基本原理

YOLOv8是一个SOTA模型,它建立在Yolo系列历史版本的基础上,并引入了新的功能和改进点,以进一步提升性能和灵活性,使其成为实现目标检测、图像分割、姿态估计等任务的最佳选择。其具体创新点包括一个新的骨干网络、一个新的Ancher-Free检测头和一个新的损失函数,可在CPU到GPU的多种硬件平台上运行。

YOLOv8是Yolo系列模型的最新王者,各种指标全面超越现有对象检测与实例分割模型,借鉴了Yolov5、Yolov6、YoloX等模型的设计优点,在全面提升改进Yolov5模型结构的基础上实现,同时保持了Yolov5工程化简洁易用的优势。

Yolov8模型网络结构图如下图所示:

2.数据集准备与训练

本研究使用了包含各种打架异常行为相关图像的数据集,并通过Labelimg标注工具对每张图像中的目标边框(Bounding Box)及其类别进行标注。然后主要基于YOLOv8n这种模型进行模型的训练,训练完成后对模型在验证集上的表现进行全面的性能评估及对比分析。模型训练和评估流程基本一致,包括:数据集准备、模型训练、模型评估。本次标注的目标类别为打架、摔倒、持械,数据集中共计包含12883张图像,其中训练集占11595张,验证集占1288张。部分图像如下图所示:

部分标注如下图所示:

图片数据的存放格式如下,在项目目录中新建datasets目录,同时将检测的图片分为训练集与验证集放入datasets目录下。

接着需要新建一个data.yaml文件,用于存储训练数据的路径及模型需要进行检测的类别。YOLOv8在进行模型训练时,会读取该文件的信息,用于进行模型的训练与验证。
data.yaml的具体内容如下:

train: E:\FightDetection_v8\datasets\train\images 训练集的路径
val: E:\FightDetection_v8\datasets\valid\images 验证集的路径
nc: 3 模型检测的类别数,共有3个类别。
names:
– fight
– fall
– armed

这个文件定义了用于模型训练和验证的数据集路径,以及模型将要检测的目标类别。

数据准备完成后,通过调用train.py文件进行模型训练,epochs参数用于调整训练的轮数,batch参数用于调整训练的批次大小(根据内存大小调整,最小为1)。

CPU/GPU训练代码如下:

加载名为 yolov8n.pt 的预训练YOLOv8模型,yolov8n.pt是预先训练好的模型文件。
使用YOLO模型进行训练,主要参数说明如下:
(1)data=data_yaml_path: 指定了用于训练的数据集配置文件。
(2)epochs=150: 设定训练的轮数为150轮。
(3)batch=4: 指定了每个批次的样本数量为4。
(4)optimizer=’SGD’):SGD 优化器。
(7)name=’train_v8′: 指定了此次训练的命名标签,用于区分不同的训练实验。

3.训练结果评估

在深度学习的过程中,我们通常通过观察损失函数下降的曲线来了解模型的训练情况。对于YOLOv8模型的训练,主要涉及三类损失:定位损失(box_loss)、分类损失(cls_loss)以及动态特征损失(dfl_loss)。训练完成后,相关的训练过程和结果文件会保存在 runs/ 目录下,具体如下:

各损失函数作用说明:
定位损失box_loss:预测框与标定框之间的误差(GIoU),越小定位得越准;
分类损失cls_loss:计算锚框与对应的标定分类是否正确,越小分类得越准;
动态特征损失(dfl_loss):DFLLoss是一种用于回归预测框与目标框之间距离的损失函数。在计算损失时,目标框需要缩放到特征图尺度,即除以相应的stride,并与预测的边界框计算Ciou Loss,同时与预测的anchors中心点到各边的距离计算回归DFLLoss。这个过程是YOLOv8训练流程中的一部分,通过计算DFLLoss可以更准确地调整预测框的位置,提高目标检测的准确性。

训练结果如下:

这张图展示了YOLOv8模型在训练和验证过程中的多个重要指标的变化趋势,具体如下:

train/box_loss(训练集上的边界框损失):
(1)显示在训练过程中,模型预测边界框与真实框的误差逐渐下降。这表明模型在逐渐学习更准确的边界框定位。
(2)随着训练轮次增加,损失值从初期的较高值(1.2左右)逐渐下降到接近0.6,说明模型在边界框预测上的表现逐渐优化。

train/cls_loss(训练集上的分类损失):
(1)这是模型对目标分类的损失。
(2)损失值从初始的较高值(接近1.75)逐渐下降到接近0.25,表明随着训练的进行,模型在正确分类目标上变得越来越精确。

train/dfl_loss(训练集上的分布式焦点损失):
(1)该损失用于更精细地调整边界框预测,使模型的检测框更符合真实框的分布。
(2)图中损失从1.4逐渐下降至接近1,表明边界框的精度在不断提升。

metrics/precision(B)(精度指标):
(1)精度曲线代表模型在训练中的预测正类样本的准确性。
(2)随着训练轮次的增加,精度波动较大,但整体保持在较高水平(大约0.85-0.90之间),说明模型的预测较为准确。

metrics/recall(B)(召回率指标):
(1)召回率表示模型能检测到多少实际的正类样本。
(2)召回率逐渐上升并趋于稳定,最终接近0.8,表明模型在检测正类目标时逐渐变得稳定且可靠。

val/box_loss(验证集上的边界框损失):
(1)验证集上的边界框损失同样呈现出逐渐下降的趋势,从初始的1.1下降到大约0.7。
(2)说明模型在验证集上也表现良好,能够有效泛化到未见过的数据。

val/cls_loss(验证集上的分类损失):
(1)验证集上的分类损失从1.2逐渐下降到接近0.4。
(2)表明模型在未见过的数据上也能正确地分类目标。

val/dfl_loss(验证集上的分布式焦点损失):
(1)与训练集上的 dfl_loss 类似,这个损失从1.4逐渐下降到接近1。
(2)显示出模型在边界框的精细调整方面表现良好。

metrics/mAP50(B)(mAP@50 指标):
(1)mAP@50 是指 IoU 阈值为 0.5 时的平均精度。
(2)图中显示,mAP@50 指标随着训练轮次的增加逐渐提升,并在接近0.9的高水平上稳定,表明模型的整体检测精度非常高。

metrics/mAP50-95(B)(mAP@50-95 指标):
(1)这是更严格的检测评估指标,随着训练轮次的增加,mAP@50-95 逐渐从0.3左右上升到接近0.7。
(2)说明模型不仅在宽松的 IoU 条件下表现良好,在更严格的条件下也有良好的检测精度。

模型的各项损失在训练和验证过程中稳定下降,精度、召回率和 mAP 指标逐渐提升并趋于稳定,表明模型在边界框定位和分类方面逐步优化,具备了较高的检测准确性和良好的泛化能力,训练过程取得成功。

这张图展示的是 Precision-Recall 曲线,用于评估模型在不同类别下的检测性能。以下是详细解释:

图表概览:
(1)X轴(Recall): 召回率,表示模型在所有正类样本中识别出多少正类样本。值越大,召回率越高,意味着模型能够识别出更多的正类。
(2)Y轴(Precision): 精度,表示模型预测为正类的样本中,有多少是真正的正类样本。值越大,精度越高,意味着模型的正类预测准确率更高。

不同类别的曲线:
(1)蓝色曲线(fight 0.983): 这条曲线表示模型对“打架”类别的精度-召回率表现,mAP@0.5 为0.983,表明模型在“打架”检测上表现非常出色,几乎在所有的召回率水平下都能保持较高的精度。
(2)橙色曲线(fall 0.943): 表示模型对“摔倒”行为的检测性能,mAP@0.5 为0.943,说明模型在该类别的检测也非常好,能够在较高的召回率下保持接近0.9的精度。
(3)绿色曲线(armed 0.732): 表示模型对“持械”类别的检测性能,mAP@0.5 为0.732,相对较低。这表明在较高召回率下,模型的精度急剧下降,说明在“持械”行为检测上的表现不如前两类。

蓝色粗线(all classes 0.886 mAP@0.5):
(1)这条粗线表示模型在所有类别上的综合性能。mAP@0.5 为0.886,意味着模型整体上能够提供较高的精度和召回率,但在某些类别(如“持械”)上表现较差。

图表分析:
(1)打架(fight): 模型在检测打架行为时表现最优,能够在召回率接近1.0时仍保持高精度,说明模型在这个类别上训练得非常好。
(2)摔倒(fall): 摔倒行为的检测也表现良好,精度和召回率都比较高。
(3)持械(armed): 持械行为的检测表现相对较弱,随着召回率的上升,精度迅速下降,说明模型难以在保持高召回率的同时保持高精度。可能的原因是“持械”类的训练样本较少或特征较难捕捉。

模型在“打架”和“摔倒”类别上的检测性能非常好,尤其是“打架”类别接近完美的mAP@0.5得分。
在“持械”类别上的表现明显较差,可能需要增加更多的训练样本或进行特征工程优化,以提高该类别的检测精度和召回率。

4.检测结果识别

模型训练完成后,我们可以得到一个最佳的训练结果模型best.pt文件,在runs/train/weights目录下。我们可以使用该文件进行后续的推理检测。
imgTest.py 图片检测代码如下:

加载所需库:
(1)from ultralytics import YOLO:导入YOLO模型类,用于进行目标检测。
(2)import cv2:导入OpenCV库,用于图像处理和显示。

加载模型路径和图片路径:
(1)path = ‘models/best.pt’:指定预训练模型的路径,这个模型将用于目标检测任务。
(2)img_path = “TestFiles/imagetest.jpg”:指定需要进行检测的图片文件的路径。

加载预训练模型:
(1)model = YOLO(path, task=’detect’):使用指定路径加载YOLO模型,并指定检测任务为目标检测 (detect)。
(2)通过 conf 参数设置目标检测的置信度阈值,通过 iou 参数设置非极大值抑制(NMS)的交并比(IoU)阈值。

检测图片:
(1)results = model(img_path):对指定的图片执行目标检测,results 包含检测结果。

显示检测结果:
(1)res = results[0].plot():将检测到的结果绘制在图片上。
(2)cv2.imshow(“YOLOv8 Detection”, res):使用OpenCV显示检测后的图片,窗口标题为“YOLOv8 Detection”。
(3)cv2.waitKey(0):等待用户按键关闭显示窗口

此代码的功能是加载一个预训练的YOLOv8模型,对指定的图片进行目标检测,并将检测结果显示出来。

执行imgTest.py代码后,会将执行的结果直接标注在图片上,结果如下:

这段输出是基于YOLOv8模型对图片“imagetest.jpg”进行检测的结果,具体内容如下:

图像信息:
(1)处理的图像路径为:TestFiles/imagetest.jpg。
(2)图像尺寸为 384×640 像素。

检测结果:
(1)模型检测到图片中有1个打架行为 (fight)。

处理速度:
(1)预处理耗时: 3.3 毫秒
(2)推理耗时: 44.5 毫秒
(3)后处理耗时: 76.2 毫秒

检测类别:
(1)系统识别的标签: fight (打架), fall (摔倒), armed (持械)

此YOLOv8模型成功检测到图像中的打架行为,并且推理速度较快,尤其适用于实时行为检测场景。

运行效果

– 运行 MainProgram.py

1.主要功能:
(1)可用于实时检测目标图片中的打架、摔倒、持械异常行为;
(2)支持图片、视频及摄像头进行检测,同时支持图片的批量检测;
(3)界面可实时显示目标位置、目标总数、置信度、用时等信息;
(4)支持图片或者视频的检测结果保存。

2.检测结果说明:

这张图表显示了基于YOLOv8模型的目标检测系统的检测结果界面。以下是各个字段的含义解释:

用时(Time taken):
(1)这表示模型完成检测所用的时间为0.009秒。
(2)这显示了模型的实时性,检测速度非常快。

目标数目(Number of objects detected):
(1)检测到的目标数目为1,表示这是当前检测到的第1个目标。

目标选择(下拉菜单):全部:
(1)这里有一个下拉菜单,用户可以选择要查看的目标类型。
(2)在当前情况下,选择的是“全部”,意味着显示所有检测到的目标信息。

类型(Type):
(1)当前选中的行为类型为 “打架”,表示系统正在高亮显示检测到的“fight”行为。

置信度(Confidence):
(1)这表示模型对检测到的目标属于“打架”类别的置信度为91.22%。
(2)置信度反映了模型的信心,置信度越高,模型对这个检测结果越有信心。

目标位置(Object location):
(1)xmin: 297, ymin: 122:目标的左上角的坐标(xmin, ymin),表示目标区域在图像中的位置。
(2)xmax: 430, ymax: 343:目标的右下角的坐标(xmax, ymax),表示目标区域的边界。

这些坐标表示在图像中的目标区域范围,框定了检测到的“打架”的位置。

这张图展示了打架异常行为检测系统的一次检测结果,包括检测时间、检测到的种类、各行为的置信度、目标的位置信息等。用户可以通过界面查看并分析检测结果,提升扰乱公共秩序预警的效率。

3.图片检测说明

打架检测

摔倒检测

持械检测

点击打开图片按钮,选择需要检测的图片,或者点击打开文件夹按钮,选择需要批量检测图片所在的文件夹。
操作演示如下:
(1)点击目标下拉框后,可以选定指定目标的结果信息进行显示。
(2)点击保存按钮,会对检测结果进行保存,存储路径为:save_data目录下。

检测结果:系统识别出图片中的打架异常行为,并显示检测结果,包括总目标数、用时、目标类型、置信度、以及目标的位置坐标信息。

4.视频检测说明

点击视频按钮,打开选择需要检测的视频,就会自动显示检测结果,再次点击可以关闭视频。
点击保存按钮,会对视频检测结果进行保存,存储路径为:save_data目录下。

检测结果:系统对视频进行实时分析,检测到打架异常行为并显示检测结果。表格显示了视频中多个检测结果的置信度和位置信息。

这个界面展示了系统对视频帧中的多目标检测能力,能够准确识别打架,并提供详细的检测结果和置信度评分。

5.摄像头检测说明

点击打开摄像头按钮,可以打开摄像头,可以实时进行检测,再次点击,可关闭摄像头。

检测结果:系统连接摄像头进行实时分析,检测到打架异常行为并显示检测结果。实时显示摄像头画面,并将检测到的行为位置标注在图像上,表格下方记录了每一帧中检测结果的详细信息。

6.保存图片与视频检测说明

点击保存按钮后,会将当前选择的图片(含批量图片)或者视频的检测结果进行保存。
检测的图片与视频结果会存储在save_data目录下。
保存的检测结果文件如下:

图片文件保存的csv文件内容如下,包括图片路径、目标在图片中的编号、目标类别、置信度、目标坐标位置。
注:其中坐标位置是代表检测框的左上角与右下角两个点的x、y坐标。

(1)图片保存

(2)视频保存

– 运行 train.py
1.训练参数设置

(1)data=data_yaml_path: 使用data.yaml中定义的数据集。
(2)epochs=150: 训练的轮数设置为150轮。
(3)batch=4: 每个批次的图像数量为4(批次大小)。
(4)name=’train_v8′: 训练结果将保存到以train_v8为名字的目录中。
(5)optimizer=’SGD’: 使用随机梯度下降法(SGD)作为优化器。

虽然在大多数深度学习任务中,GPU通常会提供更快的训练速度。
但在某些情况下,可能由于硬件限制或其他原因,用户需要在CPU上进行训练。

温馨提示:在CPU上训练深度学习模型通常会比在GPU上慢得多,尤其是像YOLOv8这样的计算密集型模型。除非特定需要,通常建议在GPU上进行训练以节省时间。

2.训练日志结果

这张图展示了使用YOLOv8进行模型训练的详细过程和结果。

训练总时长:
(1)模型在训练了150轮后,总共耗时7.408小时。

mAP50 (平均精度 @ IoU=50%):
IoU阈值为0.5时的平均精度,表示模型检测出的框与实际目标框的匹配情况。得分越高,匹配程度越好。
(1)总体 mAP50 为0.886
(2)fight 类的 mAP50 为0.983,表现非常好
(3)fall 类的 mAP50 为0.943
(4)armed 类的 mAP50 为0.732,表现相对较差

mAP50-95 (平均精度 @ IoU=50%-95%):
表示IoU阈值从0.5到0.95的平均精度,通常是更严格的标准。
(1)总体 mAP50-95 为0.717
(2)fight 类的 mAP50-95 为0.844,表现最好
(3)fall 类的 mAP50-95 为0.698
(4)armed 类的 mAP50-95 为0.609,表现相对较低

速度:
(1)预处理时间:每张图像0.2毫秒
(2)推理时间:每张图像1.4毫秒
(3)后处理时间:每张图像1.2毫秒

这个速度表示模型的推理效率较高,每张图像的处理速度很快,适合实时检测场景。

结果保存:
(1)结果保存在目录 runs\detect\train_v8\ 下,包括最后的权重文件 best.pt,用于后续推理任务。

完成信息:
(1)Process finished with exit code 0:表示整个验证过程顺利完成,没有报错。

模型经过150轮训练后,取得了不错的检测效果。fight 类别的mAP表现非常好,但在检测 armed 类别时精度较低。模型的速度表现良好,推理速度足够快,适合实时检测任务。

远程部署

Tipps:购买后可有偿协助安装,确保运行成功。
– 远程工具:Todesk向日葵远程控制软件
– 操作系统:Windows OS
– 客服QQ:3666308803

项目文件

文件目录

Tipps:完整项目文件清单如下:
项目目录
– 1.Code (完整代码:确保运行成功)
– 2.Result (运行结果:真实运行截图)
– 3.Demo (演示视频:真实运行录制)

声明:本站所有项目资源都可以正常运行,亲测无错!而且我们录制了演示视频,在我们注明的环境版本下,项目运行效果完全和演示视频一致。客服QQ:下载须知