自动扶梯和电梯作为现代社会中常见的交通工具,虽然极大地方便了人们的日常出行,但同时也伴随着潜在的安全风险,尤其是在不规范使用或疏忽大意的情况下,可能引发一系列危险行为。例如,乘客在自动扶梯上携带行李箱不当、发生跌倒事故、站立姿势不稳、甚至因弯腰捡拾物品导致身体失衡等,都可能对自己或他人的安全造成威胁。因此,建立一个高效、精准的自动扶梯和电梯危险行为检测系统对于保障公共安全具有重要的现实意义。
项目信息
编号:PDV-32
大小:1.09G
运行条件
Python开发环境:
– PyCharm的安装包:PyCharm: Python IDE for Professional Developers
– PyCharm的历史安装包:PyCharm: Python IDE for Professional Developers
– Anaconda的安装包:Anaconda | Start Coding Immediately
– Python开发版本:Python==3.9
需要安装依赖包:
– pip install PyQt5== 5.15.11
– pip install Pillow==9.5.0
– pip install opencv-python==4.10.0.84
– pip install torch==2.4.0
– pip install torchvision==0.19.0
– pip install numpy== 1.26.4
– pip install matplotlib==3.9.2
项目介绍
自动扶梯和电梯作为现代社会中常见的交通工具,虽然极大地方便了人们的日常出行,但同时也伴随着潜在的安全风险,尤其是在不规范使用或疏忽大意的情况下,可能引发一系列危险行为。例如,乘客在自动扶梯上携带行李箱不当、发生跌倒事故、站立姿势不稳、甚至因弯腰捡拾物品导致身体失衡等,都可能对自己或他人的安全造成威胁。因此,建立一个高效、精准的自动扶梯和电梯危险行为检测系统对于保障公共安全具有重要的现实意义。
本文提出了一种基于YOLOV8深度学习模型的自动扶梯和电梯危险行为检测系统,系统能够通过实时监控视频检测并识别多种不安全行为,包括乘客携带行李箱时的异常行为、在扶梯或电梯上跌倒、站立不稳、弯腰等。系统结合了PyQt5用户界面,提供了操作简便的图形化界面,允许用户直观地进行操作和监控。该系统同时包含训练数据集和模型训练代码,确保模型能够根据不同场景进行自我优化,以应对不同的危险行为类型。
通过对大量监控视频数据的训练与测试,实验结果表明,该系统在复杂公共场所环境中具有较高的检测准确率和实时性,能够有效地识别多种类型的危险行为。此外,系统对不同背景和光照条件下的行为表现出较强的鲁棒性,能够在拥挤和动态变化的环境中稳定工作。本文的研究为公共场所的安全监控,特别是在车站、商场等高人流量场所的自动扶梯和电梯区域的安全监控,提供了新的技术支持,具有广泛的实际应用前景。
项目文档
Tipps:可以根据您的需求进行写作,确保文档原创!
– 项目文档:写作流程
算法流程
代码讲解
Tipps:仅对train.py部分代码简要讲解。该项目可以按需有偿讲解,提供后续答疑。
项目数据
Tipps:通过搜集关于数据集为各种各样的电梯危险行为相关图像,并使用Labelimg标注工具对每张图片进行标注,分4检测类别,分别是’行李箱’,’跌倒’,’站立’,’弯腰’。
目标检测标注工具
(1)labelimg:开源的图像标注工具,标签可用于分类和目标检测,它是用python写的,并使用Qt作为其图形界面,简单好用(虽然是英文版的)。其注释以 PASCAL VOC格式保存为XML文件,这是ImageNet使用的格式。此外,它还支持 COCO数据集格式。
(2)安装labelimg 在cmd输入以下命令 pip install labelimg -i https://pypi.tuna.tsinghua.edu.cn/simple
结束后,在cmd中输入labelimg
初识labelimg
打开后,我们自己设置一下
在View中勾选Auto Save mode
接下来我们打开需要标注的图片文件夹
并设置标注文件保存的目录(上图中的Change Save Dir)
接下来就开始标注,画框,标记目标的label,然后d切换到下一张继续标注,不断重复重复。
Labelimg的快捷键
(3)数据准备
这里建议新建一个名为data的文件夹(这个是约定俗成,不这么做也行),里面创建一个名为images的文件夹存放我们需要打标签的图片文件;再创建一个名为labels存放标注的标签文件;最后创建一个名为 classes.txt 的txt文件来存放所要标注的类别名称。
data的目录结构如下:
│─img_data
│─images 存放需要打标签的图片文件
│─labels 存放标注的标签文件
└ classes.txt 定义自己要标注的所有类别(这个文件可有可无,但是在我们定义类别比较多的时候,最好有这个创建一个这样的txt文件来存放类别)
首先在images这个文件夹放置待标注的图片。
生成文件如下:
“classes.txt”定义了你的 YOLO 标签所引用的类名列表。
(4)YOLO模式创建标签的样式
存放标签信息的文件的文件名为与图片名相同,内容由N行5列数据组成。
每一行代表标注的一个目标,通常包括五个数据,从左到右依次为:类别id、x_center、y_center、width、height。
其中:
–x类别id代表标注目标的类别;
–x_center和y_center代表标注框的相对中心坐标;
–xwidth和height代表标注框的相对宽和高。
注意:这里的中心点坐标、宽和高都是相对数据!!!
存放标签类别的文件的文件名为classes.txt (固定不变),用于存放创建的标签类别。
完成后可进行后续的yolo训练方面的操作。
模型训练
Tipps:模型的训练、评估与推理
1.YOLOv8的基本原理
YOLOv8是一个SOTA模型,它建立在Yolo系列历史版本的基础上,并引入了新的功能和改进点,以进一步提升性能和灵活性,使其成为实现目标检测、图像分割、姿态估计等任务的最佳选择。其具体创新点包括一个新的骨干网络、一个新的Ancher-Free检测头和一个新的损失函数,可在CPU到GPU的多种硬件平台上运行。
YOLOv8是Yolo系列模型的最新王者,各种指标全面超越现有对象检测与实例分割模型,借鉴了Yolov5、Yolov6、YoloX等模型的设计优点,在全面提升改进Yolov5模型结构的基础上实现,同时保持了Yolov5工程化简洁易用的优势。
Yolov8模型网络结构图如下图所示:
2.数据集准备与训练
本研究使用了包含电梯危险行为相关图像的数据集,并通过Labelimg标注工具对每张图像中的目标边框(Bounding Box)及其类别进行标注。然后主要基于YOLOv8n这种模型进行模型的训练,训练完成后对模型在验证集上的表现进行全面的性能评估及对比分析。模型训练和评估流程基本一致,包括:数据集准备、模型训练、模型评估。本次标注的目标类别为电梯危险行为,数据集中共计包含3836张图像,其中训练集占3009张,验证集占827张。部分图像如下图所示:
部分标注如下图所示:
图片数据的存放格式如下,在项目目录中新建datasets目录,同时将检测的图片分为训练集与验证集放入datasets目录下。
接着需要新建一个data.yaml文件,用于存储训练数据的路径及模型需要进行检测的类别。YOLOv8在进行模型训练时,会读取该文件的信息,用于进行模型的训练与验证。
data.yaml的具体内容如下:
train: E:/AutomaticEscalatorObjective_v8/datasets/train/images 训练集的路径
val: E:/AutomaticEscalatorObjective_v8/datasets/val/images 验证集的路径
# test: E:/AutomaticEscalatorObjective_v8/datasets/test/images 测试集的路径
nc: 4
names: [“trunk”, “fall”, “stand”, “bend”]
这个文件定义了用于模型训练和验证的数据集路径,以及模型将要检测的目标类别。
数据准备完成后,通过调用train.py文件进行模型训练,epochs参数用于调整训练的轮数,batch参数用于调整训练的批次大小(根据内存大小调整,最小为1)。
CPU/GPU训练代码如下:
加载名为 yolov8n.pt 的预训练YOLOv8模型,yolov8n.pt是预先训练好的模型文件。
使用YOLO模型进行训练,主要参数说明如下:
(1)data=data_yaml_path: 指定了用于训练的数据集配置文件。
(2)epochs=150: 设定训练的轮数为150轮。
(3)batch=4: 指定了每个批次的样本数量为4。
(4)optimizer=’SGD’):SGD 优化器。
(7)name=’train_v8′: 指定了此次训练的命名标签,用于区分不同的训练实验。
3.训练结果评估
在深度学习的过程中,我们通常通过观察损失函数下降的曲线来了解模型的训练情况。对于YOLOv8模型的训练,主要涉及三类损失:定位损失(box_loss)、分类损失(cls_loss)以及动态特征损失(dfl_loss)。训练完成后,相关的训练过程和结果文件会保存在 runs/ 目录下,具体如下:
各损失函数作用说明:
定位损失box_loss:预测框与标定框之间的误差(GIoU),越小定位得越准;
分类损失cls_loss:计算锚框与对应的标定分类是否正确,越小分类得越准;
动态特征损失(dfl_loss):DFLLoss是一种用于回归预测框与目标框之间距离的损失函数。在计算损失时,目标框需要缩放到特征图尺度,即除以相应的stride,并与预测的边界框计算Ciou Loss,同时与预测的anchors中心点到各边的距离计算回归DFLLoss。这个过程是YOLOv8训练流程中的一部分,通过计算DFLLoss可以更准确地调整预测框的位置,提高目标检测的准确性。
训练结果如下:
这张图展示了YOLOv8模型在训练和验证过程中的多个重要指标的变化趋势,具体如下:
train/box_loss:
(1)这是训练过程中边界框损失的变化。边界框损失用于衡量模型预测的目标框与实际目标框的差异。
(2)随着训练轮次的增加,边界框损失逐渐下降,说明模型在不断优化其预测的边界框。损失值的降低表明模型逐渐学习到如何更准确地定位目标。
train/cls_loss:
(1)这是训练集上的分类损失。分类损失衡量模型对目标类别的预测准确性。
(2)分类损失随轮次显著下降,表示模型在分类任务上变得越来越准确。损失的下降意味着模型能够更好地区分目标类别。
train/dfl_loss:
(1)这是分布聚焦损失(distribution focal loss),用于帮助模型对目标框的精确定位。
(2)分布式焦点损失的下降表示模型在调整预测边界框的质量和置信度方面变得更加精准。损失值下降表明模型的预测稳定性和准确性在提升。
metrics/precision(B):
(1)这是训练集上的精度(precision)曲线。精度表示模型在检测到的目标中有多少是真正的目标。
(2)精度逐步上升并趋于平稳,表明随着训练的进行,模型在预测正样本时的准确性不断提高。精度的提升说明误检的减少。
metrics/recall(B):
(1)这是训练集上的召回率(recall)曲线。召回率表示模型检测出的真实目标的比例。
(2)召回率在训练过程中迅速上升并趋于平稳,表示模型越来越多地识别出所有实际存在的目标。召回率的提升表明模型漏检的减少。
val/box_loss:
(1)这是验证集上的边界框损失曲线。
(2)验证集上的边界框损失随训练轮次下降,说明模型对验证数据的泛化能力在增强,能够更好地检测边界框。
val/cls_loss:
(1)这是验证集上的分类损失曲线。
(2)验证集上的分类损失逐渐减少,表明模型对未见过的数据在分类任务上的表现不断提升。
val/dfl_loss:
(1)这是验证集上的分布聚焦损失曲线。
(2)验证集的分布式焦点损失持续下降,表示模型在调整和优化预测边界框方面表现稳定,验证集上没有过度拟合的情况。
metrics/mAP50(B):
(1)这是验证集上的mAP50曲线,表示在交并比阈值为0.5时模型的平均精度(mean Average Precision)。
(2)mAP@50在训练过程中逐渐提升并趋于平稳,表明模型在较松散的IoU阈值下有较高的检测精度。最终值的趋稳表明模型性能达到了预期。
metrics/mAP50-95(B):
(1)这是验证集上的mAP50-95曲线,表示在不同交并比阈值(从0.5到0.95)下模型的平均精度。
(2)mAP@50-95曲线在训练过程中逐渐上升并趋于稳定,表明模型在不同的IoU阈值下具有良好的检测效果,且随着训练的进行,整体检测性能得到提升。
这张图表明,随着训练轮次的增加,模型的损失值逐渐下降,性能指标(精度、召回率和mAP)逐步上升,说明模型在逐渐收敛并达到预期的检测精度。训练集和验证集的曲线趋势相似,表明模型在不同数据集上表现稳定,具备较好的泛化能力。这些指标的逐步提升显示了模型在自动扶梯和电梯危险行为检测任务上的稳步进步。
这张图展示的是 Precision-Recall 曲线,用于评估模型在不同类别下的检测性能。以下是详细解释:
各类别的曲线:
1.浅蓝色曲线(trunk 0.984):
(1)对应“trunk”(行李箱)类别,mAP(平均精度)为0.984。
(2)该曲线接近右上角,表明模型对携带行李箱行为的检测表现非常好,误检率和漏检率都很低。
2.橙色曲线(fall 0.984):
(1)对应“fall”(跌倒)类别,mAP也为0.984。
(2)曲线靠近右上角,表示模型在跌倒检测上有很高的精度和召回率,几乎能准确识别出所有跌倒事件,且误检少。
3.绿色曲线(stand 0.969):
(1)对应“stand”(站立)类别,mAP为0.969。
(2)模型对站立姿势的检测也表现出高精度和召回率,说明其检测效果较为理想。
4.红色曲线(bend 0.870):
(1)对应“bend”(弯腰)类别,mAP为0.870。
(2)相对于其他类别,弯腰行为的检测性能稍差。
(3)曲线偏离右上角,表明模型在此类检测中存在一定的误检或漏检。
5.深蓝色粗线(all classes 0.952 mAP@0.5):
(1)表示所有类别的平均性能,mAP为0.952。
(2)这条线汇总了模型对所有行为检测的整体表现,接近右上角,说明模型总体上对所有类别均具备较高的检测准确率和召回率。
跌倒和携带行李箱行为的检测性能最佳,几乎能准确识别所有相关行为且误检少。
站立行为的检测效果也相当好,精度和召回率都较高。
弯腰行为的检测性能略低,说明模型在这一类行为的识别上有待改进,可能存在误检或漏检现象。
整体来看,模型在所有类别上的平均检测效果较好(mAP@0.5 = 0.952),说明其在自动扶梯和电梯危险行为检测中的表现较为理想,但某些类别的性能仍有优化空间。
4.检测结果识别
模型训练完成后,我们可以得到一个最佳的训练结果模型best.pt文件,在runs/train/weights目录下。我们可以使用该文件进行后续的推理检测。
imgTest.py 图片检测代码如下:
加载所需库:
(1)from ultralytics import YOLO:导入YOLO模型类,用于进行目标检测。
(2)import cv2:导入OpenCV库,用于图像处理和显示。
加载模型路径和图片路径:
(1)path = ‘models/best.pt’:指定预训练模型的路径,这个模型将用于目标检测任务。
(2)img_path = “TestFiles/imagetest.jpg”:指定需要进行检测的图片文件的路径。
加载预训练模型:
(1)model = YOLO(path, task=’detect’):使用指定路径加载YOLO模型,并指定检测任务为目标检测 (detect)。
(2)通过 conf 参数设置目标检测的置信度阈值,通过 iou 参数设置非极大值抑制(NMS)的交并比(IoU)阈值。
检测图片:
(1)results = model(img_path):对指定的图片执行目标检测,results 包含检测结果。
显示检测结果:
(1)res = results[0].plot():将检测到的结果绘制在图片上。
(2)cv2.imshow(“YOLOv8 Detection”, res):使用OpenCV显示检测后的图片,窗口标题为“YOLOv8 Detection”。
(3)cv2.waitKey(0):等待用户按键关闭显示窗口
此代码的功能是加载一个预训练的YOLOv8模型,对指定的图片进行目标检测,并将检测结果显示出来。
执行imgTest.py代码后,会将执行的结果直接标注在图片上,结果如下:
这段输出是基于YOLOv8模型对图片“imagetest.jpg”进行检测的结果,具体内容如下:
图像信息:
(1)处理的图像路径为:TestFiles/imagetest.jpg。
(2)图像尺寸为 384×640 像素。
检测结果:
(1)模型在该图片上检测到 1 个站立(”1 stand”)
处理速度:
(1)预处理时间:5.0 毫秒,用于加载和准备图像数据。
(2)推理时间:39.9 毫秒,用于模型推理检测。
(3)后处理时间:73.3 毫秒,用于后续的处理,比如绘制边界框和其他处理。
从速度上看,推理阶段是最快的,而后处理阶段花费的时间相对较长,尤其是在后处理需要进行复杂的边界框筛选时。
运行效果
– 运行 MainProgram.py
1.主要功能:
(1)可用于实时检测目标图片中的自动扶梯电梯危险行为;
(2)支持图片、视频及摄像头进行检测,同时支持图片的批量检测;
(3)界面可实时显示目标位置、目标总数、置信度、用时等信息;
(4)支持图片或者视频的检测结果保存。
2.检测结果说明:
这张图表显示了基于YOLOv8模型的目标检测系统的检测结果界面。以下是各个字段的含义解释:
用时(Time taken):
(1)这表示模型完成检测所用的时间为0.021秒。
(2)这显示了模型的实时性,检测速度非常快。
目标数目(Number of objects detected):
(1)检测到的目标数目为1,表示这是当前检测到的第1个目标。
目标选择(下拉菜单):全部:
(1)这里有一个下拉菜单,用户可以选择要查看的目标类型。
(2)在当前情况下,选择的是“全部”,意味着显示所有检测到的目标信息。
类型(Type):
(1)当前选中的行为类型为 “站立”,表示系统正在高亮显示检测到的“stand”。
置信度(Confidence):
(1)这表示模型对检测到的目标属于“青辣椒”类别的置信度为90.32%。
(2)置信度反映了模型的信心,置信度越高,模型对这个检测结果越有信心。
目标位置(Object location):
(1)xmin: 151, ymin: 210:目标的左上角的坐标(xmin, ymin),表示目标区域在图像中的位置。
(2)xmax: 443, ymax: 419:目标的右下角的坐标(xmax, ymax),表示目标区域的边界。
这些坐标表示在图像中的目标区域范围,框定了检测到的“站立”的位置。
这张图展示了自动扶梯电梯危险行为的一次检测结果,包括检测时间、检测到的种类、各行为的置信度、目标的位置信息等。用户可以通过界面查看并分析检测结果,提升自动扶梯电梯危险行为检测的效率。
3.图片检测说明
(1)自动扶梯跌倒危险
(2)自动扶梯弯腰危险
(3)自动扶梯有行李箱
(4)自动扶梯站立正常
点击打开图片按钮,选择需要检测的图片,或者点击打开文件夹按钮,选择需要批量检测图片所在的文件夹。
操作演示如下:
(1)点击目标下拉框后,可以选定指定目标的结果信息进行显示。
(2)点击保存按钮,会对检测结果进行保存,存储路径为:save_data目录下。
检测结果:系统识别出图片中的自动扶梯电梯危险行为,并显示检测结果,包括总目标数、用时、目标类型、置信度、以及目标的位置坐标信息。
4.视频检测说明
点击视频按钮,打开选择需要检测的视频,就会自动显示检测结果,再次点击可以关闭视频。
点击保存按钮,会对视频检测结果进行保存,存储路径为:save_data目录下。
检测结果:系统对视频进行实时分析,检测到自动扶梯电梯危险行为并显示检测结果。表格显示了视频中多个检测结果的置信度和位置信息。
这个界面展示了系统对视频帧中的多目标检测能力,能够准确识别自动扶梯电梯危险行为,并提供详细的检测结果和置信度评分。
5.摄像头检测说明
点击打开摄像头按钮,可以打开摄像头,可以实时进行检测,再次点击,可关闭摄像头。
检测结果:系统连接摄像头进行实时分析,检测到自动扶梯电梯危险行为并显示检测结果。实时显示摄像头画面,并将检测到的行为位置标注在图像上,表格下方记录了每一帧中检测结果的详细信息。
6.保存图片与视频检测说明
点击保存按钮后,会将当前选择的图片(含批量图片)或者视频的检测结果进行保存。
检测的图片与视频结果会存储在save_data目录下。
保存的检测结果文件如下:
图片文件保存的csv文件内容如下,包括图片路径、目标在图片中的编号、目标类别、置信度、目标坐标位置。
注:其中坐标位置是代表检测框的左上角与右下角两个点的x、y坐标。
(1)图片保存
(2)视频保存
– 运行 train.py
1.训练参数设置
(1)data=data_yaml_path: 使用data.yaml中定义的数据集。
(2)epochs=150: 训练的轮数设置为100轮。
(3)batch=4: 每个批次的图像数量为4(批次大小)。
(4)name=’train_v8′: 训练结果将保存到以train_v8为名字的目录中。
(5)optimizer=’SGD’: 使用随机梯度下降法(SGD)作为优化器。
虽然在大多数深度学习任务中,GPU通常会提供更快的训练速度。
但在某些情况下,可能由于硬件限制或其他原因,用户需要在CPU上进行训练。
温馨提示:在CPU上训练深度学习模型通常会比在GPU上慢得多,尤其是像YOLOv8这样的计算密集型模型。除非特定需要,通常建议在GPU上进行训练以节省时间。
2.训练日志结果
这张图展示了使用YOLOv8进行模型训练的详细过程和结果。
训练总时长:
(1)模型在训练了150轮后,总共耗时2.048小时。
类别性能:
(1)all:整体性能汇总。所有类别的总结果显示出总体的mAP50为0.952,mAP50-95为0.729。
(2)trunk:对类别“trunk”的检测结果,其mAP50为0.984,mAP50-95为0.742,表明此类别在不同IoU阈值下有很高的准确性。
(3)fall:对于“fall”类别,mAP50达到了0.984,mAP50-95为0.766,说明模型在该类别上的检测效果非常好。
(4)stand:对于“stand”类别,mAP50为0.969,mAP50-95为0.737,模型在该类别上的表现也相当不错。
(5)bend:在“bend”类别上,mAP50为0.87,mAP50-95为0.67。相较于其他类别,“bend”的准确性稍低。
速度:
(1)预处理时间:0.1 毫秒
(2)推理时间:1.1 毫秒
(3)后处理时间:1.0 毫秒
结果保存:
(1)Results saved to runs\detect\train_v8:验证结果保存在 runs\detect\train_v8 目录下。
完成信息:
(1)Process finished with exit code 0:表示整个验证过程顺利完成,没有报错。
展示了YOLOv8模型在训练和验证过程中的性能表现和速度信息,模型的性能稳定,推理速度也比较快。
远程部署
Tipps:购买后可有偿协助安装,确保运行成功。
– 远程工具:Todesk 、向日葵远程控制软件
– 操作系统:Windows OS
– 客服QQ:3666308803
项目文件
文件目录
Tipps:完整项目文件清单如下:
项目目录
– 1.Code (完整代码:确保运行成功)
– 2.Result (运行结果:真实运行截图)
– 3.Demo (演示视频:真实运行录制)
评论(0)