随着人工智能技术的快速发展，深度学习在计算机视觉领域取得了显著的进展，特别是在物体检测和表情识别方面。导盲犬作为特殊的服务动物，在为视障人士提供帮助的过程中，其面部表情能够传递重要的情绪和反应信息。然而，当前对导盲犬面部表情的研究较少，缺乏高效的情感识别系统。
项目信息
编号：PDV-86
大小：240M
运行条件
Python开发环境：
– PyCharm的安装包：PyCharm: Python IDE for Professional Developers
– PyCharm的历史安装包：PyCharm: Python IDE for Professional Developers
– Anaconda的安装包：Anaconda | Start Coding Immediately
– Python开发版本：Python==3.9
需要安装依赖包：
– pip install PyQt5== 5.15.11
– pip install Pillow==9.5.0
– pip install opencv-python==4.10.0.84
– pip install torch==2.4.0
– pip install torchvision==0.19.0
– pip install numpy== 1.26.4
– pip install matplotlib==3.9.2
项目介绍
随着人工智能技术的快速发展，深度学习在计算机视觉领域取得了显著的进展，特别是在物体检测和表情识别方面。导盲犬作为特殊的服务动物，在为视障人士提供帮助的过程中，其面部表情能够传递重要的情绪和反应信息。然而，当前对导盲犬面部表情的研究较少，缺乏高效的情感识别系统。
本研究提出了一种基于YOLOv8（You Only Look Once version 8）深度学习框架的导盲犬面部表情检测系统，旨在通过精确识别导盲犬的面部表情，辅助提升视障人士的使用体验。系统包括数据集的构建、模型训练与优化以及基于PyQt5的用户界面设计。所用数据集涵盖四种表情类别：暴躁愤怒、焦虑烦躁、害怕恐惧和高兴快乐。通过对导盲犬面部表情的自动识别，系统能够实时反馈导盲犬的情绪变化，为训练师和视障人士提供更加智能和精准的交互方式。
在具体实现方面，暴躁愤怒的表情通常表现为导盲犬面对压力或不安的环境时的情绪反应，面部表现为紧张、眼神急躁或有时露出牙齿。这类情绪的识别对于防止导盲犬情绪失控具有重要意义。焦虑烦躁的表情则反映了导盲犬在复杂任务或不熟悉环境中的不安，表现为耳朵向后拉、眼睛焦急地四处移动等。及时识别焦虑情绪能够帮助训练师调整训练策略。害怕恐惧的表情通常表现为畏缩、眼神恐惧或瞳孔扩张，识别这一情绪对于保障导盲犬的心理健康至关重要。最后，高兴快乐的表情表现为放松的嘴角、明亮的眼睛和放松的耳朵，是导盲犬愉悦情绪的标志，能够增强与训练师的互动，促进更好的工作表现。
首先对YOLOv8模型进行了详细的分析，并基于导盲犬面部图像数据集进行了训练和测试。为提高系统的识别精度，采用了数据增强技术。实验结果表明，YOLOv8模型在该任务上具有较高的准确性和较低的误识别率。此外，本文还设计了一个直观易用的PyQt5界面，用户能够通过界面实时查看导盲犬的面部表情和相应情绪，从而提升用户体验。
本文总结了当前面临的挑战，并对未来的研究方向进行了展望。该系统不仅有助于提高导盲犬的服务质量，还能为情感计算、动物行为学等领域的研究提供参考。
项目文档
Tipps：可以根据您的需求进行写作，确保文档原创！
– 项目文档：写作流程
算法流程
代码讲解
Tipps：仅对train.py部分代码简要讲解。该项目可以按需有偿讲解，提供后续答疑。
项目数据
Tipps：通过搜集关于数据集为各种各样的导盲犬面部表情相关图像，并使用Labelimg标注工具对每张图片进行标注，分4检测类别，分别是’暴躁愤怒’, ‘焦虑烦躁’, ‘害怕恐惧’, ‘高兴快乐’。
目标检测标注工具
（1）labelimg:开源的图像标注工具，标签可用于分类和目标检测，它是用python写的，并使用Qt作为其图形界面，简单好用（虽然是英文版的）。其注释以 PASCAL VOC格式保存为XML文件，这是ImageNet使用的格式。此外，它还支持 COCO数据集格式。
（2）安装labelimg 在cmd输入以下命令 pip install labelimg -i https://pypi.tuna.tsinghua.edu.cn/simple
结束后，在cmd中输入labelimg
初识labelimg
打开后，我们自己设置一下
在View中勾选Auto Save mode
接下来我们打开需要标注的图片文件夹
并设置标注文件保存的目录（上图中的Change Save Dir）
接下来就开始标注，画框，标记目标的label，然后d切换到下一张继续标注，不断重复重复。
Labelimg的快捷键
（3）数据准备
这里建议新建一个名为data的文件夹（这个是约定俗成，不这么做也行），里面创建一个名为images的文件夹存放我们需要打标签的图片文件；再创建一个名为labels存放标注的标签文件；最后创建一个名为 classes.txt 的txt文件来存放所要标注的类别名称。
data的目录结构如下：
│─img_data
│─images 存放需要打标签的图片文件
│─labels 存放标注的标签文件
└ classes.txt 定义自己要标注的所有类别（这个文件可有可无，但是在我们定义类别比较多的时候，最好有这个创建一个这样的txt文件来存放类别）
首先在images这个文件夹放置待标注的图片。
生成文件如下:
“classes.txt”定义了你的 YOLO 标签所引用的类名列表。
（4）YOLO模式创建标签的样式
存放标签信息的文件的文件名为与图片名相同，内容由N行5列数据组成。
每一行代表标注的一个目标，通常包括五个数据，从左到右依次为：类别id、x_center、y_center、width、height。
其中：
–x类别id代表标注目标的类别；
–x_center和y_center代表标注框的相对中心坐标；
–xwidth和height代表标注框的相对宽和高。
注意：这里的中心点坐标、宽和高都是相对数据！！！
存放标签类别的文件的文件名为classes.txt (固定不变)，用于存放创建的标签类别。
完成后可进行后续的yolo训练方面的操作。
模型训练
Tipps：模型的训练、评估与推理
1.YOLOv8的基本原理
YOLOv8是一个SOTA模型，它建立在Yolo系列历史版本的基础上，并引入了新的功能和改进点，以进一步提升性能和灵活性，使其成为实现目标检测、图像分割、姿态估计等任务的最佳选择。其具体创新点包括一个新的骨干网络、一个新的Ancher-Free检测头和一个新的损失函数，可在CPU到GPU的多种硬件平台上运行。
YOLOv8是Yolo系列模型的最新王者，各种指标全面超越现有对象检测与实例分割模型，借鉴了Yolov5、Yolov6、YoloX等模型的设计优点，在全面提升改进Yolov5模型结构的基础上实现，同时保持了Yolov5工程化简洁易用的优势。
Yolov8模型网络结构图如下图所示：
2.数据集准备与训练
本研究使用了包含导盲犬面部表情的数据集，并通过Labelimg标注工具对每张图像中的目标边框（Bounding Box）及其类别进行标注。然后主要基于YOLOv8n这种模型进行模型的训练，训练完成后对模型在验证集上的表现进行全面的性能评估及对比分析。模型训练和评估流程基本一致，包括：数据集准备、模型训练、模型评估。本次标注的目标类别为导盲犬面部表情检测，数据集中共计包含2083张图像，其中训练集占1458张，验证集占416张，测试集占209张。部分图像如下图所示：
部分标注如下图所示：
图片数据的存放格式如下，在项目目录中新建datasets目录，同时将检测的图片分为训练集与验证集放入datasets目录下。
接着需要新建一个data.yaml文件，用于存储训练数据的路径及模型需要进行检测的类别。YOLOv8在进行模型训练时，会读取该文件的信息，用于进行模型的训练与验证。
data.yaml的具体内容如下：
train: D:/DogFacialEmotionsObjective_v8/datasets/images/train 训练集的路径
val: D:/DogFacialEmotionsObjective_v8/datasets/images/val 验证集的路径
test: D:/DogFacialEmotionsObjective_v8/datasets/images/test 测试集的路径
nc: 4
names: [‘Aggressive’, ‘Anxiety’, ‘Fear’, ‘Happy’]
这个文件定义了用于模型训练和验证的数据集路径，以及模型将要检测的目标类别。
数据准备完成后，通过调用train.py文件进行模型训练，epochs参数用于调整训练的轮数，batch参数用于调整训练的批次大小(根据内存大小调整，最小为1)。
CPU/GPU训练代码如下：
加载名为 yolov8n.pt 的预训练YOLOv8模型，yolov8n.pt是预先训练好的模型文件。
使用YOLO模型进行训练，主要参数说明如下：
（1）data=data_yaml_path: 指定了用于训练的数据集配置文件。
（2）epochs=150: 设定训练的轮数为150轮。
（3）batch=4: 指定了每个批次的样本数量为4。
（4）optimizer=’SGD’):SGD 优化器。
（7）name=’train_v8′: 指定了此次训练的命名标签，用于区分不同的训练实验。
3.训练结果评估
在深度学习的过程中，我们通常通过观察损失函数下降的曲线来了解模型的训练情况。对于YOLOv8模型的训练，主要涉及三类损失：定位损失（box_loss）、分类损失（cls_loss）以及动态特征损失（dfl_loss）。训练完成后，相关的训练过程和结果文件会保存在 runs/ 目录下，具体如下：
各损失函数作用说明：
定位损失box_loss：预测框与标定框之间的误差（GIoU），越小定位得越准；
分类损失cls_loss：计算锚框与对应的标定分类是否正确，越小分类得越准；
动态特征损失（dfl_loss）：DFLLoss是一种用于回归预测框与目标框之间距离的损失函数。在计算损失时，目标框需要缩放到特征图尺度，即除以相应的stride，并与预测的边界框计算Ciou Loss，同时与预测的anchors中心点到各边的距离计算回归DFLLoss。这个过程是YOLOv8训练流程中的一部分，通过计算DFLLoss可以更准确地调整预测框的位置，提高目标检测的准确性。
训练结果如下：
这张图展示了YOLOv8模型在训练和验证过程中的多个重要指标的变化趋势，具体如下：
train/box_loss：
趋势：从约1.2下降到0.4，说明模型在目标边界框的定位上有了显著提升。
含义：目标边界框的定位损失下降，表明模型在准确地预测目标的框架方面变得更好，能够更精确地预测目标的位置。
train/cls_loss：
趋势：从3.0急剧下降到0.5左右，说明分类损失减少，模型分类能力显著提升。
含义：分类损失大幅下降表明模型能够更好地将目标分类到正确的类别，提高了分类精度。
train/dfl_loss：
趋势：从1.4下降到0.9左右，显示出分布式焦点损失（DFL）在优化中逐步改进。
含义：DFL损失的下降反映了模型在目标检测中的目标集中性和分布的优化，增强了细粒度分类的能力。
metrics/precision(B)：
趋势：从0.3快速上升到0.95以上，表明模型的预测准确性显著提升。
含义：精确率的提升意味着模型预测为正类的目标大部分是正确的，表明它在目标识别上非常准确。
metrics/recall(B)：
趋势：从0.4上升到0.9左右，说明模型能够检测到大部分目标。
含义：召回率的提高表示模型在找到所有真实正类目标上表现出色，能够覆盖大多数目标，减少漏检。
val/box_loss：
趋势：从1.2下降到0.5左右，与训练集趋势一致。
含义：验证集上的边界框损失下降也表明模型在目标定位的泛化能力上表现稳定，说明其在未见数据上的定位能力也在提升。
val/cls_loss：
趋势：从2.0下降到0.5左右，说明模型的分类性能在验证集上稳定提升。
含义：验证集上分类损失的降低与训练集一致，表明模型的分类能力良好，且能够有效避免过拟合。
val/dfl_loss：
趋势：从1.5下降到0.9左右，表明模型在验证集上也有良好的泛化能力。
含义：DFL损失的下降进一步表明模型在验证集上的目标集中性优化，保持了较高的泛化能力。
metrics/mAP50(B)：
趋势：从0.3上升到0.9以上，说明模型在IOU=0.5阈值下，表现非常优秀。
含义：mAP50（平均精度，IOU=0.5）提高至接近1，表明在不同的目标检测任务中，模型都能达到较高的预测准确性。
metrics/mAP50-95(B)：
趋势：从0.2上升到0.8以上，表明在多个IOU阈值下模型表现稳定。
含义：mAP50-95指标的提升意味着模型在多个IOU阈值下都能够保持较好的表现，展示了模型对不同目标的检测能力具有较强的鲁棒性。
从整体来看，模型在目标检测和分类任务中表现出色，训练过程稳定，最终达到了预期的性能目标。各项指标都表明模型在检测和分类方面有很好的表现，且具备很强的泛化能力，适合部署到实际应用中。
这张图展示的是 Precision-Recall 曲线，用于评估模型在不同类别下的检测性能。以下是详细解释：
每条曲线的具体含义：
（1）淡蓝色线条：表示 暴躁愤怒 面部表情情绪，精确率为0.975。
（2）橙色线条：表示 焦虑烦操 面部表情情绪，精确率为0.987。
（3）绿色线条：表示 害怕恐惧 面部表情情绪，精确率为0.957。
（4）红色线条：表示 高兴快乐 面部表情情绪，精确率为0.938。
（5）深蓝色粗线条：表示 所有类别 的平均精度，mAP@0.5 为 0.964。
总体mAP@0.5：
（1）所有类别的平均精度：0.964，表示整体模型的识别能力非常优秀。模型能够在不同情绪之间取得较好的区分，且精确率与召回率之间有良好的平衡。
该模型在情绪识别任务上表现非常出色，特别是在焦虑烦操和暴躁愤怒的识别上。图表清晰的显示了模型的整体效果，并且提供了对每个情绪类别的精确度分析。随着进一步的数据扩展和模型优化，未来有望提升 快乐 和 恐惧 类别的识别精度。
4.检测结果识别
模型训练完成后，我们可以得到一个最佳的训练结果模型best.pt文件，在runs/train/weights目录下。我们可以使用该文件进行后续的推理检测。
imgTest.py 图片检测代码如下：
加载所需库：
（1）from ultralytics import YOLO：导入YOLO模型类，用于进行目标检测。
（2）import cv2：导入OpenCV库，用于图像处理和显示。
加载模型路径和图片路径：
（1）path = ‘models/best.pt’：指定预训练模型的路径，这个模型将用于目标检测任务。
（2）img_path = “TestFiles/imagetest.jpg”：指定需要进行检测的图片文件的路径。
加载预训练模型：
（1）model = YOLO(path, task=’detect’)：使用指定路径加载YOLO模型，并指定检测任务为目标检测 (detect)。
（2）通过 conf 参数设置目标检测的置信度阈值，通过 iou 参数设置非极大值抑制（NMS）的交并比（IoU）阈值。
检测图片：
（1）results = model(img_path)：对指定的图片执行目标检测，results 包含检测结果。
显示检测结果：
（1）res = results[0].plot()：将检测到的结果绘制在图片上。
（2）cv2.imshow(“YOLOv8 Detection”, res)：使用OpenCV显示检测后的图片，窗口标题为“YOLOv8 Detection”。
（3）cv2.waitKey(0)：等待用户按键关闭显示窗口
此代码的功能是加载一个预训练的YOLOv8模型，对指定的图片进行目标检测，并将检测结果显示出来。
执行imgTest.py代码后，会将执行的结果直接标注在图片上，结果如下：
这段输出是基于YOLOv8模型对图片“imagetest.jpg”进行检测的结果，具体内容如下：
图像信息：
（1）处理的图像路径为：TestFiles/imagetest.jpg。
（2）图像尺寸为 448×640像素。
检测结果：
（1）检测到1个“Happy”（高兴快乐）的面部表情。
处理速度：
（1）预处理时间: 5.6 毫秒
（2）推理时间: 33.0 毫秒
（3）后处理时间: 87.6 毫秒
模型推理时，成功识别出图像中的面部表情为 “Happy”（高兴快乐），并且模型推理过程非常迅速。
运行效果
– 运行 MainProgram.py
1.主要功能：
（1）可用于实时检测目标图片中的导盲犬面部表情；
（2）支持图片、视频及摄像头进行检测，同时支持图片的批量检测；
（3）界面可实时显示目标位置、目标总数、置信度、用时等信息;
（4）支持图片或者视频的检测结果保存。
2.检测结果说明：
（1）置信度阈值：当前设置为0.25，表示检测系统只会考虑置信度高于25%的目标进行输出，置信度越高表示模型对检测结果的确信度越高。
（2）交并比阈值：当前设置为0.70，表示系统只会认为交并比（IoU）超过70%的检测框为有效结果。交并比是检测框与真实框重叠区域的比值，用于衡量两个框的相似程度，值越高表明重叠程度越高。
这两个参数通常用于目标检测系统中，调整后可以影响模型的检测精度和误检率。
这张图表显示了基于YOLOv8模型的目标检测系统的检测结果界面。以下是各个字段的含义解释：
用时（Time taken）:
（1）这表示模型完成检测所用的时间为0.041秒。
（2）这显示了模型的实时性，检测速度非常快。
目标数目（Number of objects detected）:
（1）检测到的目标数目为1，表示这是当前检测到的第1个目标。
目标选择(下拉菜单)：全部:
（1）这里有一个下拉菜单，用户可以选择要查看的目标类型。
（2）在当前情况下，选择的是“全部”，意味着显示所有检测到的目标信息。
结果（Result）:“高兴快乐”，表示系统正在高亮显示检测到的“Happy”。
置信度（Confidence）:
（1）这表示模型对检测到的目标属于“桥梁钢缆腐蚀”类别的置信度为92.26%。
（2）置信度反映了模型的信心，置信度越高，模型对这个检测结果越有信心。
目标位置（Object location）:
（1）xmin: 561, ymin: 156：目标的左上角的坐标(xmin, ymin)，表示目标区域在图像中的位置。
（2）xmax: 603, ymax: 843：目标的右下角的坐标(xmax, ymax)，表示目标区域的边界。
这些坐标表示在图像中的目标区域范围，框定了检测到的“高兴快乐”的位置。
这张图展示了导盲犬面部表情的一次检测结果，包括检测时间、检测到的种类、各行为的置信度、目标的位置信息等。用户可以通过界面查看并分析检测结果，提升导盲犬面部表情检测的效率。
3.图片检测说明
（1）暴躁愤怒
（2）高兴快乐
（3）害怕恐惧
（4）焦虑烦躁
点击打开图片按钮，选择需要检测的图片，或者点击打开文件夹按钮，选择需要批量检测图片所在的文件夹。
操作演示如下：
（1）点击目标下拉框后，可以选定指定目标的结果信息进行显示。
（2）点击保存按钮，会对检测结果进行保存，存储路径为：save_data目录下。
检测结果：系统识别出图片中的导盲犬面部表情情况，并显示检测结果，包括总目标数、用时、目标类型、置信度、以及目标的位置坐标信息。
4.视频检测说明
点击视频按钮，打开选择需要检测的视频，就会自动显示检测结果，再次点击可以关闭视频。
点击保存按钮，会对视频检测结果进行保存，存储路径为：save_data目录下。
检测结果：系统对视频进行实时分析，检测到导盲犬面部表情并显示检测结果。表格显示了视频中多个检测结果的置信度和位置信息。
这个界面展示了系统对视频帧中的多目标检测能力，能够准确识别导盲犬面部表情，并提供详细的检测结果和置信度评分。
5.摄像头检测说明
点击打开摄像头按钮，可以打开摄像头，可以实时进行检测，再次点击，可关闭摄像头。
检测结果：系统连接摄像头进行实时分析，检测到导盲犬面部表情并显示检测结果。实时显示摄像头画面，并将检测到的行为位置标注在图像上，表格下方记录了每一帧中检测结果的详细信息。
6.保存图片与视频检测说明
点击保存按钮后，会将当前选择的图片(含批量图片)或者视频的检测结果进行保存。
检测的图片与视频结果会存储在save_data目录下。
保存的检测结果文件如下：
图片文件保存的csv文件内容如下，包括图片路径、目标在图片中的编号、目标类别、置信度、目标坐标位置。
注：其中坐标位置是代表检测框的左上角与右下角两个点的x、y坐标。
（1）图片保存
（2）视频保存
– 运行 train.py
1.训练参数设置
（1）data=data_yaml_path: 使用data.yaml中定义的数据集。
（2）epochs=150: 训练的轮数设置为150轮。
（3）batch=4: 每个批次的图像数量为4（批次大小）。
（4）name=’train_v8′: 训练结果将保存到以train_v8为名字的目录中。
（5）optimizer=’SGD’: 使用随机梯度下降法(SGD)作为优化器。
虽然在大多数深度学习任务中，GPU通常会提供更快的训练速度。
但在某些情况下，可能由于硬件限制或其他原因，用户需要在CPU上进行训练。
温馨提示：在CPU上训练深度学习模型通常会比在GPU上慢得多，尤其是像YOLOv8这样的计算密集型模型。除非特定需要，通常建议在GPU上进行训练以节省时间。
2.训练日志结果
这张图展示了使用YOLOv8进行模型训练的详细过程和结果。
训练总时长：
（1）模型在训练了150轮后，总共耗时54分钟。
（2）本次训练使用了 NVIDIA GeForce RTX 4070 Ti SUPER。
总体性能：
（1）mAP50: 在IoU（Intersection over Union）阈值为0.5时的平均精度（AP），值为0.957，表示模型在该阈值下的精度很高。
（2）mAP50-95: 在IoU阈值从0.5到0.95之间的平均精度，值为0.864，表明模型在不同的IoU阈值下的表现相对较好。
速度：
（1）0.2ms 预处理时间
（2）1.4ms 推理时间
（3）0.7ms 后处理时间
结果保存：
（1）Results saved to runs\detect\train_v8：验证结果保存在 runs\detect\train_v8 目录下。
完成信息：
（1）Process finished with exit code 0：表示整个验证过程顺利完成，没有报错。
这段日志展示了YOLOv8模型在导盲犬面部表情检测任务上的训练过程，包括损失值、精度、mAP等指标，以及不同类别（暴躁愤怒、焦虑烦躁、高兴快乐）在测试集上的表现。整体来看，模型在“暴躁愤怒”和“高兴快乐”表情的识别精度较高，而在“焦虑烦躁”表情上精度略低，但整体效果仍然良好。
远程部署
Tipps：购买后可有偿协助安装，确保运行成功。
– 远程工具：Todesk 、向日葵远程控制软件
– 操作系统：Windows OS
– 客服QQ：3666308803
项目文件
文件目录
Tipps：完整项目文件清单如下：
项目目录
– 1.Code (完整代码：确保运行成功)
– 2.Result (运行结果：真实运行截图)
– 3.Demo (演示视频：真实运行录制)
评论(0)