当前位置: 代码迷 >> 综合 >> YOLOv3-Pytorch版本训练教程
  详细解决方案

YOLOv3-Pytorch版本训练教程

热度:30   发布时间:2023-11-18 06:16:43.0

YOLOv3-Pytorch版本训练教程

  • 开始前的说明
  • 环境配置
  • 1.下载源码
  • 2.下载训练过程中会用到的预权重
  • 3.制作自己的数据集
      • 1.图片标定
      • 2.建立如下文件夹
      • 3.提取训练集文件名
      • 4.生成labels及完整文件路径
  • 4.修改参数
      • 1.修改cfg文件
      • 2.新建data和names文件
  • 5.开始训练
  • 6.笔者遇到的问题
    • 1. 'No labels found. Incorrect label paths provided.' AssertionError: No labels found. Incorrect label paths provided.
    • 2.division by zero
    • 3. No such file or directory: 'data\\data/test.shapes'
    • 4.未完待续

开始前的说明

1.本教程主要参考

https://blog.csdn.net/sinat_27634939/article/details/89884011

感谢原博主

2.windows 10和ubuntu16.04 都可用

3.笔者教程以yolov3-tiny为例

环境配置

Pytorch :https://pytorch.org/get-started/locally/
numpy
opencv-python
matplotlib
pycocotools
tqdm

基本上pip install 都能搞定,大家百度一下就可以

1.下载源码

github:
https://github.com/ultralytics/yolov3
作者/Repo
压缩包下载或者git clone,都是基本操作。

2.下载训练过程中会用到的预权重

跑yolo需要 下载 darknet53.conv.74weights 文件夹中
跑yolo-tiny需要 下载 yolov3-tiny.conv.15weights 文件夹

下载地址:

https://drive.google.com/open?id=1uxgUBemJVw9wZsdpboYbzUN4bcRhsuAI

里面包含用到的所有权重,不过需要科学上网进Google Drive下载

这里我给出百度云盘下载链接(仅有darknet53.conv.74和yolov3-tiny.conv.15)

链接:https://pan.baidu.com/s/19SqEfgGAfmFCiBFtOICbcg
提取码:bnwu

3.制作自己的数据集

1.图片标定

用到的工具是labelImg

去github上搜索labelImg按步骤安装
或者 直接

pip3 install labelImg

运行直接在cmd里执行

labelImg

运行界面如下:
在这里插入图片描述
标定的过程很简单,聪明的你瞎点几下就会了

记住以下四个快捷键会极大提高标定速度

ctrl+s 保存
d 下一张
a 上一张
w 开始标定

标定是一个体力活,标定完成之后 会得到 图片文件同名的xml 文件。

2.建立如下文件夹

在data目录下新建
注意是在data目录下

把所有的xml文件放在 Annotations 中

把所有的图片文件放在 Images 中

保证Images中的每一个jpg 都能在Annotations中找到同名的 xml文件

3.提取训练集文件名

在data同级目录下新建 makeTx.py 文件

将以下代码复制进去

import os
import randomtrainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')for i in list:name = total_xml[i][:-4] + '\n'if i in trainval:ftrainval.write(name)if i in train:ftest.write(name)else:fval.write(name)else:ftrain.write(name)ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

运行 makeTx.py 文件,会在ImageSets文件夹下生成四个 txt 文件
在这里插入图片描述

4.生成labels及完整文件路径

在data同级目录下创建 voc_label.py 文件

将下列代码复制进去

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import joinsets = ['train', 'test','val']classes = ["collector"]def convert(size, box):dw = 1. / size[0]dh = 1. / size[1]x = (box[0] + box[1]) / 2.0y = (box[2] + box[3]) / 2.0w = box[1] - box[0]h = box[3] - box[2]x = x * dww = w * dwy = y * dhh = h * dhreturn (x, y, w, h)def convert_annotation(image_id):in_file = open('Annotations/%s.xml' % (image_id))out_file = open('data/labels/%s.txt' % (image_id), 'w')tree = ET.parse(in_file)root = tree.getroot()size = root.find('size')w = int(size.find('width').text)h = int(size.find('height').text)for obj in root.iter('object'):difficult = obj.find('Difficult').textcls = obj.find('name').textif cls not in classes or int(difficult) == 1:continuecls_id = classes.index(cls)xmlbox = obj.find('bndbox')b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),float(xmlbox.find('ymax').text))bb = convert((w, h), b)out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')wd = getcwd()
print(wd)
for image_set in sets:if not os.path.exists('data/labels/'):os.makedirs('data/labels/')image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()list_file = open('data/%s.txt' % (image_set), 'w')for image_id in image_ids:list_file.write('images/%s.jpg\n' % (image_id))convert_annotation(image_id)list_file.close()

需要修改的:

第一处
在这里插入图片描述
classes改成你要训练的类别名,有几类就写几个,逗号隔开,如下

classes =["class_a","class_b" ]

第二处
在这里插入图片描述
打开任意一个你要用的xml文件,找到Difficult

看xml中开头字母是大写还是小写,如果是difficult,就把上图36行改成difficult,不改后期会报错

第三处

在这里插入图片描述
对照路径,看是否和你创建的文件夹名称对应,一般不需要修改

全部修改完成后,运行 voc_label.py 文件

会在 data 目录 下生成
在这里插入图片描述
打开train.txt可以看到

在这里插入图片描述
里面包含了所有训练集图片的相对路径

进行下一步

4.修改参数

1.修改cfg文件

打开cfg目录下的yolov3-tiny.cfg

搜索 yolo

会返回两处结果

以其中一处为例

在这里插入图片描述

修改规则:

  1. classes的数改为你实际的类别数,我是一类,所以就是1
  2. 上面的filters 改成 3*(classes+5) ,我的classes =1 ,所以是 3*(1+5)=18
  3. 一共修改四处,两处classes,两处filters

2.新建data和names文件

在data目录下,新建collector.names 和 collector.data 文件,也可以直接在原有的 data和 names 文件上修改

里面写这些东西

collector.names中写你的所有类名,一类一行

在这里插入图片描述
collector.data 中

在这里插入图片描述
老样子:
classes是你的类别数
train是你 训练集图片相对路径存储的txt文件
valid 同上
names 是你 类名 所在的路径
backup 是你 缓存 放的地方,不用改
eval是测评标准,也不用改
如果是按教程走的话,改的和上图一模一样就行 ,注意路径中是 \ 不是 /

5.开始训练

至此,所有的准备工作完成,我们开始训练

此时所有的目录结构如下所示:
在这里插入图片描述

打开 train.py

在这里插入图片描述
epoch 是你训练的 轮数
batch-size 决定你 所有 训练集分成几组, 我1070 显卡8G显存 batch-size =32 没有问题,越大越快,但我丝毫没有感觉(╥╯^╰╥)
cfg 就是你修改的那个 cfg文件
data 也是你新建的那个 data
改完这四个

python train.py

就可以开始训练啦

如果你不想改代码

那么也可以这样运行

python train.py --data-cfg cfg/yolov3-tiny.cfg --data data/collector.data

至此就是漫长的等待

默认epoch 每过十轮 会 保存一次权重 ,可以在 train.py 中修改

在这里插入图片描述
所有权重都被保存到 weights 文件夹中

运行时截图:
在这里插入图片描述
目标较为简单,笔者个人感觉 total loss 在1 左右基本够用

6.笔者遇到的问题

1. ‘No labels found. Incorrect label paths provided.’ AssertionError: No labels found. Incorrect label paths provided.

在原作者repo上有同样的issue:

https://github.com/ultralytics/yolov3/issues/318

解决:网上重新找了份 voc_label.py重新生成label文件就好了

2.division by zero

解决:训练用的图片名程过长 ,修改成短的就好了,然后重新生成train.txt 文件

3. No such file or directory: ‘data\data/test.shapes’

该问题往往会在第一轮训练完成之后出现

解决:删除data里原有的 test.shapes 就好了。很玄学

4.未完待续


以上为我在配置yolov3 pytorch 的一点经历,只是机械的配置,涉及到的原理性的东西较少,很是惭愧。
加上时间久远,有些坑已经遗忘,上述配置过程甚至有可能有错误的地方,欢迎大家指正。