CAFFE学习教程PPT学习课件.ppt

LOGOCaffeCaffe学习教程学习教程信息科学与技术学院412实验室ContentsContents1.准备数据2.构建网络3.配置参数4.训练模型S5.测试模型2Company name1 1、准备数据、准备数据vCaffe可以以下面的方式读取数据:p从专用的数据库中读取（lmdb、leveldb)p直接读取图片p从内存中读取p从HDF5文件中读取p从滑动窗口中读取最常用的是前面两种方式。默认是从lmdb数据库格式中读取，因此需要先把图片文件转换成lmdb格式文件。直接读取图片会导致无法减均值。如果不考虑减均值的情况，可使用这种方法。3Company 1 1、准备数据、准备数据v第一步：得到文件列表清单Train.txt4Company 1 1、准备数据、准备数据v第二步：转换成lmdb命令调用格式：convert_imagesetFLAGSROOTFOLDER/LISTFILEDB_NAME需要带四个参数：FLAGS:图片参数(可选)，用于调整图片大小和打乱顺序。ROOTFOLDER/:图片存放的绝对路径，从linux系统根目录开始LISTFILE:图片文件列表清单，一般为一个txt文件，一行一张图片DB_NAME:最终生成的db文件存放目录例：convert_imageset/home/bnu/fer/train/home/bnu/fer/train.txt/home/bnu/fer/train_lmdb5Company 1 1、准备数据、准备数据v第二步：转换成lmdb完整例子：完整例子：convert_imageset-shuffle-resize_height=256-resize_width=256/home/bnu/fer/train/home/bnu/fer/train.txt/home/bnu/fer/train_lmdb转换成功后，会生成一个train_lmdb文件夹，里面有两个文件打乱顺序改变高度为256像素改变宽度为256像素图片存放的绝对路径图片列表清单文件生成的文件更多参考：http:/ 1 1、准备数据、准备数据v第三步：计算均值命令调用格式：命令调用格式：compute_image_meanparam1param2Param1:lmdb文件夹Param2:保存文件路径及名称将训练集的均值计算出来，并保存为binaryporto文件，以便在训练时调用。compute_image_mean/home/bnu/fer/train_lmdb/home/bnu/fer/mean.binaryproto更多参考：http:/ 2 2、构建网络结构、构建网络结构v在运行的整个流程中，可以分为三个阶段：训练阶段、验证阶段和测试阶段。网络结构在不同的阶段是不同的，都存放在prototxt文件里面。为了方便，一般将训练阶段和验证阶段的网络结构放在一个文件里，测试阶段的网络结构单独放在一个文件里。Cw训练和验证阶段的网络结构文件测试阶段的网络结构文件82 2、构建网络结构、构建网络结构9Company 2 2、构建网络结构（数据层、构建网络结构（数据层)layername:datatype:Datatop:datatop:labelincludephase:TRAINtransform_parammirror:truecrop_size:40mean_file:/home/xqh/fer/mean.binaryprotodata_paramsource:/home/xqh/fer/fer/train_dbbatch_size:64backend:LMDBName指定层的名称，不能有重复。Type指定层的类型自底向上，top用于指定向上传递的数据名称。数据层需要往上输出图片数据和标签数据。Include用于指定该层属于训练阶段还是验证阶段数据转换参数：是否镜像裁剪均值文件Lmdb数据源批次大小数据源格式更多参考：http:/ 2 2、构建网络结构（卷积层、构建网络结构（卷积层)layername:conv1type:Convolutionbottom:datatop:conv1paramlr_mult:1.0decay_mult:1.0paramlr_mult:2.0decay_mult:0.0convolution_paramnum_output:32pad:2kernel_size:5stride:1weight_fillertype:gaussianstd:0.01bias_fillertype:constantvalue:0.0bottom用于指定传入的数据名称，top用于该层的数据输出，bottom和top起到数据流动作用lr_mult:学习率的系数，最终的学习率是这个数乘以solver.prototxt配置文件中的base_lr。如果有两个lr_mult,则第一个表示权值的学习率，第二个表示偏置项的学习率。一般偏置项的学习率是权值学习率的两倍。Num_output：卷积核的数量Pad：边缘填充Kernel_size:卷积核大小Stride:滑动步长Weight_filler:权值初始化，此处表示高斯随机初始化Bias_filler:偏置项初始化，此处表示初始化为常数0更多参考：http:/ 2 2、构建网络结构（激活层、构建网络结构（激活层)更多参考：http:/ 2 2、构建网络结构（池化层、构建网络结构（池化层)更多参考：http:/ 2 2、构建网络结构（全连接层、构建网络结构（全连接层)layername:“fc7type:InnerProductbottom:pool2top:“fc7paramlr_mult:1paramlr_mult:2inner_product_paramnum_output:500weight_fillertype:xavierbias_fillertype:constant更多参考：http:/ 2 2、构建网络结构（其它层、构建网络结构（其它层)layername:losstype:SoftmaxWithLossbottom:fc7bottom:labeltop:lossLoss层：输出残差layersbottom:“fc7top:probname:probtype:“Softmax“includephase:TESTSoftmax层：输出属于某类的概率,一般用于验证和测试阶段，这里的TEST表示验证阶段layername:accuracytype:Accuracybottom:“fc7bottom:labeltop:accuracyincludephase:TEST输出分类（预测）精确度，只有验证或测试阶段才有layername:drop7type:Dropoutbottom:fc7top:fc7dropout_paramdropout_ratio:0.5Dropout是一个防止过拟合的trick。可以随机让网络某些隐含层节点的权重不工作15Company 2 2、构建网络结构（、构建网络结构（deploy)deploy)Deploy.prototxt文件用于测试阶段，测试数据没有标签值，因此数据输入层与其它两个阶段不同。input:datainput_shapedim:1dim:3dim:42dim:4216Company 3 3、配置参数（、配置参数（solver.prototxt)solver.prototxt)更多参考：http:/ 3 3、配置参数（、配置参数（solver.prototxt)solver.prototxt)更多参考：http:/ 4 4、训练模型、训练模型开始运行Solver.prototxtTrain_val.prototxtTrain_dbVal_dbMean.binaryproto调用调用调用19Company 4 4、训练模型、训练模型其中的有这样四种：utrainutestudevice_queryuTime对应的功能为：train-训练或finetune模型（model),test-测试模型device_query-显示gpu信息time-显示程序执行时间caffe程序的命令行执行格式如下：caffe 其中的参数有：-solver必须，训练配置文件-gpu可选，指定某块gpu-snapshot可选，从快照中恢复训练-weights可选，预训练好的caffemodel-iteration可选，迭代次数-model可选，网络结构-sighup_effect意外中止时的操作-sigint_effect人工中止时的操作20Company 4 4、训练模型、训练模型例：build/tools/caffetrain-solver/home/bnu/fer/solver.prototxtbuild/tools/caffetrainsolver=/home/bnu/fer/solver.prototxt更多参考：http:/ 5 5、测试模型、测试模型更多参考：http:/ LOGOCollege of Information Science&Technology,Beijing Normal U