分类：Keras

2020
10-07

Keras中的多分类损失函数用法categorical_crossentropy

Keras中的多分类损失函数用法categorical_crossentropy fromkeras.utils.np_utilsimportto_categorical注意：当使用categorical_crossentropy损失函数时，你的标签应为多类模式，例如如果你有10个类别，每一个样本的标签应该是一个10维的向量，该向量在对应有值的索引位置为1其余为0。可以使用这个方法进行转换：fromkeras.utils.np_utilsimportto_categoricalcategorical_labels=to_categorical(int_labels,num_classes=None)以mnist数据集为例：fromkeras.datasetsimportm... 继续阅读 >
2020
10-07

基于Keras 循环训练模型跑数据时内存泄漏的解决方式

在使用完模型之后，添加这两行代码即可清空之前model占用的内存：importtensorflowastffromkerasimportbackendasKK.clear_session()tf.reset_default_graph()补充知识：keras多个模型测试阶段速度越来越慢问题的解决方法问题描述在实际应用或比赛中，经常会用到交叉验证（10倍或5倍）来提高泛化能力，这样在预测时需要加载多个模型。常用的方法为mods=[]fromkeras.utils.generic_utilsimportCustomObjectScopew... 继续阅读 >
2020
10-07

Keras:Unet网络实现多类语义分割方式

Keras:Unet网络实现多类语义分割方式 1介绍U-Net最初是用来对医学图像的语义分割，后来也有人将其应用于其他领域。但大多还是用来进行二分类，即将原始图像分成两个灰度级或者色度，依次找到图像中感兴趣的目标部分。本文主要利用U-Net网络结构实现了多类的语义分割，并展示了部分测试效果，希望对你有用！2源代码（1）训练模型from__future__importprint_functionimportosimportdatetimeimportnumpyasnpfromkeras.modelsimportModelfromkeras.layersim... 继续阅读 >
2020
10-07

Keras 快速解决OOM超内存的问题

如果在Keras内部多次使用同一个Model，例如在不同的数据集上训练同一个模型进而得到结果，会存在内存泄露的问题。在运行几次循环之后，就会报错OOM。解决方法是在每个代码后面接clear_session()函数，显示的关闭TFGraph，再重启。详情参考https://keras.io/backend/#backend-functions。fromkerasimportbackendasKK.clear_session()补充知识：Keras多次加载模型进行测试时内存溢出的解决方法在进行实验的过程中，保存了每个e... 继续阅读 >
2020
10-07

使用keras实现孪生网络中的权值共享教程

使用keras实现孪生网络中的权值共享教程 首先声明，这里的权值共享指的不是CNN原理中的共享权值，而是如何在构建类似于SiameseNetwork这样的多分支网络，且分支结构相同时，如何使用keras使分支的权重共享。FunctionalAPI为达到上述的目的，建议使用keras中的FunctionalAPI，当然Sequential类型的模型也可以使用，本篇博客将主要以FunctionalAPI为例讲述。keras的多分支权值共享功能实现，官方文档介绍上面是官方的链接，本篇博客也是基于上述官方文档，实现的此功能... 继续阅读 >
2020
10-07

查看keras各种网络结构各层的名字方式

查看keras各种网络结构各层的名字方式 举例base_model=ResNet50(weights=‘imagenet',include_top=True）print(base_model.summary())得到这个结果补充知识：使用keras，在load_model()时，出现NameError:name'***'isnotdefined是因为在构造模型是，使用了自定义的层，如Lambda()#文本相似度评估方式defexponent_neg_manhattan_distance(sent_left,sent_middle,sent_right):'''基于曼哈顿空间距离计算两个字符串语义空间表示相似度计算'''return((K.ex... 继续阅读 >
2020
10-07

完美解决keras保存好的model不能成功加载问题

前两天调用之前用keras（tensorflow做后端）训练好model，却意外发现报错了！！之前从来没有过报错！！错误内容粘贴如下：File“h5py_objects.pyx”,line54,inh5py._objects.with_phil.wrapper(C:\Minonda\conda-bld\h5py_1496885653697\work\h5py_objects.c:2867)File“h5py_objects.pyx”,line55,inh5py._objects.with_phil.wrapper(C:\Minonda\conda-bld\h5py_1496885653697\work\h5py_objects.c:2825)File“h5py\... 继续阅读 >
2020
10-07

keras load model时出现Missing Layer错误的解决方式

问题描述：训练结束后，保存model为hdf5和yaml格式的文件yamlFilename=os.path.join(dir,filename)yamlModel=model.toyaml()withopen(yamlFilename,"w")asyamlFile:yamlFile.write(yamlModel)随后loadmodelwithopen(chkptFilename,'r')asf:model_yaml=f.read()model=KM.model_from_yaml(model_yaml,customs_objects={"dict":dict})model.load_weights(weightFilename)但是报错问题分析：经过debug分析，原因出在... 继续阅读 >
2020
10-07

解决keras加入lambda层时shape的问题

使用keras时，加入keras的lambda层以实现自己定义的操作。但是，发现操作结果的shape信息有问题。我的后端是theano，使用了sum操作。比如输入时，shape为（32，28，28），其中32为batch大小。此时对应的ndim应该等于3。但是，lambda处理后结果显示_keras_shape为（32，28，28），而ndim却是2。这导致后边各项操作都会出现问题。此处sum函数加入参数keepdims=True即可。此注意keras中的各种层几乎都不用去理会batch的大小，系统会自... 继续阅读 >
2020
10-07

keras slice layer 层实现方式

keras slice layer 层实现方式 注意的地方：keras中每层的输入输出的tensor是张量，比如Tensorshape是（N,H,W,C),对于tf后台，channels_lastDefineaslicelayerusingLamdalayerdefslice(x,h1,h2,w1,w2):"""Defineatensorslicefunction"""returnx[:,h1:h2,w1:w2,:]定义完slicefunction之后，利用lambdalayer添加到定义的网络中去#Addslicelayerslice_1=Lambda(slice,arguments={'h1':0,'h2':6,'w1':0,'w2':6})(slic... 继续阅读 >
2020
10-07

keras Lambda自定义层实现数据的切片方式,Lambda传参数

keras Lambda自定义层实现数据的切片方式,Lambda传参数 1、代码如下：importnumpyasnpfromkeras.modelsimportSequentialfromkeras.layersimportDense,Activation,Reshapefromkeras.layersimportmergefromkeras.utils.visualize_utilimportplotfromkeras.layersimportInput,Lambdafromkeras.modelsimportModeldefslice(x,index):returnx[:,:,index]a=Input(shape=(4,2))x1=Lambda(slice,output_shape=(4,1),arguments={'index':0})(a)x2=Lambda(slice,... 继续阅读 >
2020
10-07

keras多显卡训练方式

使用keras进行训练，默认使用单显卡，即使设置了os.environ['CUDA_VISIBLE_DEVICES']为两张显卡，也只是占满了显存，再设置tf.GPUOptions(allow_growth=True)之后可以清楚看到，只占用了第一张显卡，第二张显卡完全没用。要使用多张显卡，需要按如下步骤：（1）importmulti_gpu_model函数：fromkeras.utilsimportmulti_gpu_model（2）在定义好model之后，使用multi_gpu_model设置模型由几张显卡训练，如下：model=Model(...)#... 继续阅读 >
2020
10-07

keras 多gpu并行运行案例

一、多张gpu的卡上使用keras有多张gpu卡时，推荐使用tensorflow作为后端。使用多张gpu运行model，可以分为两种情况，一是数据并行，二是设备并行。二、数据并行数据并行将目标模型在多个设备上各复制一份，并使用每个设备上的复制品处理整个数据集的不同部分数据。利用multi_gpu_model实现keras.utils.multi_gpu_model(model,gpus=None,cpu_merge=True,cpu_relocation=False)具体来说，该功能实现了单机多GPU数据并行性。它... 继续阅读 >
2020
10-07

浅谈keras中的目标函数和优化函数MSE用法

mean_squared_error/mse均方误差，常用的目标函数，公式为((y_pred-y_true)**2).mean()model=Sequential()model.add(Dense(64,init='uniform',input_dim=10))model.add(Activation('tanh'))model.add(Activation('softmax'))sgd=SGD(lr=0.1,decay=1e-6,momentum=0.9,nesterov=True)model.compile(loss='mean_squared_error',optimizer=sgd)补充知识：(Keras)——keras损失函数与评价指标详解1、目标函... 继续阅读 >
2020
10-07

keras 解决加载lstm+crf模型出错的问题

错误展示new_model=load_model(“model.h5”)报错：1、kerasload_modelvalueError:UnknownLayer:CRF2、kerasload_modelvalueError:Unknownlossfunction:crf_loss错误修改1、load_model修改源码：custom_objects=None改为defload_model(filepath,custom_objects,compile=True)：2、new_model=load_model(“model.h5”,custom_objects={‘CRF':CRF,‘crf_loss':crf_loss,‘crf_viterbi_accuracy':crf_viterb... 继续阅读 >