分类：pytorch

2020
10-08

浅谈Keras的Sequential与PyTorch的Sequential的区别

深度学习库Keras中的Sequential是多个网络层的线性堆叠，在实现AlexNet与VGG等网络方面比较容易，因为它们没有ResNet那样的shortcut连接。在Keras中要实现ResNet网络则需要Model模型。下面是Keras的Sequential具体示例：可以通过向Sequential模型传递一个layer的list来构造该模型：fromkeras.modelsimportSequentialfromkeras.layersimportDense,Activationmodel=Sequential([Dense(32,input_dim=784),Activation('relu... 继续阅读 >

2020
10-08

Pytorch 使用CNN图像分类的实现

需求在4*4的图片中，比较外围黑色像素点和内圈黑色像素点个数的大小将图片分类如上图图片外围黑色像素点5个大于内圈黑色像素点1个分为0类反之1类想法通过numpy、PIL构造4*4的图像数据集构造自己的数据集类读取数据集对数据集选取减少偏斜cnn设计因为特征少，直接1*1卷积层或者在4*4外围添加padding成6*6,设计2*2的卷积核得出3*3再接上全连接层代码importtorchimporttorchvisionimporttorchvision.transformsastrans... 继续阅读 >

2020
10-01

Pytorch 使用opnecv读入图像由HWC转为BCHW格式方式

传统使用opencv自带的swapaxes进行转换，然后使用pytorch的from_numpy转为tensor例如：img=img.swapaxes(1,2).swapaxes(0,1)但是有一个常用的图像增广模块albumentations模块中的img_to_tensor进行直接转换注意：我这里使用unsqueeze是为了验证模型的输出，如果使用pytorch的dataset则不需要使用这个操作补充知识：pytorch只用中要注意通道问题cv读进来的是BGR图像，通道是hcw，在torch中使用要注意维度转换def__getitem__(self... 继续阅读 >

2020
10-01

pytorch读取图像数据转成opencv格式实例

pytorch读取图像数据转成opencv格式方法：先转成numpy通用的格式，再将其转换成opencv格式。pytorch读取的数据使用loaddata这类函数实现。pytorch网络输入图像的格式为（C,H,W)，就是（通道数，高，宽）而numpy中图像的格式为（H,W,C）。那就将其通道调换一下。用到函数transpose。转换方法如下例如A的格式为（c,h,w）那么经过A=A.transpose(1,2,0)后就变成了（h,w,c）了然后用语句B=cv2.cvtColor(A,cv2.COLOR_RGB2BGR)结果... 继续阅读 >

2020
09-29

pytorch查看通道数 维数 尺寸大小方式

查看tensorx.shape#尺寸x.size()#形状x.ndim#维数例如importtorchparser=argparse.ArgumentParser(description='PyTorch')parser.add_argument('--img_w',default=144,type=int,metavar='imgw',help='imgwidth')parser.add_argument('--img_h',default=288,type=int,metavar='imgh',help='imgheight')parser.add_argument('--batch-size',default=32,type=int,metavar='B',help='trainingbatchsize')parse... 继续阅读 >

2020
09-29

Pytorch 使用 nii数据做输入数据的操作

使用pix2pix-gan做医学图像合成的时候，如果把nii数据转成png格式会损失很多信息，以为png格式图像的灰度值有256阶，因此直接使用nii的医学图像做输入会更好一点。但是Pythorch中的Dataloader是不能直接读取nii图像的，因此加一个CreateNiiDataset的类。先来了解一下pytorch中读取数据的主要途径——Dataset类。在自己构建数据层时都要基于这个类，类似于C++中的虚基类。自己构建的数据层包含三个部分classDataset(object):"""An... 继续阅读 >

2020
09-29

Pytorch转keras的有效方法,以FlowNet为例讲解

Pytorch凭借动态图机制，获得了广泛的使用，大有超越tensorflow的趋势，不过在工程应用上，TF仍然占据优势。有的时候我们会遇到这种情况，需要把模型应用到工业中，运用到实际项目上，TF支持的PB文件和TF的C++接口就成为了有效的工具。今天就给大家讲解一下Pytorch转成Keras的方法，进而我们也可以获得Pb文件，因为Keras是支持tensorflow的，我将会在下一篇博客讲解获得Pb文件，并使用Pb文件的方法。PytorchToKeras首先，我们必... 继续阅读 >

2020
09-29

Pytorch使用PIL和Numpy将单张图片转为Pytorch张量方式

我就废话不多说了，大家还是直接看代码吧！#!/usr/bin/python#-*-coding:UTF-8-*-fromPILimportImageimportnumpyasnpimporttorchpil_img=Image.open('/Users/songlu/Desktop/code.jpg')img=np.array(pil_img)printtorch.from_numpy(img)补充知识：pytorchmxnet多GPU训练batch的区别区别有很多，这是一点点不一样1、mxnet的batch，设置的是单卡的，多卡是batch*多卡，多一张卡，速度可以提升一倍2、pytor... 继续阅读 >

2020
09-29

Pytorch转onnx、torchscript方式

前言本文将介绍如何使用ONNX将PyTorch中训练好的模型(.pt、.pth)型转换为ONNX格式，然后将其加载到Caffe2中。需要安装好onnx和Caffe2。PyTorch及ONNX环境准备为了正常运行ONNX，我们需要安装最新的Pytorch,你可以选择源码安装：gitclone--recursivehttps://github.com/pytorch/pytorchcdpytorchmkdirbuild&&cdbuildsudocmake..-DPYTHON_INCLUDE_DIR=/usr/include/python3.6-DUSE_MPI=OFFmakeinstallexportPYTHONPATH... 继续阅读 >

2020
09-29

pytorch中 gpu与gpu、gpu与cpu 在load时相互转化操作

问题描述有时在加载已训练好的模型时，会出现outofmemory的错误提示，但仔细检测使用的GPU卡并没有再用且内存也没有超出。经查阅发现原来是训练模型时使用的GPU卡和加载时使用的GPU卡不一样导致的。个人感觉，因为pytorch的模型中是会记录有GPU信息的，所以有时使用不同的GPU加载时会报错。解决方法gpu之间的相互转换。即，将训练时的gpu卡转换为加载时的gpu卡。torch.load('modelparameters.pth',map_location={'cuda:1':'cu... 继续阅读 >

2020
09-29

MxNet预训练模型到Pytorch模型的转换方式

预训练模型在不同深度学习框架中的转换是一种常见的任务。今天刚好DPN预训练模型转换问题，顺手将这个过程记录一下。核心转换函数如下所示：defconvert_from_mxnet(model,checkpoint_prefix,debug=False):_,mxnet_weights,mxnet_aux=mxnet.model.load_checkpoint(checkpoint_prefix,0)remapped_state={}forstate_keyinmodel.state_dict().keys():k=state_key.split('.')aux=Falsemxnet_key=''ifk[0... 继续阅读 >

2020
09-29

浅谈pytorch 模型 .pt, .pth, .pkl的区别及模型保存方式

我们经常会看到后缀名为.pt,.pth,.pkl的pytorch模型文件，这几种模型文件在格式上有什么区别吗？其实它们并不是在格式上有区别，只是后缀不同而已（仅此而已），在用torch.save()函数保存模型文件时，各人有不同的喜好，有些人喜欢用.pt后缀，有些人喜欢用.pth或.pkl.用相同的torch.save（）语句保存出来的模型文件没有什么不同。在pytorch官方的文档/代码里，有用.pt的，也有用.pth的。一般惯例是使用.pth,但是官方文档里貌似.p... 继续阅读 >

2020
09-29

Pytorch通过保存为ONNX模型转TensorRT5的实现

1Pytorch以ONNX方式保存模型defsaveONNX(model,filepath):'''保存ONNX模型:parammodel:神经网络模型:paramfilepath:文件保存路径'''#神经网络输入数据类型dummy_input=torch.randn(self.config.BATCH_SIZE,1,28,28,device='cuda')torch.onnx.export(model,dummy_input,filepath,verbose=True)2利用TensorRT5中ONNX解析器构建EnginedefONNX_build_engine(onnx_file_path):'''通过加载on... 继续阅读 >

2020
09-29

Pytorch转tflite方式

目标是想把在服务器上用pytorch训练好的模型转换为可以在移动端运行的tflite模型。最直接的思路是想把pytorch模型转换为tensorflow的模型，然后转换为tflite。但是这个转换目前没有发现比较靠谱的方法。经过调研发现最新的tflite已经支持直接从keras模型的转换，所以可以采用keras作为中间转换的桥梁，这样就能充分利用keras高层API的便利性。转换的基本思想就是用pytorch中的各层网络的权重取出来后直接赋值给keras网络中的对应la... 继续阅读 >

2020
09-29

PyTorch中torch.tensor与torch.Tensor的区别详解

 PyTorch最近几年可谓大火。相比于TensorFlow，PyTorch对于Python初学者更为友好，更易上手。    众所周知，numpy作为Python中数据分析的专业第三方库，比Python自带的Math库速度更快。同样的，在PyTorch中，有一个类似于numpy的库，称为Tensor。Tensor自称为神经网络界的numpy。一、numpy和Tensor二者对比对比项numpyTensor相同点可以定义多维数组，进... 继续阅读 >

2020
09-29

PyTorch在Windows环境搭建的方法步骤

一、安装Anaconda3.5Anaconda是一个用于科学计算的Python发行版，支持Linux、Mac和Window系统，提供了包管理与环境管理的功能，可以很方便地解决Python并存、切换，以及各种第三方包安装的问题。二、下载和安装个人建议推荐在清华的镜像来下载。选择合适你的版本下载，我使用的是Anaoonda3-5.1.0-Windows-x86_64.exe可能安装速度有点慢，不太清楚是我电脑系统盘快慢的原因还是什么。环境变量配置将D:\ProgramData\Anaconda3D:\Pr... 继续阅读 >