分类：CUDA

2021
07-09

粗暴解决CUDA out of memory的问题

小渣渣复现大佬project发现GPU跑不动，出现如下报错：RuntimeError:CUDAoutofmemory.看下来最简单粗暴方法就是减少batch_size，慢是慢了不止一点点但至少跑得动了！补充：PytorchGPU显存充足却显示outofmemory解决办法今天在测试一个pytorch代码的时候显示显存不足，但是这个网络框架明明很简单，用CPU跑起来都没有问题，GPU却一直提示outofmemory.在网上找了很多方法都行不通，最后我想也许是pytorch版本的问题，原来我... 继续阅读 >
2021
05-19

PyTorch CUDA环境配置及安装的步骤(图文教程)

PyTorch CUDA环境配置及安装的步骤(图文教程) Pytorch版本介绍torch：1.6CUDA：10.2cuDNN：8.1.0✨安装NVIDIA显卡驱动程序一般电脑出厂/装完系统会自动安装显卡驱动如果有可直接进行下一步下载链接http://www.nvidia.cn/Download/index.aspx?lang=cn选择和自己显卡相匹配的显卡驱动下载安装✨确认项目所需torch版本#pipinstall-rrequirements.txt#base----------------------------------------Cythonmatplotlib>=3.2.2numpy>=1.18.5op... 继续阅读 >
2021
04-07

详解使用CUDA+OpenCV加速yolo v4性能

详解使用CUDA+OpenCV加速yolo v4性能 YOLO是You-Only-Look-Once的缩写，它无疑是根据COCO数据集训练的最好的对象检测器之一。YOLOv4是最新的迭代版本，它在准确性和性能之间进行了权衡，使其成为最先进的对象检测器之一。在智能视频分析管道中使用任何对象检测器的典型机制包括使用像Tensorflow或PyTorch这样能够在NVIDIAGPU上操作的库来加速模型推理。OpenCV用于图像/视频流输入，预处理和后处理的视觉效果。如果我告诉你OpenCV现在能够利用NVIDIACUDA的优点，使用D... 继续阅读 >
2021
03-23

Win10下安装CUDA11.0+CUDNN8.0+tensorflow-gpu2.4.1+pytorch1.7.0+paddlepaddle-gpu2.0.0

Win10下安装CUDA11.0+CUDNN8.0+tensorflow-gpu2.4.1+pytorch1.7.0+paddlepaddle-gpu2.0.0 下载地址官方下载：CUDA和CUDNN.安装CUDA安装之前，建议关掉360安全卫士双击cuda_11.0.3_451.82_win10.exe文件根据自己需要更改安装路径将VisualStudioIntegration的勾去掉配置环境变量C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\bin;C:\ProgramFiles\NVIDIAGPUComputingToolkit\CUDA\v11.0\libnvvp;安装CUDNN将下载的CUDNN解压缩，如下图。将将CUDNN文件夹里面的bin、include、lib文件直接复制到CUDA的安装... 继续阅读 >
2020
10-30

Manjaro安装CUDA实现教程解析

去年年底安装将我的ThinkpadT450的双系统中的opensuse换成了Manjaro，折腾安装了下CUDA，是为记录。基本安装NVIDIA显卡安装Manjaro系统安装显卡比较简单，它有一个命令sudomhwd-a[pciorusbconnection][freeornonfreedrivers]0300其中-a:自动检测和安装合适的显卡驱动[pciorusb]:为通过PCI或者USB连接的设置安装驱动[freeornonfree]:安装免费或者非免费的驱动0300:确认即将安装的显卡的驱动我们要安装... 继续阅读 >
2020
10-08

Ubuntu 20.04 CUDA&cuDNN安装方法(图文教程)

Ubuntu 20.04 CUDA&cuDNN安装方法(图文教程) CUDA安装下载cuda输入nvidia-smi命令查看支持的cuda版本如果无法查看，则说明尚未安装nvidia驱动，点击附加驱动，选择对应版本的驱动即可自动下载。从https://developer.nvidia.com/cuda-toolkit-archive下载对应版本的cuda，选择18.04的版本即可。gcc降级Ubuntu20.04自带的gcc版本为9.7.0，需要添加gcc7才可安装cuda10.2，输入命令安装gcc7apt-getinstallgcc-7g++-7查看gcc版本，可以看到目前系统中存在7和9两个版本使用update... 继续阅读 >
2020
10-08

pytorch判断是否cuda 判断变量类型方式

我就废话不多说了，那就直接看代码吧~inputs=Variable(torch.randn(2,2))inputs.is_cuda#willreturnfalseinputs=Variable(torch.randn(2,2).cuda())inputs.is_cuda#returnstrue判断：torch.is_tensor()#如果是pytorch的tensor类型返回truetorch.is_storage()#如果是pytorch的storage类型返回ture这里还有一个小技巧，如果需要判断tensor是否为空，可以如下>>>a=torch.Tensor()>>>len(a)0>>>len(a)is0True设置：... 继续阅读 >
2020
10-08

pytorch cuda上tensor的定义 以及减少cpu的操作详解

cuda上tensor的定义a=torch.ones(1000,1000,3).cuda()某一gpu上定义cuda1=torch.device('cuda:1')b=torch.randn((1000,1000,1000),device=cuda1)删除某一变量dela在cpu定义tensor然后转到gputorch.zeros().cuda()直接在gpu上定义，这样就减少了cpu的损耗torch.cuda.FloatTensor(batch_size,self.hidden_dim,self.height,self.width).fill_(0)补充知识：pytorchcuda.FloatTensor->FloatTensor错误类型：RuntimeError:In... 继续阅读 >
2020
09-25

Pytorch 使用不同版本的cuda的方法步骤

Pytorch 使用不同版本的cuda的方法步骤 由于课题的原因，笔者主要通过Pytorch框架进行深度学习相关的学习和实验。在运行和学习网络上的Pytorch应用代码的过程中，不少项目会标注作者在运行和实验时所使用的Pytorch和cuda版本信息。由于Pytorch和cuda版本的更新较快，可能出现程序的编译和运行需要之前版本的Pytorch和cuda进行运行环境支持的情况。比如笔者遇到的某个项目中编写了CUDAExtension拓展，而其中使用的cuda接口函数在新版本的cuda中... 继续阅读 >
2020
09-24

Visual Studio 2019下配置 CUDA 10.1 + TensorFlow-GPU 1.14.0

Visual Studio 2019下配置 CUDA 10.1 + TensorFlow-GPU 1.14.0 环境Windows1064位VisaulStudio2019Anaconda1.9.7Python3.7CUDAToolkit10.1.120CUDNN7.6.1.34TensorFlow-GPU1.14.01.安装VisualStudio2019  VS号称宇宙最强IDE，接触以来从未让人失望过，可直接在官网下载。从VisualStudio2017开始，就集成了Python模块用于对机器学习的支持，其安装方式也新增了在线安装，安装时可以选择需要的组件进行安装即可，只是时间略久。安装界面如下：  在... 继续阅读 >