分类：TensorFLow

2020
10-08

解决TensorFlow程序无限制占用GPU的方法

今天遇到一个奇怪的现象，使用tensorflow-gpu的时候，出现内存超额~~如果我训练什么大型数据也就算了，关键我就写了一个y=W*x…显示如下图所示：程序如下：importtensorflowastfw=tf.Variable([[1.0,2.0]])b=tf.Variable([[2.],[3.]])y=tf.multiply(w,b)init_op=tf.global_variables_initializer()withtf.Session()assess:sess.run(init_op)print(sess.run(y))出错提示：占用的内存越来越多，程序崩溃之后，整个电... 继续阅读 >

2020
10-08

tensorflow 大于某个值为1,小于为0的实例

我就废话不多说了，大家还是直接看代码吧~one=tf.ones_like(label)zero=tf.zeros_like(label)label=tf.where(label<0.5,x=zero,y=one)补充知识：TensorFlow中获取大于零的元素集合a为tensoridx=tf.where(a>0)output=tf.gather_nd(a,idx)以上这篇tensorflow大于某个值为1,小于为0的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持自学编程网。... 继续阅读 >

2020
10-08

Tensorflow全局设置可见GPU编号操作

笔者需要tensorflow仅运行在一个GPU上（机器本身有多GPU），而且需要依据系统参数动态调节，故无法简单使用CUDA_VISIBLE_DEVICES。一种方式是全局使用tf.device函数生成的域，但设备号需要在绘制Graph前指定，仍然不够灵活。查阅文档发现config的GPUOptions中的visible_device_list可以定义GPU编号从visible到virtual的映射，即可以设置tensorflow可见的GPUdevice，从而全局设置了tensorflow可见的GPU编号。代码如下：config=tf... 继续阅读 >

2020
10-08

浅谈多卡服务器下隐藏部分 GPU 和 TensorFlow 的显存使用设置

服务器有多张显卡，一般是组里共用，分配好显卡和任务就体现公德了。除了在代码中指定使用的GPU编号，还可以直接设置可见GPU编号，使程序/用户只对部分GPU可见。操作很简单，使用环境变量CUDA_VISIBLE_DEVICES即可。具体来说，如果使用单卡运行Python脚本，则可输入CUDA_VISIBLE_DEVICES=1pythonmy_script.py脚本将只使用GPU1。在.py脚本和Notebook中设置，则importosos.environ["CUDA_VISIBLE_DEVICES"]="2"... 继续阅读 >

2020
10-08

Tensorflow中批量读取数据的案列分析及TFRecord文件的打包与读取

单一数据读取方式：第一种：slice_input_producer()#返回值可以直接通过Session.run([images,labels])查看，且第一个参数必须放在列表中，如[...][images,labels]=tf.train.slice_input_producer([images,labels],num_epochs=None,shuffle=True)第二种：string_input_producer()#需要定义文件读取器，然后通过读取器中的read()方法来获取数据（返回值类型key,value），再通过Session.run(value)查看file_queu... 继续阅读 >

2020
10-08

使用Tensorflow-GPU禁用GPU设置(CPU与GPU速度对比)

禁用GPU设置#在importtensorflow之前importosos.environ['CUDA_VISIBLE_DEVICES']='-1'CPU与GPU对比显卡：GTX1066CPUGPU简单测试：GPU比CPU快5秒补充知识：tensorflow使用CPU可以跑（运行），但是使用GPU却不能用的情况在跑的时候可以让加些选项：withtf.Session(config=tf.ConfigProto(allow_soft_placement=True,log_device_placement=True))其中allow_soft_placement能让tensorflow遇到无法用GPU跑的数据时，自动切换成... 继续阅读 >

2020
10-08

keras的backend 设置 tensorflow,theano操作

win7系统环境安装步骤：1.首先是安装Python，建议安装anaconda2.安装完anaconda后打开anacondapromp命令行promp，输入condalist.可以看到已经安装的库以及版本等信息，注意此时没有keras.3.通过condainstallkeras或pipinstallkeras直接安装。（会默认的给你安装keras最新版本和所需要的theano）4.安装完成之后，就可以打开notebook,输入importkeras检查是否成功。5.因为windows版本的tensorflow刚刚才推出，所以目前... 继续阅读 >

2020
10-08

浅谈TensorFlow中读取图像数据的三种方式

本文面对三种常常遇到的情况，总结三种读取数据的方式，分别用于处理单张图片、大量图片，和TFRecorder读取方式。并且还补充了功能相近的tf函数。1、处理单张图片我们训练完模型之后，常常要用图片测试，有的时候，我们并不需要对很多图像做测试，可能就是几张甚至一张。这种情况下没有必要用队列机制。importtensorflowastfimportmatplotlib.pyplotaspltdefread_image(file_name):img=tf.read_file(filename=file... 继续阅读 >

2020
10-08

解决tensorflow/keras时出现数组维度不匹配问题

一、环境Ubuntu16.04tensorflow1.4.0keras2.1.3二、训练数据时报错：ValueError:Errorwhencheckingtarget:expectedmodel_2tohaveshape(None,3)butgotarraywithshape(4,1原因：数组的维度不正确。三、解决思路一开始的想法：tensorflow和keras的版本不兼容？经过多次安装不同版本的tensorflow和keras，发现问题依旧存在。而且在python环境下使用命令：importtensorflow或者importkeras时，报错：/home... 继续阅读 >

2020
10-08

解决Keras TensorFlow 混编中 trainable=False设置无效问题

这是最近碰到一个问题，先描述下问题：首先我有一个训练好的模型(例如vgg16)，我要对这个模型进行一些改变，例如添加一层全连接层，用于种种原因，我只能用TensorFlow来进行模型优化,tf的优化器，默认情况下对所有tf.trainable_variables()进行权值更新，问题就出在这，明明将vgg16的模型设置为trainable=False，但是tf的优化器仍然对vgg16做权值更新以上就是问题描述，经过谷歌百度等等，终于找到了解决办法，下面我们一点一点的... 继续阅读 >

2020
10-08

在tensorflow实现直接读取网络的参数(weight and bias)的值

训练好了一个网络，想要查看网络里面参数是否经过BP算法优化过，可以直接读取网络里面的参数，如果一直是随机初始化的值，则证明训练代码有问题，需要改。下面介绍如何直接读取网络的weight和bias。(1)获取参数的变量名。可以使用一下函数获取变量名：defvars_generate1(self,scope_name_var):return[varforvarintf.global_variables()ifscope_name_varinvar.name]输入你想要读取的变量的一部分的名称(scope_name_v... 继续阅读 >

2020
10-08

TensorFlow保存TensorBoard图像操作

简单的代码：importtensorflowastfIn[2]:matrix1=tf.constant([[3.,3.]])In[3]:matrix2=tf.constant([[2.],[2.]])withtf.Session()assess:...:writer=tf.summary.FileWriter('./graph',sess.graph)...:result=sess.run(tf.matmul(matrix1,matrix2))...:writer.close()ipython中使用！+命令可以直接运行terminal命令。terminal输入：tensorboard--logdirgraph/跳出：StartingTensorBoard54at... 继续阅读 >

2020
10-08

浅谈tensorflow使用张量时的一些注意点tf.concat,tf.reshape,tf.stack

有一段时间没用tensorflow了，现在跑实验还是存在一些坑了，主要是关于张量计算的问题。tensorflow升级1.0版本后与以前的版本并不兼容，可能出现各种奇奇怪怪的问题。1tf.concat函数tensorflow1.0以前函数用法：tf.concat(concat_dim,values,name='concat')，第一个参数为连接的维度，可以将几个向量按指定维度连接起来。如：t1=[[1,2,3],[4,5,6]]t2=[[7,8,9],[10,11,12]]#按照第0维连接tf.concat(0,[t1,t2])=... 继续阅读 >

2020
10-08

解决tensorflow 释放图,删除变量问题

问题，在一个程序内构建好了一个图，运行完之后想重新使用这个图进行计算，或者想同时在train完的时候做test，就会提示***变量已存在。解决办法：待一个图运行完之后加上tf.reset_default_graph来重置默认的图。补充知识：tensorflow张量插入或者删除的办法我就废话不多说了，大家还是直接看代码吧~part1=new_enc_in[:,0:3]part2=new_enc_in[:,3:]###part_new要插入的张量new_enc_in=tf.concat([part1,part_new,part2... 继续阅读 >

2020
10-08

TensorFlow中如何确定张量的形状实例

我们可以使用tf.shape()获取某张量的形状张量。importtensorflowastfx=tf.reshape(tf.range(1000),[10,10,10])sess=tf.Session()sess.run(tf.shape(x))Out[1]:array([10,10,10])我们可以使用tf.shape()在计算图中确定改变张量的形状。high=tf.shape(x)[0]//2width=tf.shape(x)[1]*2x_reshape=tf.reshape(x,[high,width,-1])sess.run(tf.shape(x_reshape))Out:array([5,20,10])我们可以使用tf.shap... 继续阅读 >

2020
10-08

使用tensorflow根据输入更改tensor shape

涉及随机数以及类RNN的网络构建常常需要根据输入shape，决定中间变量的shape或步长。tf.shape函数不同于tensor.shape.as_list()函数，后者返回的是常值list，而前者返回的是tensor。使用tf.shape函数可以使得中间变量的tensor形状随输入变化，不需要在构建Graph的时候指定。但对于tf.Variable，因为需要提前分配固定空间，其shape无法通过上诉方法设定。实例代码如下：a=tf.placeholder(tf.float32,[None,])b=tf.random_normal... 继续阅读 >