解决tensorflow训练时内存持续增加并占满的问题
记录一次小白的tensorflow学习过程，也为有同样困扰的小白留下点经验。
先说我出错和解决的过程。在做风格迁移实验时，使用预加载权重的VGG19网络正向提取中间层结果，结果因为代码不当，在遍历图片提取时内存持续增长，导致提取几十个图片的特征内存就满了。
原因是在对每一张图片正向传播结束后，都会在留下中间信息。具体地说是在我将正向传播的代码与模型的代码分离了，在每次遍历图片时都会正向传播，在tensorflow中新增加了很多的计算节点（如tf.matmul等等），导致内存中遗留了大量的过期信息。
纠正的做法就是一个前提：避免在循环训练图片时额外使用tf计算资源。
使用placeholder作为输入数据的入口，在模型中定义需要使用的函数，包括正向传播。不要在遍历图片时额外使用tf计算。
遇到这种问题一定要回头检查代码，尤其是在别人写的代码基础上改时。多学习公开的源码。
错误示例：
defbuild_model(model_path):
model_input=tf.placeholder('float32',[1,IMAGE_HEIGHT,IMAGE_WIDTH,COLOR_CHANNELS])
vec1=...
......
returnmodel_input,vec1
defget_style_represent(vec):
#一些tf计算操作
returnnew_vec
withtf.Session()assess:
sess.run(tf.global_variables_initializer())
img_input,vec1=build_model(VGG19_MODEL)#加载模型
forcur_img_pathinimgs_path_list:#遍历图片
cur_img=load_image(cur_img_path)
vec1_out=sess.run(vec1,feed_dict={img_input:cur_img})#正向传播输出模型中的vec1
#对vec1进行一些处理，此处在遍历图片时额外使用了tensorflow的计算节点，导致在内存中遗留信息
new_vec=get_style_represent(vec1_out)
正确示例：
defbuild_model(model_path):
model_input=tf.placeholder('float32',[1,IMAGE_HEIGHT,IMAGE_WIDTH,COLOR_CHANNELS])
vec1=...
......
new_vec=...#将get_style_represent计算操作定义在模型中
returnmodel_input,vec1,new_vec
withtf.Session()assess:
sess.run(tf.global_variables_initializer())
img_input,vec1,new_vec=build_model(VGG19_MODEL)
forcur_img_pathinimgs_path_list:
cur_img=load_image(cur_img_path)
#一次正向传播将处理后的vec1也得到了，避免在每次图片正向传播时留下额外信息
vec1_out,new_vec_out=sess.run([vec1,new_vec],feed_dict={img_input:cur_img})
所以，如果你也遇到了同样的问题，不妨看一下你是不是在迭代过程中额外使用了新的tf计算节点吧。
以上这篇解决tensorflow训练时内存持续增加并占满的问题就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。