Tensorflow的梯度异步更新示例
背景：
先说一下应用吧，一般我们进行网络训练时，都有一个batchsize设置，也就是一个batch一个batch的更新梯度，能有这个batch的前提是这个batch中所有的图片的大小一致，这样才能组成一个placeholder。那么若一个网络对图片的输入没有要求，任意尺寸的都可以，但是我们又想一个batch一个batch的更新梯度怎么办呢？
操作如下：
先计算梯度：
#模型部分
Optimizer=tf.train.GradientDescentOptimizer(1)
gradient=Optimizer.compute_gradients(loss)#每次计算所有变量的梯度
grads_holder=[(tf.placeholder(tf.float32,shape=g.get_shape()),v)for(g,v)ingradient]#将每次计算的梯度保存
optm=Optimizer.apply_gradients(grads_holder)#进行梯度更新
#初始化部分
sess=tf.Session()
init=tf.global_variables_initializer()
sess.run(init)
#实际训练部分
grads=[]#定义一个空的列表用于存储每次计算的梯度
foriinrange(batchsize):#batchsize设置在这里
x_i=...#输入
y_real=...#标签
grad_i=sess.run(gradient,feed_dict={inputs:x_i,outputs:y_real})#梯度计算
grads.append(grad_i)#梯度存储
#定义一个空的字典用于存储，batchsize中所有梯度的和
grads_sum={}
#将网络中每个需要更新梯度的变量都遍历一遍
foriinrange(len(grads_holder)):
k=grads_holder[i][0]#得到该变量名
#将该变量名下的所有梯度求和，这里也可以求平均，求平均只需要除以batchsize
grads_sum[k]=sum([g[i][0]forgingrads])
#完成梯度更新
sess.run(optm,feed_dict=grads_sum)
以上这篇Tensorflow的梯度异步更新示例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持毛票票。
声明：本文内容来源于网络，版权归原作者所有，内容由互联网用户自发贡献自行上传，本网站不拥有所有权，未作人工编辑处理，也不承担相关法律责任。如果您发现有涉嫌版权的内容，欢迎发送邮件至：czq8825#qq.com（发邮件时，请将#更换为@）进行举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。