tensorflow代码梳理3——变量管理（重要！）

#变量管理
import tensorflow as tf
#定义一个变量,此时为张量
v&＃61;tf.get_variable(&＃39;v&＃39;,shape&＃61;[1],initializer&＃61;tf.constant_initializer(1.0))
print(v)
#该v为在默认空间创建的变量

#在命名空间内创建变量,reuse的作用是获取已经创建过的变量,variables_scope的作用是管理变量名称
with tf.variable_scope(&＃39;foo&＃39;):v&＃61;tf.get_variable(&＃39;v&＃39;,shape&＃61;[1],initializer&＃61;tf.constant_initializer(1.0))
print(v)
with tf.variable_scope(&＃39;foo&＃39;,reuse&＃61;True):v1&＃61;tf.get_variable(&＃39;v&＃39;,[1])
print(v1.name)
print(v1&＃61;&＃61;v)


foo/v:0
True


with tf.variable_scope(&＃39;foo&＃39;):#如果指定reuse&＃xff0c;变量空间内层与外层的reuse值保持一致with tf.variable_scope(&＃39;bar&＃39;):v3&＃61;tf.get_variable(&＃39;v&＃39;,[1])print(v3.name)v4&＃61;tf.get_variable(&＃39;v1&＃39;,[1])print(v4.name)

foo/bar/v:0
foo/v1:0


#获取了一开始在默认变量空间创建的变量v
with tf.variable_scope(&＃39;&＃39;,reuse&＃61;True):v5&＃61;tf.get_variable(&＃39;foo/bar/v&＃39;,[1])print(v5.name)print(v5&＃61;&＃61;v3)v6&＃61;tf.get_variable(&＃39;foo/v1&＃39;,[1])print(v6.name)
#设置了在默认变量空间reuse&＃61;True&＃xff0c;说明变量只能获取先前已经在相应变量空间创建的变量&＃xff0c;方便变量的管理

foo/bar/v:0
True
foo/v1:0


综上来看&＃xff0c;一个tf的代码&＃xff0c;有默认的变量空间&＃xff0c;为了更方便地管理变量&＃xff0c;可以使用tf.variable_scope来创建相应的变量空间来管理&＃xff0c;省去了参数传递的过程。一般来说&＃xff0c;第一次创建变量用的是reuse&＃61;False&＃xff0c;然后再次调用相关变量只需要设置reuse&＃61;True&＃xff0c;来直接获取该变量空间下的变量&＃xff0c;而不需要传递&＃xff01;所以接下来看看改进后的inference.py

def inference(input_tensor,reuse&＃61;False):with tf.variable_scope(&＃39;layer1&＃39;,reuse&＃61;reuse):#......中间过程省略 with tf.variable_scope(&＃39;layer2,reuse&＃61;reuse&＃39;): #......中间过程省略return result
#使用前向函数inference的时候
new_y&＃61;inference(new_x,True)#这时候True意味着&＃xff0c;可以直接获取相应变量空间下的权重变量&＃xff0c;而不需要权重变量的参数传递。

最后关于tensorflow变量管理要注意的逻辑&＃xff1a;
1.上下文管理器tf.variable_scope的reuse之间若无明确规定&＃xff0c;则内外层reuse参数一致&＃xff1b;
若规定了外层变量空间reuse为True&＃xff0c;则内层reuse也为True&＃xff0c;但同层reuse不一定为True。
2.关于这里变量的创建与直接获取过程&＃xff0c;均与reuse有关。
3.其次&＃xff0c;此处所谓的变量均为张量tensor,不同变量空间中的张量名称不一样&＃xff0c;必须要启动会话才实现了真正的赋值
4.代码调试&＃xff0c;只能一次性run&＃xff0c;重复对同一变量获取或创建&＃xff0c;调试会出现变量已经存在的情况&＃xff0c;需要充分理解tensorflow变量管理的机制&＃xff01;