Tensorflow:GraphSessionOp

原文链接 https://www.cnblogs.com/jiaxblog/p/9054051.html

graph即tf.Graph()&＃xff0c;session即tf.Session()

• graph定义了计算方式&＃xff0c;是一些加减乘除等运算的组合&＃xff0c;类似于一个函数。它本身不会进行任何计算&＃xff0c;也不保存任何中间计算结果。
• session用来运行一个graph&＃xff0c;或者运行graph的一部分。它类似于一个执行者&＃xff0c;给graph灌入输入数据&＃xff0c;得到输出&＃xff0c;并保存中间的计算结果。同时它也给graph分配计算资源&＃xff08;如内存、显卡等&＃xff09;。

TensorFlow是一种符号式编程框架

首先要构造一个图&＃xff08;graph&＃xff09;&＃xff0c;然后在这个图上做运算。打个比方&＃xff0c;graph就像一条生产线&＃xff0c;session就像生产者。生产线具有一系列的加工步骤&＃xff08;加减乘除等运算&＃xff09;&＃xff0c;生产者把原料投进去&＃xff0c;就能得到产品。不同生产者都可以使用这条生产线&＃xff0c;只要他们的加工步骤是一样的就行。同样的&＃xff0c;一个graph可以供多个session使用&＃xff0c;而一个session不一定需要使用graph的全部&＃xff0c;可以只使用其中的一部分。

关于graph

定义一个图&＃xff1a;graph

g &＃61; tf.Graph()
a &＃61; tf.constant(2)
b &＃61; tf.constant(3)
x &＃61; tf.add(a, b)

上面就定义了一个graph。tensorflow会默认给我们建立一个graph&＃xff0c;所以g &＃61; tf.Graph()这句其实是可以省略的。上面的graph包含3个操作&＃xff0c;即op&＃xff0c;但凡是op&＃xff0c;都需要通过session运行之后&＃xff0c;才能得到结果。如果你直接执行print(a)&＃xff0c;那么输出结果是&＃xff1a;

Tensor("a:0", shape&＃61;(), dtype&＃61;int32)

是一个张量&＃xff08;Tensor&＃xff09;。如果你执行print(tf.Session().run(a))&＃xff0c;才能得到2.

可以把所有的op都定义在一个graph中&＃xff1a;

x &＃61; tf.constant(2)
y &＃61; tf.constant(3)
z &＃61; tf.add(x, y)
v &＃61; tf.constant(4)
u &＃61; tf.mul(2, v)

从上面graph的定义可以看到&＃xff0c;x/y/z是一波&＃xff0c;u/v是另一波&＃xff0c;二者没有任何交集。这相当于在一个graph里有两个独立的subgraph。当你要计算z &＃61; x &＃43; y时&＃xff0c;执行tf.Session().run(z)&＃xff1b;当你想计算u &＃61; 2 * v&＃xff0c;就执行tf.Session().run(u)&＃xff0c;二者完全独立。但更重要的是&＃xff0c;二者在同一个session上运行&＃xff0c;系统会均衡地给两个subgraph分配合适的计算资源。

关于session

x &＃61; tf.constant(2)
y &＃61; tf.constant(3)
z &＃61; tf.add(x, y)with tf.Session() as sess:result &＃61; sess.run(z)print(result)

关于op

tensorflow是一个符号式编程的框架&＃xff0c;首先要定义一个graph&＃xff0c;然后用一个session来运行这个graph得到结果。graph就是由一系列op构成的。上面的tf.constant()&＃xff0c;tf.add()&＃xff0c;tf.mul()都是op&＃xff0c;都要现用session运行&＃xff0c;才能得到结果。

很多人会以为tf.Variable()也是op&＃xff0c;其实不是的。tensorflow里&＃xff0c;首字母大写的类&＃xff0c;首字母小写的才是op。tf.Variable()就是一个类&＃xff0c;不过它包含了各种op&＃xff0c;比如你定义了x &＃61; tf.Variable([2, 3], name &＃61; &＃39;vector&＃39;)&＃xff0c;那么x就具有如下op&＃xff1a;

• x.initializer # 对x做初始化&＃xff0c;即赋值为初始值[2, 3]
• x.value() # 获取x的值
• x.assign(...) # 赋值操作
• x.assign_add(...) # 加法操作

tf.Variable()必须先初始化&＃xff0c;再做运算&＃xff0c;否则会报错。下面的写法就不是很安全&＃xff0c;容易导致错误&＃xff1a;

W &＃61; tf.Variable(tf.truncated_normal([700, 10]))
U &＃61; tf.Variable(2 * W)

要把W赋值给U&＃xff0c;必须现把W初始化。但很多人往往忘记初始化&＃xff0c;从而出错。保险起见&＃xff0c;应该按照下面这样写&＃xff1a;

W &＃61; tf.Variable(tf.truncated_normal([700, 10]))
U &＃61; tf.Variable(2 * W.intialized_value())

一个特殊的op: tf.placeholder()

placeholder&＃xff0c;翻译过来就是占位符。其实它类似于函数里的自变量。比如z &＃61; x &＃43; y&＃xff0c;那么x和y就可以定义成占位符。占位符&＃xff0c;顾名思义&＃xff0c;就这是占一个位子&＃xff0c;平时不用关心它们的值&＃xff0c;当你做运算的时候&＃xff0c;你再把你的数据灌进去就行了。是不是和自变量很像&＃xff1f;看下面的代码&＃xff1a;

a &＃61; tf.placeholder(tf.float32, shape&＃61;[3]) # a是一个3维向量
b &＃61; tf.constant([5, 5, 5], tf.float32)
c &＃61; a &＃43; b
with tf.Session() as sess:print sess.run(c, feed_dict &＃61; {a: [1, 2, 3]}) # 把[1, 2, 3]灌到a里去

输出结果是[6, 7, 8]。上面代码中出现了feed_dict的概念&＃xff0c;其实就是用[1, 2, 3]代替a的意思。相当于在本轮计算中&＃xff0c;自变量a的取值为[1, 2, 3]。其实不仅仅是tf.placeholder才可以用feed_dict&＃xff0c;很多op都可以。只要tf.Graph.is_feedable(tensor)返回值是True&＃xff0c;那么这个tensor就可用用feed_dict来灌入数据。

tf.constant()是直接定义在graph里的&＃xff0c;它是graph的一部分&＃xff0c;会随着graph一起加载。如果通过tf.constant()定义了一个维度很高的张量&＃xff0c;那么graph占用的内存就会变大&＃xff0c;加载也会变慢。而tf.placeholder就没有这个问题&＃xff0c;所以如果数据维度很高的话&＃xff0c;定义成tf.placeholder是更好的选择。