一、概述

tf.cond是一個(gè)TensorFlow中的函數(shù)，可以在條件成立時(shí)執(zhí)行一個(gè)函數(shù)，否則執(zhí)行另一個(gè)函數(shù)。這個(gè)函數(shù)的返回值必須是Tensor類型，使得在圖構(gòu)建過程中，TensorFlow可以根據(jù)條件不同而選擇不同的路徑。它的格式如下：

tf.cond(
    pred,
    true_fn=None,
    false_fn=None,
    strict=False,
    name=None)

其中，pred為真假條件，true_fn為條件成立時(shí)執(zhí)行的函數(shù)，false_fn為條件不成立時(shí)執(zhí)行的函數(shù)。

二、tf.cond的應(yīng)用

1.控制流程

tf.cond主要應(yīng)用于動(dòng)態(tài)控制 TensorFlow 的計(jì)算流程，可以使得計(jì)算在運(yùn)行時(shí)根據(jù)條件發(fā)生改變。例如，當(dāng)訓(xùn)練模型時(shí)，我們需要根據(jù)當(dāng)前的訓(xùn)練次數(shù)，對(duì)模型參數(shù)進(jìn)行不同程度的更新，這時(shí)候就可以使用tf.cond函數(shù)。

import tensorflow as tf
import numpy as np
 
x = tf.constant(np.random.randn(3,2))
y = tf.constant(np.random.randn(3,2))
z = tf.reduce_sum(tf.cond(tf.less(x,y), lambda: (x - y) * y, lambda: (y - x) * x))
 
with tf.Session() as sess:
    result = sess.run(z)
    print(result)

在這個(gè)例子中，如果x < y，那么執(zhí)行第二個(gè)函數(shù) lambda: (x - y) * y，否則執(zhí)行第三個(gè)函數(shù) lambda: (y - x) * x。運(yùn)行結(jié)果就是對(duì)當(dāng)前數(shù)據(jù)進(jìn)行計(jì)算后得到的結(jié)果。

2.實(shí)現(xiàn)動(dòng)態(tài)圖計(jì)算

在計(jì)算圖中，我們用While循環(huán)代替for循環(huán)來(lái)處理任意長(zhǎng)度的序列的輸入，這就需要用到tf.cond來(lái)根據(jù)while循環(huán)中的條件來(lái)選擇不同的計(jì)算路徑。

import tensorflow as tf
 
x = tf.constant(10)
 
def cond(x):
    return x > 0
 
def body(x):
    return [tf.subtract(x,1)]
 
res = tf.while_loop(cond, body, loop_vars=[x]) 
 
with tf.Session() as sess:
    result = sess.run(res)
    print(result)

這段代碼中，當(dāng) x > 0 時(shí)，調(diào)用body() 函數(shù)計(jì)算一次迭代，當(dāng) x <= 0 時(shí)，停止迭代?？梢钥吹?，在while循環(huán)中，使用tf.cond的方式來(lái)管理循環(huán)的終止條件。

三、tf.cond的注意事項(xiàng)

1.返回值類型必須保持一致

tf.cond函數(shù)的兩個(gè)分支必須返回相同形狀的Tensor，否則會(huì)導(dǎo)致運(yùn)行時(shí)報(bào)錯(cuò)。這是因?yàn)樵趫D構(gòu)建過程中，TensorFlow需要預(yù)先對(duì)計(jì)算圖進(jìn)行靜態(tài)分析。因此，必須保證兩個(gè)分支返回值類型相同以使程序正常運(yùn)行。

2.可能引入性能問題

與其它編程語(yǔ)言不同，在 TensorFlow 中，每次調(diào)用tf.cond函數(shù)，都會(huì)同時(shí)計(jì)算兩個(gè)分支，無(wú)論條件是否成立。因此如果參數(shù)不是訓(xùn)練過程中的變量，使用if/else條件語(yǔ)句進(jìn)行判斷通常會(huì)比用tf.cond效率更高，因?yàn)閕f/else語(yǔ)句只會(huì)計(jì)算滿足條件的分支，而tf.cond會(huì)在計(jì)算圖構(gòu)建時(shí)同時(shí)計(jì)算兩個(gè)分支。

3.注意括號(hào)的使用

當(dāng)給予 tf.cond 函數(shù)的函數(shù)作為參數(shù)時(shí)必須加括號(hào)。比如下面這個(gè)例子：

x = tf.constant(1)
y = tf.constant(2)
 
def f1(): return tf.multiply(x, 17)
def f2(): return tf.add(y, 23)
r = tf.cond(tf.less(x,y), f1, f2)
 
# 此時(shí)r的值為3，也就是f2()函數(shù)的返回值

注意，傳遞函數(shù)時(shí)沒有加括號(hào)會(huì)引發(fā)錯(cuò)誤，但是如果使用lambda，則不需要加括號(hào)：

r = tf.cond(tf.less(x,y), lambda: tf.multiply(x, 17), lambda: tf.add(y, 23))
# 此時(shí)r的值為3，也就是lambda: tf.add(y, 23)函數(shù)的返回值