一．介绍

在一个典型的系统中，有多个计算设备。在 TensorFlow 中支持的设备类型包括 CPU 和 GPU。他们用字符串来表达，例如：

"/cpu:0": 机器的 CPU
"/device:GPU:0": 机器的 GPU 如果你只有一个
"/device:GPU:1": 机器的第二个 GPU

如果 TensorFlow 操作同时有 CPU 和 GPU 的实现，操作将会优先分配给 GPU 设备。例如，matmul 同时有 CPU 和 GPU 核心，在一个系统中同时有设备 cpu:0 和 gpu:0，gpu:0 将会被选择来执行 matmul。

二． 记录设备状态

为了确定你的操作和张量分配给了哪一个设备，创建一个把 log_device_placement 的配置选项设置为 True 的会话即可。


# 创建一个计算图



a


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

2

,

 


3

], name=

'a'

)



b


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

3

,

 


2

], name=

'b'

)



c


 

=

 


tf

.matmul(

a

,

 


b

)


# 创建一个 session，它的 log_device_placement 被设置为 True.


sess =

 


tf

.Session(config=

tf

.ConfigProto(log_device_placement=True))


# 运行这个操作



print

(sess.run(

c

))

你将会看到一下输出:



Device


 


mapping

:


/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0


 


-

>

 


device

:

 



,

 


name

:

 


Tesla


 


K40c

,

 


pci


 


bus




id

:

 


0000


:05


:00.0




b

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0




a

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0




MatMul

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0




[[ 22.  28.]




[ 49.  64.]

]

三．手动分配设备

如果你希望一个特定的操作运行在一个你选择的设备上，而不是自动选择的设备，你可以使用 tf.device 来创建一个设备环境，这样所有在这个环境的操作会有相同的设备分配选项。


# 创建一个会话


with

 


tf

.device(

'/cpu:0'

):


 

a


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

2

,

 


3

], name=

'a'

)


 

b


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

3

,

 


2

], name=

'b'

)



c


 

=

 


tf

.matmul(

a

,

 


b

)


# 创建一个 session，它的 log_device_placement 被设置为 True


sess =

 


tf

.Session(config=

tf

.ConfigProto(log_device_placement=True))


# 运行这个操作



print

(sess.run(

c

))

你将会看到 a 和 b 被分配给了 cpu:0。因为没有指定特定的设备来执行 matmul 操作，TensorFlow 将会根据操作和已有的设备来选择(在这个例子中是 gpu:0)，并且如果有需要会自动在设备之间复制张量。



Device


 


mapping

:


/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0


 


-

>

 


device

:

 



,

 


name

:

 


Tesla


 


K40c

,

 


pci


 


bus




id

:

 


0000


:05


:00.0




b

: /

job


:localhost

/

replica


:0

/

task


:0

/

cpu


:0




a

: /

job


:localhost

/

replica


:0

/

task


:0

/

cpu


:0




MatMul

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0




[[ 22.  28.]




[ 49.  64.]

]

四．允许 GPU 内存增长

默认情况下，TensorFlow 将几乎所有的 GPU的显存（受 CUDA_VISIBLE_DEVICES 影响）映射到进程。通过减少内存碎片，可以更有效地使用设备上宝贵的GPU内存资源。

在某些情况下，只需要分配可用内存的一个子集给进程，或者仅根据进程需要增加内存使用量。 TensorFlow 在 Session 上提供了两个 Config 选项来控制这个选项。

第一个是 allow_growth 选项，它根据运行时的需要分配 GPU 内存：它开始分配很少的内存，并且随着 Sessions 运行并需要更多的 GPU 内存，我们根据 TensorFlow 进程需要继续扩展了GPU所需的内存区域。请注意，我们不释放内存，因为这会导致内存碎片变得更糟。要打开此选项，请通过以下方式在 ConfigProto 中设置选项：


config =

 


tf

.ConfigProto()


config.gpu_options.allow_growth = True


session =

 


tf

.Session(config=config, ...)

第二种方法是 per_process_gpu_memory_fraction 选项，它决定了每个可见GPU应该分配的总内存量的一部分。例如，可以通过以下方式告诉 TensorFlow 仅分配每个GPU的总内存的40％：


config =

 


tf

.ConfigProto()


config.gpu_options.per_process_gpu_memory_fraction =

 


0.4



session =

 


tf

.Session(config=config, ...)

如果要真正限制 TensorFlow 进程可用的GPU内存量，这非常有用。

五．在多 GPU系统上使用单个GPU

如果您的系统中有多个GPU，则默认情况下将选择具有最低ID的GPU。如果您想在不同的GPU上运行，则需要明确指定首选项：


# 创建一个计算图


with

 


tf

.device(

'/device:GPU:2'

):


 

a


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

2

,

 


3

], name=

'a'

)


 

b


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

3

,

 


2

], name=

'b'

)


 

c


 

=

 


tf

.matmul(

a

,

 


b

)


# 创建一个 log_device_placement 设置为True 的会话


sess =

 


tf

.Session(config=

tf

.ConfigProto(log_device_placement=True))


# 运行这个操作



print

(sess.run(

c

))

你会看到现在 a 和 b 被分配给 cpu:0。由于未明确指定设备用于 MatMul 操作，因此 TensorFlow 运行时将根据操作和可用设备（本例中为 gpu:0）选择一个设备，并根据需要自动复制设备之间的张量。

如果指定的设备不存在，将得到 InvalidArgumentError：


InvalidArgumentError: Invalid argumen

t:


 

Cannot assign

 


a


 

device

 


to


 

node

 


'b'

:


Could not satisfy explicit device specification

 


'/device:GPU:2'



  [[Node:

 


b


 

= Const[dtype=DT_FLOAT, value=Tensor<

type

: float shape: [

3

,

2

]


  value

s:


 


1


 


2


 


3

...>, _device=

"/device:GPU:2"

]()]]

如果希望 TensorFlow 在指定的设备不存在的情况下自动选择现有的受支持设备来运行操

作，则可以在创建会话时在配置选项中将 allow_soft_placement 设置为 True。


# 创建计算图


with

 


tf

.device(

'/device:GPU:2'

):


 

a


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

2

,

 


3

], name=

'a'

)


 

b


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

3

,

 


2

], name=

'b'

)


 

c


 

=

 


tf

.matmul(

a

,

 


b

)


# 创建一个 allow_soft_placement 和 log_device_placement 设置为 True 的会话




sess =

 


tf

.Session(config=

tf

.ConfigProto(


     allow_soft_placement=True, log_device_placement=True))


# 运行这个操作



print

(sess.run(

c

))

六． 使用多个 GPU

如果您想要在多个 GPU 上运行 TensorFlow ，则可以采用多塔式方式构建模型，其中每个塔都分配有不同的 GPU。例如：


# 创建计算图



c


 

= []



for


 

d in [

'/device:GPU:2'

,

 


'/device:GPU:3'

]:


 with

 


tf

.device(d):


   

a


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

2

,

 


3

])


   

b


 

=

 


tf

.constant([

1.0

,

 


2.0

,

 


3.0

,

 


4.0

,

 


5.0

,

 


6.0

], shape=[

3

,

 


2

])


   

c

.

append

(

tf

.matmul(

a

,

 


b

))


with

 


tf

.device(

'/cpu:0'

):


 sum =

 


tf

.add_n(

c

)


# 创建一个 log_device_placement 设置为 True 的会话


sess =

 


tf

.Session(config=

tf

.ConfigProto(log_device_placement=True))


# 运行这个操作



print

(sess.run(sum))

你将会看到以下的输出：



Device


 


mapping

:


/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:0


 


-

>

 


device

:

 



,

 


name

:

 


Tesla


 


K20m

,

 


pci


 


bus




id

:

 


0000


:02


:00.0



/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:1


 


-

>

 


device

:

 


1

,

 


name

:

 


Tesla


 


K20m

,

 


pci


 


bus




id

:

 


0000


:03


:00.0



/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:2


 


-

>

 


device

:

 


2

,

 


name

:

 


Tesla


 


K20m

,

 


pci


 


bus




id

:

 


0000


:83


:00.0



/

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:3


 


-

>

 


device

:

 


3

,

 


name

:

 


Tesla


 


K20m

,

 


pci


 


bus




id

:

 


0000


:84


:00.0




Const_3

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:3




Const_2

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:3




MatMul_1

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:3




Const_1

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:2




Const

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:2




MatMul

: /

job


:localhost

/

replica


:0

/

task


:0

/

device


:GPU


:2




AddN

: /

job


:localhost

/

replica


:0

/

task


:0

/

cpu


:0




[[  44.   56.]




[  98.  128.]

]

【本文转载自：磐创AI，作者：翻译 | fendouai，原文连接：https://mp.weixin.qq.com/s/x3OTTwaEno0i-_z1DBExlQ】

ITPub博客

Tensorflow多GPU使用详解

最新文章