第3章：TensorFlow-基础.pptx

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,张明 副教授,人工智能原理：,基于,Python,语言和,TensorFlow,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.1,：,TensorFlow,的架构,1.,系统架构概述,TensorFlow的架构以C API为界，将整个系统分为“前端”和“后端”两个子系统：,前端系统（Front End）提供编程模型，负责构造计算图；,后端系统（Exec System）提供运行时环境，负责执行计算图。,3.1,：,TensorFlow,的架构,TensorFlow系统中如下的4个基本组件，它们是系统分布式运行机制的核心,：,客户端（Client）,分布式主机（Distributed Master）,工作服务（Worker Service）,内核工具（Kernel Implements）,3.1,：,TensorFlow,的架构,组件交互,：,如图3-2所示的是TensorFlow计算图的运行机制,/job:worker/task:0：负责模型的训练或推理。,/job:ps/task:0：此工作服务负责模型参数的存储和更新，又称为Parameter Server（简称PS）。,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.2,：,TensorFlow,的开发环境搭建,使用TensorFlow之前，需要先将其安装到计算机中。TensorFlow官方网站提供了一份在Linux和Mac OS X系统中安装TensorFlow的完整分步指南。由于Windows系统在全球计算机的覆盖度较大，Google公司也提供了Windows系统的安装方法，本书重点介绍在当前主流Windows系统（本书安装平台为Window 10操作系统）安装TensorFlow的步骤指南。,不论在Windows还是Linux、Mac OS X系统安装TensorFlow，Google公司都支持CPU和GPU两种版本的安装，其中CPU版本适合初学者或显卡不支持GPU加速的用户安装使用，GPU版本对机器性能要求较高（主要是显卡性能），但可以让用户得到更好的运行体验。鉴于教学使用，建议安装CPU版本。,3.2,：,TensorFlow,的开发环境搭建,Windows系统下安装TensorFlow,安装虚拟环境Anaconda,安装CPU版本TensorFlow,：显示如图所示的信息，表示安装成功,3.2,：,TensorFlow,的开发环境搭建,Windows系统下安装TensorFlow,安装虚拟环境Anaconda,安装GPU版本TensorFlow,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.3,：数据流图简介,1,数据流图基础,2,节点的依赖关系,3.3.1,：数据流图基础,借助TensorFlow API用代码描述的数据流图是每个TensorFlow程序的核心。,数据流图这种特殊类型的有向图用于定义计算结构。在TensorFlow中，数据流图本质上是一组链接在一起的函数，每个函数都会将其输出传递给0个、1个或更多个位于这个级联链上的其他函数。按照这种方式，用户可利用一些很小的、为人们所充分理解的数学函数构造数据的复杂变换。如,下,图所示。,3.3.1,：数据流图基础,下,图展示了可完成基本加法运算的数据流图。在该图中，加法运算是用圆圈表示的，它可接收两个输入（以指向该函数的箭头表示），并将1和2之和3输出（对应从该函数引出的箭头）。该函数的运算结果可传递给其他函数，也可直接返回给客户。,3.3.2,：节点的依赖关系,在数据流图中，节点之间的某些类型的连接是不被允许的，最常见的一种是将造成循环依赖（circular dependency）的连接。为理解“循环依赖”这个概念，需要先理解何为“依赖关系”。观察,下,图所示的数据流图。,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.4,：TensorFlow中定义数据流图,用于表示该数据流图的TensorFlow代码如下所示,:,3.4.2,：张量思维,张量，即n维矩阵的抽象。因此，1D张量等价于向量，2D张量等价于矩阵，对于更高维数的张量，可称“N维张量”或“N阶张量”。,3.4.3,：张量的形状,张量的形状可以是包含有序整数集的列表（list）或元组（tuple）：列表中元素的数量与维数一致，且每个元素描述了相应维度上的长度。,3.4.4,：,TensorFlow,的,Op,TensorFlow Op，是一些对（或利用）张量对象执行运算的节点。计算完毕后，它们会返回0个或多个张量，可在以后为数据流图中的其他Op所使用。为创建Op，需要在Python中调用其构造方法。调用时，需要传入计算所需的所有张量参数（称为输入）以及为正确创建Op的任何附加信息（称为属性）。,3.4.7,：输入与占位符,占位符的行为与张量对象一致，但在创建时无须为它们指定具体的数值。它们的作用是为运行时即将到来的某个张量对象预留位置，因此实际上变成了“输入”节点。利用tf.placeholder Op可创建占位符。,3.4.8,：Variable对象,Variable对象包含了在对Session.run()多次调用中可持久化的可变张量值。Variable对象的创建可通过Variable类的构造方法tf.Variable()完成。,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.5,：通过名称作用域组织数据流图,TensorFlow当前提供了一种帮助用户组织数据流图的机制名称作用域。,名称作用域的基本用法是将Op添加到with tf.name_scope（）语句块中，代码如下所示。,3.5,：通过名称作用域组织数据流图,名称作用域非常易于使用，且在用,TensorBoard,对,Graph,对象可视化时极有价值。本质上，名称作用域允许将,Op,划分到一些较大的、有名称的语句块中。当以后用,TensorBoard,加载数据流图时，每个名称作用域都将对其自己的,Op,进行封装，从而获得更好的可视化效果。名称作用域的基本用法是将,Op,添加到,with tf.name_scope,（,）语句块中,.,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.6,：构建数据流图,输入将采用占位符，而非tf.constant节点。,模型不再接收两个离散标量，而改为接收一个任意长度的向量。,使用该数据流图时，将随时间计算所有输出的总和。,将采用名称作用域对数据流图进行合理划分。,每次运行时，都将数据流图的输出、所有输出的累加以及所有输出的均值保存到磁盘，供TensorBoard使用。,第三章：,TensorFlow,基础,TensorFlow,的架构,TensorFlow,的开发环境搭建,数据流图简介,TensorFlow,中定义数据流图,通过名称作用域组织数据流图,构建数据流图,运行数据流图,3.7,：运行数据流图,打开一个Session对象，并加载已经创建好的Graph对象，也可打开一个tf.summary.FileWriter对象，便于以后利用它保存汇总数据。,下面将,d:tensorboardimproved_graph,作为保存汇总数据的目标文件夹，代码如下所示：,sess=tf.Session(graph=graph),writer=tf.summary.FileWriter(d:tensorboardimproved_graph,graph),Session,对象启动后，在做其他事之前，先对各,Variable,对象进行初始化：,sess.run(init),3.7,：运行数据流图,打开一个Session对象，并加载已经创建好的Graph对象，也可打开一个tf.summary.FileWriter对象，便于以后利用它保存汇总数据。,