如何在Windows上通过TensorFlow无缝下载，安装和使用Nvidia GPU来训练深度神经网络
了解深度学习中的GPU
CPU可以更快的速度获取数据，但是一次不能处理更多的数据，因为CPU必须对主存储器进行多次迭代才能执行简单的任务。另一方面，GPU带有自己的专用VRAM（视频RAM）内存，因此对主内存的调用减少，因此速度很快
CPU按顺序执行作业并具有更少的内核，但是GPU带有数百个并行工作的较小内核，从而使GPU成为高度并行的体系结构，从而提高了性能。
从安装TensorFlow的先决条件开始– GPU
仅当您具有启用CUDA的图形卡时，Tensorflow GPU才能工作。在过去的三到四年中，所有较新的NVidia图形卡都启用了CUDA。
但是，让我们暂停一下，检查一下您的显卡是否已启用CUDA，因为“错误的假设会给每个人带来痛苦”。
验证图形卡详细信息。从“开始”菜单中打开运行窗口，然后运行Control / name Microsoft.DeviceManager.graphics卡将显示在“显示适配器”下
英伟达GPU
每台机器都将配备集成的图形卡，这些图形卡与CPU放置在同一芯片上，并且它依靠系统内存来处理图形，而独立的图形卡则是独立于CPU的单元，并具有较高的图形处理性能。
GPU功能由独立显卡提供。因此，请确保您的计算机同时安装了集成显卡和独立显卡。
Nvidia网站上列出了所有已启用Cuda的Nvidia显卡的计算功能。仅当该列表中提供独立显卡时，它才能支持TensorFlow GPU。
NVIDIA GPU-CUDA
来源：https://developer.nvidia.com/cuda-gpus
众所周知，独立显卡可以支持TensorFlow GPU。从安装开始
要确保以前的NVidia设置或配置均不影响安装，请卸载所有NVidia图形驱动程序和软件（可选步骤）。
安装必需的先决条件  
第一步：安装Visual Studio 2017
Microsoft Visual Studio是Microsoft的集成开发环境，用于开发计算机程序以及网站，Web应用程序，Web服务和移动应用程序。
CUDA工具包包括Visual Studio项目模板和NSight IDE（可从Visual Studio使用）。我们需要安装VC ++ 2017工具集（CUDA仍与Visual Studio的最新版本不兼容）。
可以从Microsoft的官方Visual Studio网站下载Visual Studio，通过选择“使用c ++进行桌面开发”工作负载来下载软件并安装
安装时使用Cuda工具包，安装必要的库，然后检查系统中可用的Visual Studio版本，然后安装Visual Studio集成。因此，必须执行以下步骤才能在系统中安装Visual Studio。
步骤2：下载并安装NVIDIA驱动程序
Nvidia驱动程序 是 PC上安装的Nvidia Graphics GPU的软件驱动程序。它是用于从Windows PC OS到设备进行通信的程序。在大多数情况下，此软件是硬件设备正常运行所必需的
要进行下载，请导航至Nvidia.com的下载页面，并在下拉菜单中提供图形卡和系统的所有详细信息。单击搜索，然后我们将提供下载链接。
NVIDIA GPU-下载驱动程序
NVIDIA GPU-驱动程序
安装下载的Nvidia驱动程序
安装后，我们应该在C驱动器的程序文件中包含NCUDIA GPU计算工具包的文件夹中，其中包含CUDA子文件夹。
第三步： Cuda工具包
Nvidia CUDA工具包提供了用于创建高性能GPU加速应用程序的开发环境。借助CUDA Toolkit，您可以在GPU加速的嵌入式系统，台式机工作站，企业数据中心，基于云的平台和HPC超级计算机上开发，优化和部署应用程序。该工具包包括GPU加速的库，调试和优化工具，C / C ++编译器以及运行时库，用于在包括x86，Arm和POWER在内的主要架构上构建和部署应用程序。
Tensorflow支持多种版本的CUDA。我们可以在TensorFlow GPU支持网页中找到TensorFlow支持的最新Cuda版本。
在developer.nvidia.com的CUDA工具包档案中，下载所需的CUDA工具包。
NVIDIA GPU-CUDA工具包档案
NVIDIA GPU-CUDA更新
步骤4：下载cuDNN
cuDNN是一个库，其中包含一组优化的低级原语，以提高CUDA兼容GPU上的深度神经网络（DNN）的处理速度。
导航至developer.nvidia.com的cuDNN下载网页，并下载与CUDA版本兼容的cuDNN版本。
NVIDIA GPU cuDNN
下载完成后，解压缩下载的文件夹。下载的文件夹应包含CUDA文件夹，并且此CUDA文件夹的内容应与程序文件的NVidia GPU计算工具包文件夹中的CUDA文件夹匹配。请参考下图。
例
从最新提取的文件夹的bin中复制cudnn64_88.dll，并将其粘贴到Nvidia GPU计算工具套件的Cuda文件夹内的相似bin文件夹中。
从最新提取的文件夹的include子文件夹中复制cudnn.h文件，并将其粘贴到Nvidia GPU计算工具包的Cuda文件夹内的相似bin文件夹中。
从最新提取的文件夹的lib> X64文件夹子文件夹中复制cudnn.lib，并将其粘贴到Nvidia GPU计算工具包的Cuda文件夹内的类似bin文件夹中。
现在，我们已经完成了Cuda for GPU的下载和安装。让我们设置环境。
安装和设置GPU环境
Anaconda是有助于建立虚拟环境的python发行版。假设已经安装了anaconda，让我们从创建虚拟环境开始。
步骤1：建立环境变数
使用命令– <cmd>从命令提示符创建虚拟环境conda create -n [env_name] python = [python_version]
Tensor流仅支持python的几个版本。选择在创建环境时支持张量的Python版本。
接下来，使用命令激活虚拟环境– <cmd>激活[env_name]。
在创建的虚拟环境中，使用命令– <cmd> pip install安装最新版本的张量流GPU –忽略安装–升级TensorFlow-GPU
一旦我们完成了张量流GPU的安装，请检查您的机器是否具有python的基本软件包，例如pandas，numpy，jupyter和Keras。如果不存在，请安装它们。
通过命令– <cmd>安装ipykernel pip install ipykernel
让我们设置显示名称，并使用命令– <cmd> python –m ipykernel install –user –name [env_name] –display-name“ any name”，将内核链接到虚拟环境变量。
步骤2：在jupyter中设置python内核。
打开jupyter笔记本，然后从菜单栏中单击内核并将内核更改为我们刚刚设置的环境变量
测试和验证GPU的安装。
检查TensorFlow可用的所有物理GPU设备。运行以下代码
From tensorflow.python.client import device_lib
print(device_lib.list_local_devices())
这会打印Tensorflow的所有可用设备
NVIDIA GPU-TF可用设备
要检查是否为TensorFlow启用了CUDA，请运行以下代码
Import tensorflow as tf
print(tf.test.is_built_with_cuda())
输出将是一个布尔值，如果使用CUDA构建TensorFlow，则结果为true
要知道在运行时是否触发了GPU，请开始执行任何复杂的神经网络。
任务管理器显示GPU利用率以及Tensorflow程序执行所占用的内存。
显卡
如果任务管理器的“进程”选项卡未显示GPU利用率，这是在Windows 8.1 OS上运行的计算机的一种情况，请使用第三方工具（例如GPUZ）来观察GPU利用率
中央处理器
至此，GPU的完整安装和设置完成。
题库