TensorFlow启用GPU加速
前言
据官网介绍,对于 tensorflow1.15 及更早版本,CPU和GPU软件包是分开的。
1 | pip install tensorflow==1.15 # CPU |
而之后的版本,我们可以直接在CPU版本的基础上开启GPU加速。
参考:GPU支持 | TensorFlow (tensorflow官方网站,国内访问可能较慢)
安装TensorFlow最新版
1 | pip install tensorflow |
如果嫌弃安装速度太慢,也可以使用国内豆瓣源
1 | pip install tensorflow -i https://pypi.doubanio.com/simple/ |
启用GPU加速
前提
- 硬件要求
支持以下带有 GPU 的设备:
- CUDA® 架构为 3.5、5.0、6.0、7.0、7.5、8.0 或更高的 NVIDIA® GPU 卡。请参阅支持 CUDA® 的 GPU 卡列表。
- 如果 GPU 采用的 CUDA® 架构不受支持,或为了避免从 PTX 进行 JIT 编译,亦或是为了使用不同版本的 NVIDIA® 库,请参阅在 Linux 下从源代码编译指南。
- 软件包不包含 PTX 代码,但最新支持的 CUDA® 架构除外;因此,如果设置了
CUDA_FORCE_PTX_JIT=1
,TensorFlow 将无法在旧款 GPU 上加载。(有关详细信息,请参阅应用兼容性。)
- 软件要求
必须在系统中安装以下 NVIDIA® 软件:
- NVIDIA® GPU 驱动程序 - CUDA® 11.2 要求 450.80.02 或更高版本。
- CUDA® 工具包:TensorFlow 支持 CUDA® 11.2(TensorFlow 2.5.0 及更高版本)
- CUDA® 工具包附带的 CUPTI。
- cuDNN SDK 8.1.0 cuDNN 版本。
- (可选)TensorRT 6.0,可缩短用某些模型进行推断的延迟时间并提高吞吐量。
下载相应软件
注:cuDNN下载需要登录Nvidia账号,如果嫌弃官网下载太慢,可以直接从我的百度网盘下载:
链接:https://pan.baidu.com/s/1Aw9mvoeEcOhsJ0qphJ_58Q
提取码:1234
配置环境
不知道如何配置Path环境变量?参考:草履虫都能看懂的系统环境变量配置 - IT-Small-White
- 将下载好的cudnn压缩包进行解压,备用
- 安装cuda(安装过程中一定要记下安装路径)
- 配置环境变量Path,添加如下内容:
1 | [你的cuda安装路径]\bin |
至此,安装启用完毕
测试
1 | import tensorflow as tf |
输出结果如下,表明安装成功
后记
使用GPU其实并不一定比CPU更快,这个要看网络结构大小。网络结构比较小的时候,CPU与GPU进行数据传输过程耗时很大,这个时候其实只使用CPU会更快。网络结构比较庞大的时候,GPU的提速效果就比较明显了。
本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 披萨盒的赛博日志!
评论