深度学习 基础硬件CPU GPU知识笔记

参考：李沐《动手学深度学习v2》https://www.bilibili.com/video/BV1TU4y1j7Wd

桌面GPU排名：https://www.mydrivers.com/zhuanti/tianti/gpu/index.html
桌面CPU排名：https://www.mydrivers.com/zhuanti/tianti/cpu/index.html

CPU与GPU

在这里插入图片描述
（GPU，控制流单元删了很多，也没有三级缓存留给计算单位）

基本配置

在这里插入图片描述

Intel i7-6700K

在这里插入图片描述

提升利用率

提升GPU利用率

在这里插入图片描述
并行：取决于矩阵尺寸，神经网络大小，小的神经网络并行性小

提升CPU利用率

空间和时间
在这里插入图片描述
并行
在这里插入图片描述
在这里插入图片描述

CPU/GPU带宽

在这里插入图片描述

更多选择

在这里插入图片描述

CPU/GPU高性能编程

在这里插入图片描述

总结

在这里插入图片描述

更多芯片

在这里插入图片描述

DPS

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

总结

在这里插入图片描述

单机多卡并行

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
总结：
在这里插入图片描述

GPU使用选择

  1. 服务器 DGX A100 100万钱
  2. 云 3年=服务器
  3. 高端显卡+GPU

GPU配置对比

在这里插入图片描述

在这里插入图片描述
3080增速下降
在这里插入图片描述
在这里插入图片描述
内存
在这里插入图片描述

提高性能

  • 大的批量大小（太大收敛也会变慢）
  • 快的数据类型，如16位浮点数
  • 实现好的性能版本

购买GPU

  • 显存
  • 计算能力
  • 价格

在这里插入图片描述

不同型号核越多

  • 价格与性价正比、买最新最贵的
版权声明：本文为weixin_38235865原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。