Cuda版本 vs GPU显卡驱动版本，支持多种GPU时怎么选

每日一歌，分享好心情：骑在银龙的背上(中岛阿姨，墙推)

受益于AI行业强劲的需求以及制造工艺的提升，GPU不断推陈出新
与此同时，上层业务软件需要支持这些新的GPU以获取更高的计算性能…
那么，面对这些刚买来的gpu 怎么确定显卡驱动和cuda的版本呢？

1. 我们常说的cuda指的是 nvidia cuda toolkit，不是驱动哦…
   相应的，cuda版本也即CUDA工具包的版本，而不是显卡驱动版本，请注意~~
2. 运行cuda应用程序需要有两个前提：
   ①硬件：支持cuda的显卡
   ②软件：与cuda toolkit兼容的显卡驱动程序
   cuda每个版本都对应一个最低版本的显卡驱动程序
   也就是说，cuda程序是向后兼容的，针对特定版本的 CUDA 编译的应用程序将继续在后续（以后）驱动程序版本上工作。

例如cuda10.x 和cuda11.x对显卡驱动的要求如下：

注意：
不同的小版本号对显卡驱动的要求可能是不同的。

3. 怎么选择cuda版本呢？

查看显卡型号，然后再查看该型号显卡的产品型录中关于cuda的约束。

例如买的是A10显卡，官方产品文档的软件规格项中有

如果我们的程序需要运行在多种型号的GPU上（通常是这样），那就需要查看各个GPU的文档，选择一个公共的的CUDA版本。

正如，第一节中的截图所示，一般每种显卡产品型录有对驱动的约束，我们只需要按照约束选择驱动版本就可以。

前面两个小节说介绍的都是英伟达显卡对CUDA和驱动的最低版本要求，但是我们工作中选择时一般不会按照这种方式选择。

下面介绍一种种更合理的方式：

• 先选择官方推荐的CUDA版本
  在驱动驱动面，设置好gpu型号后可以看到官方推荐的cuda版本
  例如常见的T4卡：
  

• 然后点击 搜索 就会显示nvidia官方推荐的的驱动版本，如下图所示
  

• 当然，这只是从显卡的角度来选择驱动和cuda版本；
  在实际开发中，还受制于其他的方面，需要综合考虑， 例如支持的TensorRT版本等等…
  tensorRT8 建议的cuda 版本： https://github.com/NVIDIA/TensorRT
  

其实是挺简单的问题，刚接触GPU时一直有这个困惑，写下来避免大家走弯路…

have a good day~~