在个人运行人工智能（AI）项目中，选择合适的Nvidia显卡至关重要。本文将汇总适合个人使用的Nvidia显卡，包括一些魔改卡，并提供价格参考，以帮助AI爱好者做出选择。

显卡选择背景

在论坛中，我发现许多人对使用Nvidia显卡进行AI项目感兴趣，但缺乏一个统一的总结。基于我个人的使用经验，包括2080ti 22g、3080 20g和4090d 48g，我将这些信息汇总如下，希望能为其他爱好者提供帮助。

显卡价格汇总

以下价格基于2023年12月27日的数据，可能会有所变动。我们主要关注大显存（至少16g）的显卡，或者性价比高的显卡（如3060 12g，尽管70系列12g的性价比可能不高）。

游戏卡/工作站卡系列

  • RTX PRO 6000：拥有96g显存，性能比RTX 5090强10%，但价格贵三倍，显存也大三倍。适合特别有钱的用户，一般个人用户难以考虑。闲鱼价格在5.4-5.8万，淘宝价格在6万出头。BlackWell架构，部分老旧AI软件兼容性可能不佳。
  • RTX 5090(D)：拥有32g显存，性能与D版本相差不大，但Dv2显存切割过多，不推荐。闲鱼价格在1.8-2万，淘宝价格在2.1-2.4万；如果是涡轮卡，价格一般在2.2-2.3万。BlackWell架构，部分老旧AI软件兼容性可能不佳。
  • RTX 4090(D)：提供24g/48g显存（推荐购买48g的魔改版）。带D版本与非D版本差价约2k，非D版本功耗高25w，核心数量稍多。24g版本D功耗1.7w，非D 2w；48g版本带D功耗2.2-2.3w，非D 2.3-2.4w。
  • RTX 4080：提供16g/32g显存。32g版本闲鱼价格约9k，淘宝价格约1万出头。40系列比30系列省电，支持bf16，且40系列没有矿卡风险。
  • 5070ti：拥有16g显存，PDD价格在6.2-6.5k，优点是正规卡。
  • 5060ti 16g：PDD价格在3.1-3.5k，优点是正规卡。
  • 4070ti super：拥有16g显存，PDD价格在4.8-5k，优点是正规卡。
  • 4060ti 16g：淘宝价格在2.8-3k，优点是正规卡（与5060ti价格相近，可能不如购买50系列）。
  • RTX 3090：拥有24g显存，老牌显卡，最后一代支持NVLink，但发热较大。闲鱼价格一般超过6k。
  • RTX 3080：提供10g/20g显存，性价比高，20g版本闲鱼价格一般在2.7-3k。支持bf16（许多现代LLM需要bf16加速），与50、40系列相比，80和90的CUDA核心数量最接近。
  • 3060 12G：12g显存对部分应用来说足够，但3060性能相对较慢。闲鱼价格在1.3-1.4k。
  • RTX 2080ti：提供11g/22g显存，价格在1.7-1.8k，比较便宜。虽然比4060ti在AI和游戏效果上稍差，但仍是二手市场中的不错选择。不支持bf16。

服务器卡系列

  • A100：提供40g/80g显存。40g版本价格约2.7w，80g版本价格在4-5w多。服务器卡无风扇，可能需要自行改装散热才能使用，通常在无尘机房中使用。
  • V100：16g版本闲鱼价格400-500，32g版本闲鱼价格1.8-2k。不支持bf16，但16g版本性价比很高，许多人在B站组过4卡或8卡V100集群。

其他问题

对魔改卡的态度

许多人听到魔改卡会担心其稳定性，认为可能比矿卡更危险。但我认为，只要选择一些在闲鱼或淘宝销量较高的商家（一般有1-3年质保），问题应该不大。因为魔改卡多卖给小企业，企业对稳定性的要求可能比个人高，且运行时间也比个人长。如果一个商家销量高且评价良好，那么这些卡应该是稳定的。

闲鱼和淘宝的区别

淘宝可能更不容易跑路，但两者可能都有厂家支持。闲鱼可能手续费较低，因此价格通常比淘宝便宜约10%。

涡轮卡或风扇卡？

涡轮卡在不运行高负载时噪音较小，适合游戏。但一旦开始训练，在房间里会非常吵，不过关上门在门口可能听不到。涡轮卡适合插在服务器主板上，而风扇卡则不适合。

希望这些信息能帮助您在个人AI项目中选择合适的Nvidia显卡。

标签: none

评论已关闭