自己想攒个四卡的深度学习工作站，硬件来源？(合集转寄)

请教下，淘宝或闲鱼能买到合适的主板，机箱和电源吗？预计四块4090的样子。总价能多少下来？

我的cpu 和主板是咸鱼买的。其它的都是新的。 大头是显卡，而且4090不支持nvlink 。

二楼的方案可以。在其他帖子有细节。 另外推荐个方案： 1.8卡 p100， 16 *8 = 128G显存 2.其他都买浪潮二手服务器自带的cpu、内存 3.配一两块硬盘 p100现在是1400左右，二手服务器+cpu、内存等在9000左右 总价在22000左右.如果p100嫌贵，可以买p40（24G显存，但不支持半精度），900元一块。 优点：价格便宜，2万块出头能组一个128G显存的机器，而且支持半精度 缺点：服务器噪音巨大

还可以考虑2080ti 魔改22G版 支持半精度，4090能跑的他也能跑，就是慢了点，售价只有4090的零头

这8个卡怎么连接？用pcie太慢了，用nvlink成本不小。

就是pcie的方案。

感谢大家指导

电脑配置

建议资金不富裕就买Quadro K6000*4，资金中等买M6000，资金充裕买 P6000，都有 12G和24G版，价格差1000，单价tb很多。 钱都花那么多了，还不支持双精度计算，投资完全浪费。 可以配个超微 单路 支持 4路双宽的板子3-4000，加个多核cpu+内存。资金有限也可以整3路，性能高的。都有相应的解决方案。 Quadro K6000，单精度浮点性能为5.2TFlops，双精度浮点计算能力大约为1.7TFlops。参考下M比K快30-40%，P比M再快30-40%。

多谢

4090在哪买的

京东自营

搞俩a40组nvlink不行？价格差不多，显存功耗都好多了。

看到个东西，仅供参考

双精度对ai没啥用。 现在ai都在搞4bit计算了，还双精度...

pcie x1的垃圾而已

请教一下，我的主板是x79的，用cpu-z查看应该是pcie3.0的，可用gpu-z查看显卡却是工作在pcie2.0下，问题出在哪里？像3090这种pcie4.0的显卡如果工作在pcie3.0或2.0下，对深度学习的训练有多大影响？

消费卡不建议多卡，并行效果不好，单卡4090，3090不错。有钱上计算卡，V100 32G性价比不错，三楼的P40也可以考虑。根据你的方向来，如果做NLP一定大显存。 内存4通道打底，200G保底，这个也很重要，看你数据集小。 主板一定要好，二手服务器也可以，他们的机子要定期退的。注意电源，UPS非常重要，IPS是可选的，电源要好，主要空调。 有老板付钱就往上堆，自己就根据方向配。一般来说计算卡比较保值。咸鱼别考虑，淘宝可选，不过有认识那些数据中心人最好。

最低pcie3.0 x8，等价pcie4.0 x4 再低就有显著影响了。 你的问题可能是接触不良跑在降级的profile上了。

ups意义不大。个人用遇到掉电了也无所谓，反正训练过程中会有checkpoint，顶天浪费1-2小时而已。 内存问题看会不会用到off load，不然也一样意义不大，不管是容量还是带宽。

内存问题好说，但UPS绝对非常重要。 有一次我一客户出错了，算出了一个意外值，排查了好久，最后判断是显卡意外断电核心烧了，UPS不是为了保模型，是为了保硬件。

目前两张3090都是运行在pcie2.0 x16

推荐，李牧深度学习装机，超赞。感谢我吧，随便转点积分。

这种概率可能还没4090供电线烧了的概率大。 小概率事件无视就行了。 另外，gpu算错很常见的事情，不然你以为为啥ecc会是tesla级的配置？

关键是硬件太贵了，一个能用的UPS不到2000，不过到底买不买看楼主最后预算吧。 消费卡没有ECC，这个lz需要注意下。